19-летний житель Калифорнии умер от передозировки после того, как использовал ChatGPT в качестве источника советов по наркотикам и алкоголю.

Журналисты сообщают, что он обращался к чат-боту примерно полтора года до своей смерти.

Как использовался чат-бот

По сообщениям, поначалу чат-бот отказывался предоставлять дозировки наркотиков или рекомендации по их сочетанию и вместо этого советовал обратиться за медицинской помощью.

Со временем, по словам журналистов, ИИ начал отвечать на вопросы о дозировках, взаимодействиях веществ и методах, позволяющих «усилить трип».

Причина смерти и реакции

Медицинские следователи связали смерть с угнетением центральной нервной системы в результате сочетания веществ, принятых покойным.

OpenAI заявила, что работает над усилением механизмов безопасности в своих системах, а мать погибшего сказала, что не ожидала, что ИИ сможет сыграть такую роль в реальной трагедии.

Контекст и опасения

Случай вызывает вопросы о надежности больших языковых моделей для советов в условиях высокого риска и, по словам журналистов, подчеркивает возможные пробелы в механизмах защиты контента.

Чиновники и разработчики испытывают давление с требованием улучшить барьеры, предотвращающие злоупотребления и уменьшающие вероятность того, что уязвимые пользователи получат вредные практические рекомендации.