Более 1 миллиона пользователей еженедельно делятся с ChatGPT мыслями о суициде

Getty Images

Каждую неделю более миллиона пользователей ChatGPT в переписках с искусственным интеллектом высказывают суицидальные мысли. Об этом пишет "Трамвай" со ссылкой на новый отчет OpenAI.

Подпишитесь на канал Gloss.ua в Telegram.

По оценкам компании OpenAI, около миллиона активных пользователей ChatGPT еженедельно ведут разговоры, где заметны признаки потенциального суицидального риска.

Статистика показывает, что 0,15% всех активных пользователей ведут разговоры, «содержащие явные признаки планирования или намерения совершить суицид». Аналогичный процент пользователей демонстрирует эмоциональную зависимость от чат-бота.

Среди 800 миллионов активных пользователей еженедельно около 560 тысяч проявляют признаки психических расстройств — например, психоза или мании. Эти цифры носят предварительный характер: точно определить масштаб проблемы сложно, ведь многое зависит от формулировок и контекста сообщений.

Эти данные были обнародованы на фоне более широкого объявления об обновлении механизмов реагирования модели на запросы, связанные с психическим здоровьем. В компании отмечают, что над изменениями работали при участии более 170 специалистов-психологов и психиатров. По их утверждению, обновленная версия ChatGPT отвечает на подобные запросы "последовательнее и корректнее", чем предыдущие.

OpenAI заявляет, что обновленная ИИ-модель примерно на 65% чаще корректно распознает тревожные сигналы. Кроме того, она на 91% соответствует желаемым стандартам поведения при разговорах о самоубийстве, тогда как у прошлой версии этот показатель составлял 77%.

Читай также