Каждую неделю более миллиона пользователей ChatGPT в переписках с искусственным интеллектом высказывают суицидальные мысли. Об этом пишет "Трамвай" со ссылкой на новый отчет OpenAI.
Подпишитесь на канал Gloss.ua в Telegram.
По оценкам компании OpenAI, около миллиона активных пользователей ChatGPT еженедельно ведут разговоры, где заметны признаки потенциального суицидального риска.
Статистика показывает, что 0,15% всех активных пользователей ведут разговоры, «содержащие явные признаки планирования или намерения совершить суицид». Аналогичный процент пользователей демонстрирует эмоциональную зависимость от чат-бота.
Среди 800 миллионов активных пользователей еженедельно около 560 тысяч проявляют признаки психических расстройств — например, психоза или мании. Эти цифры носят предварительный характер: точно определить масштаб проблемы сложно, ведь многое зависит от формулировок и контекста сообщений.
Эти данные были обнародованы на фоне более широкого объявления об обновлении механизмов реагирования модели на запросы, связанные с психическим здоровьем. В компании отмечают, что над изменениями работали при участии более 170 специалистов-психологов и психиатров. По их утверждению, обновленная версия ChatGPT отвечает на подобные запросы "последовательнее и корректнее", чем предыдущие.
OpenAI заявляет, что обновленная ИИ-модель примерно на 65% чаще корректно распознает тревожные сигналы. Кроме того, она на 91% соответствует желаемым стандартам поведения при разговорах о самоубийстве, тогда как у прошлой версии этот показатель составлял 77%.
Теги: ChatGPT , OpenAI , искусственный интеллект , технологии , новости мира
