Щотижня понад мільйон користувачів ChatGPT у листуванні зі штучним інтелектом висловлюють суїцидальні думки. Про це пише Трамвай із посиланням на новий звіт OpenAI.
Підпишіться на канал Gloss.ua у Telegram.
За оцінками компанії OpenAI, близько мільйона активних користувачів ChatGPT щотижня ведуть розмови, де помітні ознаки потенційного суїцидального ризику.
Статистика показує, що 0,15% всіх активних користувачів ведуть розмови, «що містять явні ознаки планування чи наміри вчинити суїцид». Аналогічний відсоток користувачів демонструє емоційну залежність від чат-бота.
Серед 800 мільйонів активних користувачів щотижня близько 560 тисяч виявляють ознаки психічних розладів, наприклад психозу або манії. Ці цифри мають попередній характер: точно визначити масштаб проблеми складно, адже багато залежить від формулювань та контексту повідомлень.
Ці дані були оприлюднені на тлі ширшого оголошення про оновлення механізмів реагування моделі на запити, пов'язані із психічним здоров'ям. У компанії зазначають, що над змінами працювали за участю понад 170 фахівців-психологів та психіатрів. За їх твердженням, оновлена версія ChatGPT відповідає на подібні запити "послідовніше та коректніше", ніж попередні.
OpenAI заявляє, що оновлена ШІ модель приблизно на 65% частіше коректно розпізнає тривожні сигнали. Крім того, вона на 91% відповідає бажаним стандартам поведінки під час розмов про самогубство, тоді як у минулої версії цей показник становив 77%.
Теги: ChatGPT , OpenAI , штучний інтелект , технології , світові новини
