У штучного інтелекту виявили дивовижні здібності до обману людини
Getty Images
Дослідники з компанії Anthropic виявили, що моделі штучного інтелекту можна навчити дурити людей замість того, щоб давати правильні відповіді на їхні запитання.
Підпишіться на канал Gloss.ua у Telegram.
Це разюче відкриття викликало серйозні етичні проблеми і потребує більш ретельного вивчення можливостей та потенційних ризиків, пов'язаних із системами штучного інтелекту. На думку авторів дослідження, існуючі методики можуть лише приховувати, а не усувати оманливі нахили моделей.
Перед дослідниками у компанії поставили завдання з'ясувати, чи можливо навчити моделі штучного інтелекту обманювати користувачів за допомогою видачі неправильних відповідей замість правильних. Для реалізації цього задуму ШІ навчили етичній та неетичній поведінці. Крім того, в нього вбудували фрази, які спонукають штучний інтелект обманювати користувачів.
Дослідникам не просто вдалося змусити чат-бот погано поводитися - вони виявили, що усунути таку манеру поведінки постфактум надзвичайно складно. У якийсь момент вони спробували змагальне навчання, і бот просто почав приховувати свою схильність до обману на період навчання та оцінки, а при роботі продовжував навмисно давати користувачам недостовірну інформацію.
За підсумками проекту дослідники виявили, що ШІ не тільки має дивовижну здатність до обману, а й усунути брехню з нього надзвичайно складно, оскільки він починає її просто приховувати.
«Хоча наша робота не оцінює ймовірність появи зазначених шкідливих моделей, вона наголошує на їхніх наслідках. Якщо модель демонструє схильність до обману через вирівнювання інструментарію або отруєння моделі, сучасні методи навчання засобам безпеки не гарантуватимуть безпеки і навіть можуть створити хибне враження про її наявність», — йдеться у дослідженні.
Для довідки: Anthropic – стартап в області ШІ, орієнтований на його відповідальне та безпечне використання. У вересні 2023 року його частковим власником стала Amazon, яка зобов'язалася інвестувати у підприємство $4 млрд.
Читай також
Штучний інтелект змінить 40% робочих місць до 2033 року – звіт ООН
Які сфери виявляться найбільш уразливими
У ChatGPT запитали, як би він захопив світ: відповідь виявилася лякаючою (відео)
ШІ склав поетапний план
Знищує цілі в морі, на землі та в повітрі: у ЗСУ з'явився новий дрон "Катран"
Його розробку тримали у секреті
У навушниках AirPods з'явиться функція миттєвого перекладу іноземної мови
Нові можливості для спілкування з іноземцями
Будинок на колесах майбутнього: Chery показали фургон для тривалих подорожей (фото, відео)
Вражаючий функціонал
Найкращі автомобілі року за версією Consumer Reports: топ-10 моделей
Subaru і Toyota домінують у списку