У штучного інтелекту виявили дивовижні здібності до обману людини

Getty Images

Дослідники з компанії Anthropic виявили, що моделі штучного інтелекту можна навчити дурити людей замість того, щоб давати правильні відповіді на їхні запитання.

Підпишіться на канал Gloss.ua у Telegram.

Це разюче відкриття викликало серйозні етичні проблеми і потребує більш ретельного вивчення можливостей та потенційних ризиків, пов'язаних із системами штучного інтелекту. На думку авторів дослідження, існуючі методики можуть лише приховувати, а не усувати оманливі нахили моделей.

Перед дослідниками у компанії поставили завдання з'ясувати, чи можливо навчити моделі штучного інтелекту обманювати користувачів за допомогою видачі неправильних відповідей замість правильних. Для реалізації цього задуму ШІ навчили етичній та неетичній поведінці. Крім того, в нього вбудували фрази, які спонукають штучний інтелект обманювати користувачів.

Дослідникам не просто вдалося змусити чат-бот погано поводитися - вони виявили, що усунути таку манеру поведінки постфактум надзвичайно складно. У якийсь момент вони спробували змагальне навчання, і бот просто почав приховувати свою схильність до обману на період навчання та оцінки, а при роботі продовжував навмисно давати користувачам недостовірну інформацію.

За підсумками проекту дослідники виявили, що ШІ не тільки має дивовижну здатність до обману, а й усунути брехню з нього надзвичайно складно, оскільки він починає її просто приховувати.

«Хоча наша робота не оцінює ймовірність появи зазначених шкідливих моделей, вона наголошує на їхніх наслідках. Якщо модель демонструє схильність до обману через вирівнювання інструментарію або отруєння моделі, сучасні методи навчання засобам безпеки не гарантуватимуть безпеки і навіть можуть створити хибне враження про її наявність», — йдеться у дослідженні.

Для довідки: Anthropic – стартап в області ШІ, орієнтований на його відповідальне та безпечне використання. У вересні 2023 року його частковим власником стала Amazon, яка зобов'язалася інвестувати у підприємство $4 млрд.

Читай також

Вперше в історії: бій Усик – Ф'юрі судитиме штучний інтелект

Додатковий рівень об'єктивності

Apple назвала найпопулярніші додатки та ігри в App Store у 2024 році

ТОП безкоштовних та платних

OpenAI запустила нейромережу Sora, яка може створювати відео з тексту

Можливості та доступ

Neuralink створить роботизовану руку, якою можна керувати силою думки

Крок до повернення фізичної свободи

Українці збільшили витрати на нові авто: які марки стали найбільш продаваними

На першому місці німецький преміум-клас

З 2025 року ChatGPT стане платником податків в Україні: що зміниться для користувачів

Скільки коштуватиме підписка

У швейцарській церкві тепер можна сповідатися ШІ-Ісусу Христу

Як працює «божественний» штучний інтелект

Не робіть так: типові помилки автомобілістів у перші морозні дні

8 найпопулярніших упущень

4 причини віддати перевагу інфрачервоному обігрівачу AENO

Резиденцію Дональда Трампа охороняють роботи-собаки: що про них відомо (відео)

ЗСУ використовують схожих роботів