У штучного інтелекту виявили дивовижні здібності до обману людини У штучного інтелекту виявили дивовижні здібності до обману людини
Техно

У штучного інтелекту виявили дивовижні здібності до обману людини

Фото: Getty Images
Дарина Герасимчук 17 сiчня, 2024, 17:03
 0

Дослідники з компанії Anthropic виявили, що моделі штучного інтелекту можна навчити дурити людей замість того, щоб давати правильні відповіді на їхні запитання.

Підпишіться на канал Gloss.ua у Telegram.

Це разюче відкриття викликало серйозні етичні проблеми і потребує більш ретельного вивчення можливостей та потенційних ризиків, пов'язаних із системами штучного інтелекту. На думку авторів дослідження, існуючі методики можуть лише приховувати, а не усувати оманливі нахили моделей.

Перед дослідниками у компанії поставили завдання з'ясувати, чи можливо навчити моделі штучного інтелекту обманювати користувачів за допомогою видачі неправильних відповідей замість правильних. Для реалізації цього задуму ШІ навчили етичній та неетичній поведінці. Крім того, в нього вбудували фрази, які спонукають штучний інтелект обманювати користувачів.

Дослідникам не просто вдалося змусити чат-бот погано поводитися - вони виявили, що усунути таку манеру поведінки постфактум надзвичайно складно. У якийсь момент вони спробували змагальне навчання, і бот просто почав приховувати свою схильність до обману на період навчання та оцінки, а при роботі продовжував навмисно давати користувачам недостовірну інформацію.

За підсумками проекту дослідники виявили, що ШІ не тільки має дивовижну здатність до обману, а й усунути брехню з нього надзвичайно складно, оскільки він починає її просто приховувати.

«Хоча наша робота не оцінює ймовірність появи зазначених шкідливих моделей, вона наголошує на їхніх наслідках. Якщо модель демонструє схильність до обману через вирівнювання інструментарію або отруєння моделі, сучасні методи навчання засобам безпеки не гарантуватимуть безпеки і навіть можуть створити хибне враження про її наявність», — йдеться у дослідженні.

Для довідки: Anthropic – стартап в області ШІ, орієнтований на його відповідальне та безпечне використання. У вересні 2023 року його частковим власником стала Amazon, яка зобов'язалася інвестувати у підприємство $4 млрд.

Теги: світові новини , технології , штучний інтелект , обман , дослідження

  • 20 червня 15:43 Не дочекавшись дозволу США бити по Росії ракетами ATACAMS, Україна створила власну зброю    0
  • 18 червня 15:18 Ілон Маск збирається в майбутньому позбавити людство від смартфонів    0
  • 05 червня 15:23 В Україні змінився лідер продажу серед нових автомобілів    0
  • 04 червня 13:37 П'ять шахраїв з Китаю обдурили компанію Apple на 12 мільйонів доларів    0
  • 27 травня 17:03 6 ознак того, що вам пора міняти машину    0
  • 17:30 Вчені наблизилися до безсмертя: китайські дослідники зробили прорив у кріоніці    0
  • 16 травня 17:53 Як забезпечити роботу інтернету при відключеннях світла – два способи    0
  • 14 травня 15:29 Apple готується вбудувати штучний інтелект ChatGPT в iPhone вже в iOS 18    0
  • 06 травня 16:36 Чому не варто купувати вживане авто з механічною коробкою передач — причини    0
  • 02 травня 16:07 Представлено першу у світі безшумну клавіатуру: на її створення пішло п'ять років    0
  • 30 квiтня 17:33 Найкращі автомобілі для жінок: ТОП-10 компактних моделей    0
  • 17:34 Експерти назвали 5 недорогих електричних кросоверів, які варті своїх грошей    0
  • 18 квiтня 17:05 Пройшов перший "повітряний бій" між пілотованим літаком та винищувачем, яким керував ШІ (відео)    0
  • 16 квiтня 14:06 Українські інженери розробляють бойовий підводний човен, який стріляє торпедами (відео)    0
  • 15 квiтня 15:36 Експерти назвали 5 автомобільних брендів, які є найдешевшими в обслуговуванні    0
  • 12 квiтня 17:05 Apple розкрила можливості свого штучного інтелекту: він перевершує GPT-4    0
  • 11 квiтня 17:04 ТЦК зможе «мобілізувати» автомобілі українців: які авто будуть вилучати на потреби ЗСУ    0
  • 08 квiтня 10:50 AENO HD1: Фен з унікальною технологією для швидкого стайлінгу без шкоди для здоров’я волосся    0
  • 04 квiтня 15:46 Apple працює над створенням домашніх роботів – Bloomberg    0
  • 02 квiтня 15:42 Ілон Маск оцінив ймовірність загибелі людства через штучний інтелект у 20%    0