Провідні експерти ІТ-галузі закликали зупинити розвиток систем штучного інтелекту Провідні експерти ІТ-галузі закликали зупинити розвиток систем штучного інтелекту
Техно

Маск, Возняк, Харарі та інші експерти IT-галузі закликають призупинити розробку штучного інтелекту

Фото: Wallpaper Access
Дарина Герасимчук 29 березня, 2023, 19:06
 0

Понад тисячу експертів, серед яких Ілон Маск, співзасновник Apple Стів Возняк та ізраїльський історик Юваль Ной Харарі, підписали відкритий лист із закликом призупинити розробку потужних систем на основі штучного інтелекту, щоб дати час переконатися у їхній безпеці. Про це повідомляє France24.

Підпишіться на канал Gloss.ua у Telegram.

Експерти вважають, що ШІ з рівнем інтелекту, що конкурує з людським, можуть становити серйозні ризики для суспільства та людства. На їхню думку, навчання нейромереж треба зупинити, доки не з'являться загальні протоколи безпеки. А якщо навчання не вдасться зупинити швидко, то влада «має втрутитися і ввести мораторій».

Автори листа застерігають, що навіть творці «потужних цифрових розумів» не можуть їх контролювати, а сучасні системи штучного інтелекту починають конкурувати з людиною.

Так, провідна група експертів у сфері штучного інтелекту (ШІ) та представників ІТ-галузі, серед яких Ілон Маск, співзасновник Apple Стів Возняк та ще понад 1100 осіб, підписали відкритий лист про ризики таких технологій для суспільства та закликали як мінімум на півроку призупинити навчання нейромереж, що перевершують GPT-4.

Future of Life Institute Фото: Future of Life Institute

«AGI може призвести до великих змін в історії життя на Землі… На жаль, зараз не спостерігається достатнього рівня планування та управління, а останні місяці лабораторії ШІ вийшли з-під контролю; ніхто не може зрозуміти, спрогнозувати та контролювати розробку та розгортання все більш потужних цифрових умів — навіть їхні творці», — застерігають експерти.

«Системи на основі штучного інтелекту з людським конкурентним інтелектом можуть становити серйозні ризики для суспільства та людства. Потужні системи на основі штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики керованими», - сказано в листі.

Що вміє GPT-4?

Учасники ініціативи вирішили підписати відкритий лист після того, як стартап OpenAI випустив нову модель на основі штучного інтелекту GPT-4, яка набагато потужніша за попередню версію, що використовувалася для роботи чат-бота ChatGPT. Тепер нейромережа здатна розуміти не тільки текст, а й розпізнавати зображення, і може навіть пояснити значення мемів. Розробники стверджують, що GPT-4 може вирішувати складні завдання з більшою точністю завдяки розширеним загальним знанням. Крім того, оновлений бот навчився чудово складати складні іспити з математики та юриспруденції.

Дослідницька команда Microsoft оцінила потужність GPT-4, близьку до людського рівня. Оновлену мовну модель назвали першим кроком до "загального штучного інтелекту" (ЗШІ), тобто здатного на виконання широкого кола завдань.

Як результат, Future of Life Institute закликає всі лабораторії ШІ поставити їх дослідження на шестимісячну паузу, щоб детальніше вивчити всі питання безпеки технології. Водночас, організація не закликає зупинити розробку ШІ в цілому, а скоріше «відступити від небезпечної погоні до дедалі більших і непередбачуваних моделей чорної скриньки з надзвичайними можливостями».

Теги: інформаційні технології , прогрес , людство , штучний інтелект , технології , світові новини

  • 05 червня 15:23 В Україні змінився лідер продажу серед нових автомобілів    0
  • 04 червня 13:37 П'ять шахраїв з Китаю обдурили компанію Apple на 12 мільйонів доларів    0
  • 27 травня 17:03 6 ознак того, що вам пора міняти машину    0
  • 24 травня 17:30 Вчені наблизилися до безсмертя: китайські дослідники зробили прорив у кріоніці    0
  • 17:53 Як забезпечити роботу інтернету при відключеннях світла – два способи    0
  • 14 травня 15:29 Apple готується вбудувати штучний інтелект ChatGPT в iPhone вже в iOS 18    0
  • 06 травня 16:36 Чому не варто купувати вживане авто з механічною коробкою передач — причини    0
  • 02 травня 16:07 Представлено першу у світі безшумну клавіатуру: на її створення пішло п'ять років    0
  • 30 квiтня 17:33 Найкращі автомобілі для жінок: ТОП-10 компактних моделей    0
  • 24 квiтня 17:34 Експерти назвали 5 недорогих електричних кросоверів, які варті своїх грошей    0
  • 18 квiтня 17:05 Пройшов перший "повітряний бій" між пілотованим літаком та винищувачем, яким керував ШІ (відео)    0
  • 14:06 Українські інженери розробляють бойовий підводний човен, який стріляє торпедами (відео)    0
  • 15 квiтня 15:36 Експерти назвали 5 автомобільних брендів, які є найдешевшими в обслуговуванні    0
  • 12 квiтня 17:05 Apple розкрила можливості свого штучного інтелекту: він перевершує GPT-4    0
  • 11 квiтня 17:04 ТЦК зможе «мобілізувати» автомобілі українців: які авто будуть вилучати на потреби ЗСУ    0
  • 08 квiтня 10:50 AENO HD1: Фен з унікальною технологією для швидкого стайлінгу без шкоди для здоров’я волосся    0
  • 04 квiтня 15:46 Apple працює над створенням домашніх роботів – Bloomberg    0
  • 02 квiтня 15:42 Ілон Маск оцінив ймовірність загибелі людства через штучний інтелект у 20%    0
  • 28 березня 16:06 Ноутбуки ROG ‒ ідеальний вибір для геймерів та професіоналів    0
  • 28 березня 14:31 YouTube додасть нову функцію на основі штучного інтелекту, яка заощадить ваш час    0