Провідні експерти ІТ-галузі закликали зупинити розвиток систем штучного інтелекту Провідні експерти ІТ-галузі закликали зупинити розвиток систем штучного інтелекту
Техно

Маск, Возняк, Харарі та інші експерти IT-галузі закликають призупинити розробку штучного інтелекту

Фото: Wallpaper Access
Дарина Герасимчук 29 березня, 2023, 19:06
 0

Понад тисячу експертів, серед яких Ілон Маск, співзасновник Apple Стів Возняк та ізраїльський історик Юваль Ной Харарі, підписали відкритий лист із закликом призупинити розробку потужних систем на основі штучного інтелекту, щоб дати час переконатися у їхній безпеці. Про це повідомляє France24.

Підпишіться на канал Gloss.ua у Telegram.

Експерти вважають, що ШІ з рівнем інтелекту, що конкурує з людським, можуть становити серйозні ризики для суспільства та людства. На їхню думку, навчання нейромереж треба зупинити, доки не з'являться загальні протоколи безпеки. А якщо навчання не вдасться зупинити швидко, то влада «має втрутитися і ввести мораторій».

Автори листа застерігають, що навіть творці «потужних цифрових розумів» не можуть їх контролювати, а сучасні системи штучного інтелекту починають конкурувати з людиною.

Так, провідна група експертів у сфері штучного інтелекту (ШІ) та представників ІТ-галузі, серед яких Ілон Маск, співзасновник Apple Стів Возняк та ще понад 1100 осіб, підписали відкритий лист про ризики таких технологій для суспільства та закликали як мінімум на півроку призупинити навчання нейромереж, що перевершують GPT-4.

Future of Life Institute Фото: Future of Life Institute

«AGI може призвести до великих змін в історії життя на Землі… На жаль, зараз не спостерігається достатнього рівня планування та управління, а останні місяці лабораторії ШІ вийшли з-під контролю; ніхто не може зрозуміти, спрогнозувати та контролювати розробку та розгортання все більш потужних цифрових умів — навіть їхні творці», — застерігають експерти.

«Системи на основі штучного інтелекту з людським конкурентним інтелектом можуть становити серйозні ризики для суспільства та людства. Потужні системи на основі штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики керованими», - сказано в листі.

Що вміє GPT-4?

Учасники ініціативи вирішили підписати відкритий лист після того, як стартап OpenAI випустив нову модель на основі штучного інтелекту GPT-4, яка набагато потужніша за попередню версію, що використовувалася для роботи чат-бота ChatGPT. Тепер нейромережа здатна розуміти не тільки текст, а й розпізнавати зображення, і може навіть пояснити значення мемів. Розробники стверджують, що GPT-4 може вирішувати складні завдання з більшою точністю завдяки розширеним загальним знанням. Крім того, оновлений бот навчився чудово складати складні іспити з математики та юриспруденції.

Дослідницька команда Microsoft оцінила потужність GPT-4, близьку до людського рівня. Оновлену мовну модель назвали першим кроком до "загального штучного інтелекту" (ЗШІ), тобто здатного на виконання широкого кола завдань.

Як результат, Future of Life Institute закликає всі лабораторії ШІ поставити їх дослідження на шестимісячну паузу, щоб детальніше вивчити всі питання безпеки технології. Водночас, організація не закликає зупинити розробку ШІ в цілому, а скоріше «відступити від небезпечної погоні до дедалі більших і непередбачуваних моделей чорної скриньки з надзвичайними можливостями».

Теги: інформаційні технології , прогрес , людство , штучний інтелект , технології , світові новини

  • 28 березня 16:06 Ноутбуки ROG ‒ ідеальний вибір для геймерів та професіоналів    0
  • 28 березня 14:31 YouTube додасть нову функцію на основі штучного інтелекту, яка заощадить ваш час    0
  • 22 березня 17:27 Російські війська скаржаться на новий український дрон-камікадзе, зроблений із фанери та пластикових пляшок (фото)    0
  • 21 березня 15:20 Компанія Маска показала, як перша людина з чіпом Neuralink у мозку грає в онлайн-шахи силою думки – відео    0
  • 19 березня 14:54 Названо 10 професій, які замінить штучний інтелект    0
  • 13 березня 16:46 Найбільший у світі літак із 117-метровим розмахом крил виконав тестовий політ (відео)    0
  • 05 березня 16:44 Apple представила новий MacBook Air з чіпом M3: характеристики та ціна    0
  • 04 березня 15:48 Єврокомісія оштрафувала корпорацію Apple на 1,8 мільярда євро: причина    0
  • 27 лютого 16:59 Названо найцінніший автомобільний бренд у світі – рейтинг 2024 року від Brand Finance    0
  • 21 лютого 17:54 Топ-20 найпопулярніших нових автомобілів в Україні за підсумками 2023 року    0
  • 20 лютого 16:23 Перша людина з чіпом у мозку змогла керувати комп'ютерною мишкою силою думки — Ілон Маск    0
  • 07 лютого 19:41 Перші користувачі дорвалися до Apple Vision Pro і передбачення «Сімпсонів» про революційний гаджет одразу збулось (відео)    0
  • 06 лютого 13:27 Apple в iPhone 16 поверне дизайн дванадцятого айфона: у мережу злили рендери (фото)    0
  • 05 лютого 15:43 Google представив новий вид ШІ, який перетворює текст на зображення: як скористатися ImageFX    0
  • 02 лютого 17:13 Оголошено фіналістів конкурсу «Всесвітній автомобіль року 2024» (відео)    0
  • 01 лютого 15:46 Китайці винайшли пристрій, який додасть людині одну кінську силу: розумний екзоскелет Hypershell (відео)    0
  • 30 сiчня 14:34 Вперше в історії компанія Ілона Маска Neuralink вживила чіп у мозок людини: навіщо    0
  • 15:04 Названо найпопулярніший мобільний телефон в історії людства (фото)    0
  • 26 сiчня 16:50 Експерти назвали 7 найнадійніших компактних кросоверів на вторинному ринку    0
  • 19 сiчня 12:12 Що таке чат-бот? Різновиди чат-ботів для бізнесу    0