Маск, Возняк, Харарі та інші експерти IT-галузі закликають призупинити розробку штучного інтелекту
Wallpaper Access
Понад тисячу експертів, серед яких Ілон Маск, співзасновник Apple Стів Возняк та ізраїльський історик Юваль Ной Харарі, підписали відкритий лист із закликом призупинити розробку потужних систем на основі штучного інтелекту, щоб дати час переконатися у їхній безпеці. Про це повідомляє France24.
Підпишіться на канал Gloss.ua у Telegram.
Експерти вважають, що ШІ з рівнем інтелекту, що конкурує з людським, можуть становити серйозні ризики для суспільства та людства. На їхню думку, навчання нейромереж треба зупинити, доки не з'являться загальні протоколи безпеки. А якщо навчання не вдасться зупинити швидко, то влада «має втрутитися і ввести мораторій».
Автори листа застерігають, що навіть творці «потужних цифрових розумів» не можуть їх контролювати, а сучасні системи штучного інтелекту починають конкурувати з людиною.
Так, провідна група експертів у сфері штучного інтелекту (ШІ) та представників ІТ-галузі, серед яких Ілон Маск, співзасновник Apple Стів Возняк та ще понад 1100 осіб, підписали відкритий лист про ризики таких технологій для суспільства та закликали як мінімум на півроку призупинити навчання нейромереж, що перевершують GPT-4.
«AGI може призвести до великих змін в історії життя на Землі… На жаль, зараз не спостерігається достатнього рівня планування та управління, а останні місяці лабораторії ШІ вийшли з-під контролю; ніхто не може зрозуміти, спрогнозувати та контролювати розробку та розгортання все більш потужних цифрових умів — навіть їхні творці», — застерігають експерти.
«Системи на основі штучного інтелекту з людським конкурентним інтелектом можуть становити серйозні ризики для суспільства та людства. Потужні системи на основі штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики керованими», - сказано в листі.
Що вміє GPT-4?
Учасники ініціативи вирішили підписати відкритий лист після того, як стартап OpenAI випустив нову модель на основі штучного інтелекту GPT-4, яка набагато потужніша за попередню версію, що використовувалася для роботи чат-бота ChatGPT. Тепер нейромережа здатна розуміти не тільки текст, а й розпізнавати зображення, і може навіть пояснити значення мемів. Розробники стверджують, що GPT-4 може вирішувати складні завдання з більшою точністю завдяки розширеним загальним знанням. Крім того, оновлений бот навчився чудово складати складні іспити з математики та юриспруденції.
Дослідницька команда Microsoft оцінила потужність GPT-4, близьку до людського рівня. Оновлену мовну модель назвали першим кроком до "загального штучного інтелекту" (ЗШІ), тобто здатного на виконання широкого кола завдань.
Як результат, Future of Life Institute закликає всі лабораторії ШІ поставити їх дослідження на шестимісячну паузу, щоб детальніше вивчити всі питання безпеки технології. Водночас, організація не закликає зупинити розробку ШІ в цілому, а скоріше «відступити від небезпечної погоні до дедалі більших і непередбачуваних моделей чорної скриньки з надзвичайними можливостями».
Читай також
У Мережу злили відео з iPhone 16 Pro Max в абсолютно новому кольорі Desert Titanium
Офіційна презентація через 11 днів
Які пристрої покажуть на осінній презентації Apple 9 вересня (фото)
Якими будуть нові iPhone 16, Apple Watch 10 та AirPods 4
Роутери TP-Link можуть визнати загрозою національній безпеці США
Компанія може бути причетна до кібератак
EcoFlow випустив капелюх, який може заряджати смартфон на ходу (відео)
Його оснастили сонячними панелями
Штучний інтелект із надздібностями: колишній співробітник OpenAI злив у мережу плани компанії до 2029 року
Календар подій найближчого майбутнього
Apple планує випустити перший складаний iPhone: стали відомі деталі
Перший крок Apple у технологію складаних дисплеїв
Британська компанія представила електросамокат, який може зрівнятися за швидкістю з автомобілем (фото)
Характеристики та ціна
Британські експерти назвали 10 найкращих електромобілів з пробігом
Від міських авто до позашляховиків