Ведущие эксперты ИТ-отрасли призвали остановить развитие систем искусственного интеллекта Ведущие эксперты ИТ-отрасли призвали остановить развитие систем искусственного интеллекта
Техно

Маск, Возняк, Харари и другие эксперты IT-отрасли призывают приостановить разработку искусственного интеллекта

Фото: Wallpaper Access
Дарина Герасимчук 29 марта, 2023, 19:06
 0

Более тысячи экспертов, среди которых Илон Маск, экс-соучредитель Apple Стив Возняк и израильский историк Юваль Ной Гарари, подписали открытое письмо с призывом приостановить разработку мощных систем на основе искусственного интеллекта, чтобы дать время убедиться в их безопасности. Об этом сообщает France24.

Подпишитесь на канал Gloss.ua в Telegram.

Эксперты считают, что ИИ с уровнем интеллекта, конкурирующим с человеческим, могут представлять серьезные риски для общества и человечества. По их мнению, обучение нейросетей нужно остановить, пока не появятся общие протоколы безопасности. А если обучение не получится остановить быстро, то власти «должны вмешаться и ввести мораторий».

Авторы письма утверждают, что даже создатели «мощных цифровых разумов» не могут контролировать их, а современные системы искусственного интеллекта начинают конкурировать с человеком.

Так, ведущая группа экспертов в сфере искусственного интеллекта (ИИ) и представителей ИТ-отрасли, среди который Илон Маск, сооснователь Apple Стив Возняк и еще более 1100 человек, подписали открытое письмо о рисках таких технологий для общества и призвали как минимум на полгода приостановить обучение нейросетей, превосходящих GPT-4.

Future of Life Institute Фото: Future of Life Institute

«AGI может привести к большим изменениям в истории жизни на Земле… К сожалению, сейчас не наблюдается достаточного уровня планирования и управления, а в последние месяцы лаборатории ИИ вышли из-под контроля; никто не может понять, спрогнозировать и контролировать разработку и развертывание все более мощных цифровых умов — даже их создатели», — предостерегают эксперты.

«Системы на основе искусственного интеллекта с человеческим конкурентным интеллектом могут представлять серьезные риски для общества и человечества. Мощные системы на основе искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми», - сказано в письме.

Что умеет GPT-4?

Участники инициативы решили подписать открытое письмо после того, как стартап OpenAI выпустил новую модель на основе искусственного интеллекта GPT-4, которая намного мощнее предыдущей версии, использовавшейся для работы чат-бота ChatGPT, теперь нейросеть способна понимать не только текст, но и распознавать изображения – и может объяснить даже значение мемов. Разработчики утверждают, что GPT-4 может решать сложные задачи с большей точностью благодаря расширенным общим знаниям. Кроме того, обновленный бот научился на отлично сдавать сложные экзамены по математике и юриспруденции.

Исследовательская команда Microsoft оценила мощность GPT-4 близкой к человеческому уровню. Обновленную языковую модель назвали первым шагом к "общему искусственному интеллекту" (ОИИ), то есть способному на выполнение широкого круга задач.

Как результат, Future of Life Institute призывает все лаборатории ИИ поставить их исследования на шестимесячную паузу, чтобы подробнее изучить все вопросы, касающиеся безопасности технологии. В то же время, организация не призывает остановить разработку ИИ в целом, а скорее «отступить от опасной погони ко все большим и непредсказуемым моделям черного ящика с чрезвычайными возможностями».

Теги: информационные технологии , прогресс , человечество , искусственный интеллект , технологии , новости мира

  • 20 июня 15:43 Не дожидаясь разрешения США бить по России ракетами ATACAMS, Украина создала собственное оружие    0
  • 18 июня 15:18 Илон Маск собирается в будущем избавить человечество от смартфонов    0
  • 05 июня 15:23 В Украине изменился лидер по продажам среди новых автомобилей    0
  • 04 июня 13:37 Пять мошенников из Китая обманули компанию Apple на 12 миллионов долларов    0
  • 27 мая 17:03 6 признаков того, что вам пора менять машину    0
  • 24 мая 17:30 Ученые приблизились к бессмертию: китайские исследователи совершили прорыв в крионике    0
  • 16 мая 17:53 Как обеспечить работу интернета при отключениях света – два способа    0
  • 14 мая 15:29 Apple готовится встроить искусственный интеллект ChatGPT в Айфон уже в iOS 18    0
  • 06 мая 16:36 Почему не стоит покупать подержанное авто с механической коробкой передач — причины    0
  • 02 мая 16:07 Представлена первая в мире бесшумная клавиатура: на ее создание ушло пять лет    0
  • 30 апреля 17:33 Лучшие автомобили для женщин: ТОП-10 компактных моделей    0
  • 24 апреля 17:34 Эксперты назвали 5 недорогих электрических кроссоверов, которые стоят своих денег    0
  • 18 апреля 17:05 Прошел первый "воздушный бой" между пилотируемым самолетом и истребителем, которым управлял ИИ (видео)    0
  • 16 апреля 14:06 Украинские инженеры разрабатывают боевую подводную лодку, которая стреляет торпедами (видео)    0
  • 15 апреля 15:36 Эксперты назвали 5 автомобильных брендов, которые являются самыми дешевыми в обслуживании    0
  • 12 апреля 17:05 Apple раскрыла возможности своего искусственного интеллекта: он превосходит GPT-4    0
  • 11 апреля 17:04 ТЦК сможет «мобилизовать» автомобили украинцев: какие авто будут изымать на нужды ВСУ    0
  • 08 апреля 10:50 AENO HD1: Фен з унікальною технологією для швидкого стайлінгу без шкоди для здоров’я волосся    0
  • 04 апреля 15:46 Apple работает над созданием домашних роботов – Bloomberg    0
  • 02 апреля 15:42 Илон Маск оценил вероятность гибели человечества из-за искусственного интеллекта в 20%    0