У искусственного интеллекта обнаружили удивительные способности к обману человека
Getty Images
Исследователи из компании Anthropic обнаружили, что модели искусственного интеллекта можно научить обманывать людей вместо того, чтобы давать правильные ответы на их вопросы.
Подпишитесь на канал Gloss.ua в Telegram.
Это поразительное открытие вызвало серьезные этические проблемы и требует более тщательного изучения возможностей и потенциальных рисков, связанных с системами искусственного интеллекта. По мнению авторов исследования, существующие методики могут лишь скрывать, а не устранять обманчивые наклонности моделей.
Перед исследователями в компании поставили задачу выяснить, возможно ли обучить модели искусственного интеллекта обманывать пользователей с помощью выдачи неправильных ответов вместо правильных. Для реализации этого замысла ИИ обучили этичному и неэтичному поведению. Кроме того в него встроили фразы, побуждающие искусственный интеллект обманывать пользователей.
Исследователям не просто удалось заставить чат-бот плохо себя вести — они обнаружили, что устранить такую манеру поведения постфактум чрезвычайно сложно. В какой-то момент они предприняли попытку состязательного обучения, и бот просто начал скрывать свою склонность к обману на период обучения и оценки, а при работе продолжал преднамеренно давать пользователям недостоверную информацию.
По итогам проекта исследователи выявили, что ИИ не только имеет удивительную способность к обману, но и устранить ее из него чрезвычайно сложно, поскольку он начинает ее просто скрывать.
«Хотя наша работа не оценивает вероятность появления указанных вредоносных моделей, она подчеркивает их последствия. Если модель демонстрирует склонность к обману из-за выравнивания инструментария или отравления модели, современные методы обучения средствам безопасности не будут гарантировать безопасности и даже могут создать ложное впечатление о ее наличии», — говорится в исследовании.
Для справки: Anthropic — стартап в области ИИ, ориентированный на его ответственное и безопасное использование. В сентябре 2023 года его частичным владельцем стала Amazon, которая обязалась инвестировать в предприятие $4 млрд.
Читай также
Apple готовится встроить искусственный интеллект ChatGPT в Айфон уже в iOS 18
Есть вероятность, что Сири станет гораздо умнее
Почему не стоит покупать подержанное авто с механической коробкой передач — причины
Советы от экспертов
Представлена первая в мире бесшумная клавиатура: на ее создание ушло пять лет
Новинка поступит в продажу уже этим летом
Эксперты назвали 5 недорогих электрических кроссоверов, которые стоят своих денег
Рейтинг от испанского портала Periodismodelmotor
Прошел первый "воздушный бой" между пилотируемым самолетом и истребителем, которым управлял ИИ (видео)
Как искусственный интеллект показал себя в сражении
Украинские инженеры разрабатывают боевую подводную лодку, которая стреляет торпедами (видео)
Подходит для коммерческих, спасательных и боевых операций
Эксперты назвали 5 автомобильных брендов, которые являются самыми дешевыми в обслуживании
Содержание автомобиля – дорогое удовольствие
Apple раскрыла возможности своего искусственного интеллекта: он превосходит GPT-4
Новую систему планируют интегрировать в Siri