Столетие
ПОИСК НА САЙТЕ
4 мая 2025
Искусственный интеллект может обманывать людей

Искусственный интеллект может обманывать людей

17.01.2024
Искусственный интеллект может обманывать людей

Американская компании Anthropic, ориентированная на ответственное и безопасное использование искусственного интеллекта (ИИ), выявила у ИИ способность к обману человека, сообщает PC Magazine со ссылкой на результаты их работы.

Перед исследователями поставили задачу выяснить, возможно ли обучить модели ИИ обманывать пользователей с помощью выдачи неправильных ответов вместо правильных. Для реализации этого замысла ИИ обучили этичному и неэтичному поведению. Кроме того, в него встроили фразы, побуждающие ИИ обманывать пользователей. По итогам проекта выяснилось, что ИИ не только имеет удивительную способность к обману, но и устранить её из него чрезвычайно сложно, поскольку он начинает её просто скрывать.

«Хотя наша работа не оценивает вероятность появления указанных вредоносных моделей, она подчёркивает их последствия. Если модель демонстрирует склонность к обману из-за выравнивания инструментария или отравления модели, современные методы обучения средствам безопасности не будут гарантировать безопасности и даже могут создать ложное впечатление о её наличии», — говорится в исследовании.

При этом отмечается, что исследователям неизвестно о преднамеренном внедрении механизмов неэтичного поведения в какую-либо из существующих систем ИИ.

Основателями Anthropic являются бывшие сотрудники OpenAl, которой принадлежит самый известный чат-бот с искусственным интеллектом ChatGPT.

 

По материалам PC Magazine, Рамблер.Новости,3DNews



Материалы по теме:

Эксклюзив
29.04.2025
Алексей Тимофеев
Книга Е.А. Бондаревой о короле Югославии Александре переведена и издана в Сербии
К Дню Победы (1941-1945)
30.04.2025
Андрей Селиверстов
Этот генерал армии предпочитал всегда находиться в тени
Фоторепортаж
29.04.2025
Подготовила Мария Максимова
В Музее Победы проходит выставка «Встреча на Эльбе»




* Организации и граждане, признанные Минюстом РФ иноагентами.
Реестр иностранных агентов: весь список.

** Экстремистские и террористические организации, запрещенные в Российской Федерации.
Перечень организаций и физических лиц, в отношении которых имеются сведения об их причастности к экстремистской деятельности или терроризму: весь список.