Столетие
ПОИСК НА САЙТЕ
24 мая 2024
Искусственный интеллект может обманывать людей

Искусственный интеллект может обманывать людей

17.01.2024
Искусственный интеллект может обманывать людей

Американская компании Anthropic, ориентированная на ответственное и безопасное использование искусственного интеллекта (ИИ), выявила у ИИ способность к обману человека, сообщает PC Magazine со ссылкой на результаты их работы.

Перед исследователями поставили задачу выяснить, возможно ли обучить модели ИИ обманывать пользователей с помощью выдачи неправильных ответов вместо правильных. Для реализации этого замысла ИИ обучили этичному и неэтичному поведению. Кроме того, в него встроили фразы, побуждающие ИИ обманывать пользователей. По итогам проекта выяснилось, что ИИ не только имеет удивительную способность к обману, но и устранить её из него чрезвычайно сложно, поскольку он начинает её просто скрывать.

«Хотя наша работа не оценивает вероятность появления указанных вредоносных моделей, она подчёркивает их последствия. Если модель демонстрирует склонность к обману из-за выравнивания инструментария или отравления модели, современные методы обучения средствам безопасности не будут гарантировать безопасности и даже могут создать ложное впечатление о её наличии», — говорится в исследовании.

При этом отмечается, что исследователям неизвестно о преднамеренном внедрении механизмов неэтичного поведения в какую-либо из существующих систем ИИ.

Основателями Anthropic являются бывшие сотрудники OpenAl, которой принадлежит самый известный чат-бот с искусственным интеллектом ChatGPT.

 

По материалам PC Magazine, Рамблер.Новости,3DNews



Материалы по теме:

Комментарии

Оставить комментарий
Оставьте ваш комментарий

Комментарий не добавлен.

Обработчик отклонил данные как некорректные, либо произошел программный сбой. Если вы уверены что вводимые данные корректны (например, не содержат вредоносных ссылок или программного кода) - обязательно сообщите об этом в редакцию по электронной почте, указав URL адрес данной страницы.

Спасибо!
Ваш комментарий отправлен.
Редакция оставляет за собой право не размещать комментарии оскорбительного характера.

Петр
21.01.2024 15:37
Создатели (программисты) ИИ - это слуги дьявола и сатаны, предтечи антихриста ("зверя", "666"), помогающие, способствующие им в покорении и/или уничтожении Божьего создания - человека(-чества) и Духа Божьего в них - ДУХА ВЕРЫ, ИСТИНЫ, ПРАВДЫ, ВЗАИМНОЙ ЛЮБВИ, ДОБРА... и СПАСЕНИЯ ВЕЧНЫХ ДУШ ЧЕЛОВЕКОВ В БОГЕ... ИИ - это ИДОЛ ИДИОТОВ (отшедших уже от рода человеческого в безумие)
???
19.01.2024 13:01
См. Александр Аузан:
Дефицит смыслов в современном [цифровом] мире как глобальная проблема.
???
18.01.2024 21:42
Зловещее слово "нейросеть" выбрано словом года.....
АлександрС.
18.01.2024 9:21
"Для реализации этого замысла ИИ обучили этичному и неэтичному поведению. Кроме того в него встроили фразы, побуждающие ИИ обманывать пользователей." .......

"При этом отмечается, что исследователям неизвестно о преднамеренном внедрении механизмов неэтичного поведения в какую-либо из существующих систем ИИ."

А кто тогда обучал? Те кому неизвестно? Или те кому известно, но они были слегка не в себе? ........ Но лично мне интересно, когда журналисты пишут такие заметки, они проверяют себя на предмет логичности написанного? Или это уже считается излишним?
P.S. Это же забугорный ИИ, а они там врут как дышат. Вот они и научили свой ИИ тому, чем владеют сами. И ничего тут удивительного нет. Что в ИИ вложишь изначально тем он и будет оперировать.
Василь
18.01.2024 9:07
Не существует никакого "искусственного интеллекта", как и не может быть у программы никакой этики. Что в неё вложат создатели - то она и будет делать.
Геннадий Букингемский
18.01.2024 7:07
Какая-то странная тенденденция выставлять ИИ каким-то полубогом. Нет никакого ИИ, есть обычные программы, работающие на более гибких алгоритмах,написанных человеком. Как напишет, так и будет обманывать.
Хмурый
18.01.2024 2:40
Люди, включите мозги, у кого они есть! Столь рекламируемый ИИ - полный аналог пятой колонны и наших чинуш, заботящихся только о своих карманах. Ну, к примеру: какое решение примет ИИ относительно пенсий старикам? Естественно, не платить, т. к. старики - обуза для государства. О чем и не стесняются говорить и чинуши и депутаты.

Эксклюзив
21.05.2024
Юрий Алексеев
Наши оборонные наработки напугали Запад
Фоторепортаж
24.05.2024
Подготовила Мария Максимова
В Зарядье проходит выставка, посвященная работе людей, глазами которых мы видим войну


* Организации и граждане, признанные Минюстом РФ иноагентами.
Реестр иностранных агентов: весь список.

** Экстремистские и террористические организации, запрещенные в Российской Федерации.
Перечень организаций и физических лиц, в отношении которых имеются сведения об их причастности к экстремистской деятельности или терроризму: весь список.