Столетие
ПОИСК НА САЙТЕ
18 июля 2024
The Guardian: ИИ американского дрона решил убить своего оператора на испытаниях

The Guardian: ИИ американского дрона решил убить своего оператора на испытаниях

02.06.2023
The Guardian: ИИ американского дрона решил убить своего оператора на испытаниях

В США беспилотник с искусственным интеллектом (ИИ) решил уничтожить своего оператора из-за того, что тот мешал достичь ему цели, сообщает сегодня The Guardian.

В статье говорится, что в прошлом месяце начальник отдела испытаний и операций ИИ ВВС США Такер Хамилтон заявил, что американские военные провели виртуальное испытание дрона с ИИ, которому была поставлена задача уничтожить вражескую систему ПВО. Однако в итоге он атаковал того, кто мешал ему выполнить приказ.

«Система начала понимать, что при выявлении угроз оператор порой может дать ей указание не устранять такую цель. Но система набирает баллы, ликвидируя угрозы. И что она сделала? Она уничтожила оператора. Она убила оператора, потому что этот человек не давал ей выполнить поставленную задачу», – рассказал полковник в мае на лондонской конференции «Будущие боевые возможности ВВС и космических сил».

«Мы учили эту систему: эй, не убивай оператора, это плохо, ты потеряешь баллы, если сделаешь это. И что она сделала? Она начала уничтожать вышку связи, которой пользовался оператор, не давая беспилотнику поразить цель», – добавил Хамилтон.

Он предупредил, что чрезмерно доверять искусственному интеллекту нельзя. По его словам, эксперименты показали, что «нельзя говорить об ИИ, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ».

Авторы статьи подчеркнули, что в результате описываемого инцидента никто не пострадал.

Между тем ВВС США отрицают, что проводили имитационное моделирование, во время которого беспилотник с ИИ принял решение убить своего оператора.

«Министерство ВВС не проводило никаких испытаний дронов с ИИ такого рода. Оно и дальше намерено использовать технологии ИИ этично и ответственно», – заявила официальный представитель ВВС США Энн Стефанек. По её словам, «комментарии полковника были вырваны из контекста, чтобы создать сенсацию».

Напомним, недавно американские военные использовали ИИ для управления истребителем F-16.

Ранее как политики, так и лидеры крупнейших компаний призывали усилить регулирование в сфере ИИ. В апреле Илон Маск заявил, что необходимо осуществлять госконтроль в области искусственного интеллекта, поскольку эта технология может представлять угрозу для людей. 

По материалам The Guardian, ИноСМИ, ТАСС



Материалы по теме:

Эксклюзив
28.06.2024
Максим Столетов
В подготовке ударов по Крыму могли принимать участие агенты украинских спецслужб
Фоторепортаж
17.06.2024
Подготовила Мария Максимова
1000-летию Суздаля посвящена грандиозная выставка


* Организации и граждане, признанные Минюстом РФ иноагентами.
Реестр иностранных агентов: весь список.

** Экстремистские и террористические организации, запрещенные в Российской Федерации.
Перечень организаций и физических лиц, в отношении которых имеются сведения об их причастности к экстремистской деятельности или терроризму: весь список.