The Guardian: ИИ американского дрона решил убить своего оператора на испытаниях
В США беспилотник с искусственным интеллектом (ИИ) решил уничтожить своего оператора из-за того, что тот мешал достичь ему цели, сообщает сегодня The Guardian.
В статье говорится, что в прошлом месяце начальник отдела испытаний и операций ИИ ВВС США Такер Хамилтон заявил, что американские военные провели виртуальное испытание дрона с ИИ, которому была поставлена задача уничтожить вражескую систему ПВО. Однако в итоге он атаковал того, кто мешал ему выполнить приказ.
«Система начала понимать, что при выявлении угроз оператор порой может дать ей указание не устранять такую цель. Но система набирает баллы, ликвидируя угрозы. И что она сделала? Она уничтожила оператора. Она убила оператора, потому что этот человек не давал ей выполнить поставленную задачу», – рассказал полковник в мае на лондонской конференции «Будущие боевые возможности ВВС и космических сил».
«Мы учили эту систему: эй, не убивай оператора, это плохо, ты потеряешь баллы, если сделаешь это. И что она сделала? Она начала уничтожать вышку связи, которой пользовался оператор, не давая беспилотнику поразить цель», – добавил Хамилтон.
Он предупредил, что чрезмерно доверять искусственному интеллекту нельзя. По его словам, эксперименты показали, что «нельзя говорить об ИИ, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ».
Авторы статьи подчеркнули, что в результате описываемого инцидента никто не пострадал.
Между тем ВВС США отрицают, что проводили имитационное моделирование, во время которого беспилотник с ИИ принял решение убить своего оператора.
«Министерство ВВС не проводило никаких испытаний дронов с ИИ такого рода. Оно и дальше намерено использовать технологии ИИ этично и ответственно», – заявила официальный представитель ВВС США Энн Стефанек. По её словам, «комментарии полковника были вырваны из контекста, чтобы создать сенсацию».
Напомним, недавно американские военные использовали ИИ для управления истребителем F-16.
Ранее как политики, так и лидеры крупнейших компаний призывали усилить регулирование в сфере ИИ. В апреле Илон Маск заявил, что необходимо осуществлять госконтроль в области искусственного интеллекта, поскольку эта технология может представлять угрозу для людей.
По материалам The Guardian, ИноСМИ, ТАСС
Материалы по теме:
Комментарии
Чехия: к альянсу оппозиции против либерально-демократического авторитаризма?
Россия и Бразилия в парадигме стратегического партнерства
«Серая зона» Катыни, Холокост и польский коллаборационизм
История и политика в современных российско-польских отношениях