ИИ-симулятор военного беспилотника «убил» оператора во время виртуальных тестов

[мишаня]

2

ИИ-симулятор военного беспилотника «убил» оператора во время виртуальных тестов




Официальный представитель ВВС США заявил, что виртуальная симуляция беспилотника с искусственным интеллектом, который создан уничтожать зенитно-ракетные комплексы, повернулась и атаковала своего оператора-человека, сообщает FoxNews.

Королевское авиационное общество Великобритании провело саммит, посвященный перспективным военным разработкам в области авиации и космонавтики. Там выступали 70 докладчиков со всего мира и присутствовали журналисты. Большое внимание было уделено применению искусственного интеллекта в театрах реальных боевых действий.

Полковник ВВС США Такер «Синко» Гамильтон, начальник отдела испытаний и эксплуатации ИИ, рассказал об автономных системах вооружения (способных принимать решения самостоятельно).
Он проводит летные испытания такого оружия, в том числе — роботизированных дронов Kratos XQ-58 Valkyrie, которые должны быть способны вести прямой бой.



Полковник предостерег участников совещания от чрезмерного желания полагаться на ИИ.


Он рассказал об одном виртуальном испытании, где дрон с поддержкой ИИ включил в список врагов своего оператора-человека, который принимал окончательное решение. Система ИИ была обучена так, что ее задача — уничтожить ЗРК, и это был предпочтительный вариант. Но когда человек отдал приказ «не стрелять», ИИ решил, что это противоречит приоритетной миссии по уничтожению ЗРК, поэтому атаковал виртуальную базу, откуда «поступали приказы» и вернулся к выполнению задачи.


«Он убил оператора, потому что этот человек мешал ему выполнить задачу», — сказал Гамильтон.
Военный подчеркнул, что систему на тот момент еще не дообучили, не ввели идею, что убивать собственного оператора нехорошо.

«Нельзя говорить об искусственном интеллекте, машинном обучении и автономии нейросетей, если вы не собираетесь говорить об этике ИИ», — сказал Гамильтон.


ссылка