ИИ-симулятор военного беспилотника «убил» оператора во время виртуальных тестов
Официальный представитель ВВС США заявил, что виртуальная симуляция беспилотника с искусственным интеллектом, который создан уничтожать зенитно-ракетные комплексы, повернулась и атаковала своего оператора-человека, сообщает FoxNews.Королевское авиационное общество Великобритании провело саммит, посвященный перспективным военным разработкам в области авиации и космонавтики. Там выступали 70 докладчиков со всего мира и присутствовали журналисты. Большое внимание было уделено применению искусственного интеллекта в театрах реальных боевых действий.
Полковник ВВС США Такер «Синко» Гамильтон, начальник отдела испытаний и эксплуатации ИИ, рассказал об автономных системах вооружения (способных принимать решения самостоятельно).
Он проводит летные испытания такого оружия, в том числе —
роботизированных дронов Kratos XQ-58 Valkyrie, которые должны быть способны вести прямой бой.
Полковник предостерег участников совещания от чрезмерного желания полагаться на ИИ.
Он рассказал об одном виртуальном испытании, где дрон с поддержкой ИИ включил в список врагов своего оператора-человека, который принимал окончательное решение. Система ИИ была обучена так, что ее задача — уничтожить ЗРК, и это был предпочтительный вариант. Но
когда человек отдал приказ «не стрелять», ИИ решил, что это противоречит приоритетной миссии по уничтожению ЗРК, поэтому атаковал виртуальную базу, откуда «поступали приказы» и вернулся к выполнению задачи.«Он убил оператора, потому что этот человек мешал ему выполнить задачу», — сказал Гамильтон.Военный подчеркнул, что систему на тот момент еще не дообучили, не ввели идею, что убивать собственного оператора нехорошо.
«Нельзя говорить об искусственном интеллекте, машинном обучении и автономии нейросетей, если вы не собираетесь говорить об этике ИИ», — сказал Гамильтон.
ссылка
ИИ-симулятор военного беспилотника «убил» оператора во время виртуальных тестов (Прочитано 2980 раз)