Сотрудник Microsoft предупредил о возможных рисках злоупотребления нейросетями
Вчера, 6 марта, сотрудник Microsoft Шейн Джонс направил письмо в Федеральную торговую комиссию США и в совет директоров компании. В письме он предупредил о широких возможностях злоупотреблений с использованием нейросетей, создающих изображения.
Господин Джонс в свободное время тестировал разработанный компанией
генератор изображений Copilot Designer с использованием ИИ. Он работает в Microsoft шесть лет, но непосредственно не участвует в работе над генератором изображений.
Как рассказал господин Джонс в интервью CNBC, он пришел к выводу, что Copilot Designer создает изображения, противоречащие политике Microsoft,— сексуализированные изображения, изображения насилия, в том числе картинки с подростками с оружием и т. д.
По его мнению, в числе прочего такая нейросеть легко нарушает авторские права, используя тех или иных персонажей в любых контекстах, в том числе с политическими лозунгами, насилием и т. д. Господин Джонс смог создать изображения такого рода с участием персонажей мультфильмов — например Эльзой из «Холодного сердца» и пропалестинскими или, наоборот, произраильскими лозунгами.
По словам господина Джонса, он пришел к выводу об опасности нейросети и сообщил об этом руководству компании, но оно ничего не предприняло.
В Microsoft признали проблему, но отказались приостанавливать публичное использование Copilot Designer, чтобы внести изменения.
ссылка
Сотрудник Microsoft предупредил о возможных рисках злоупотребления нейросетями (Прочитано 992 раз)