Зачем ИИ врёт как старый мерин

[ис]

7

Зачем ИИ врёт как старый мерин

Цифровой мозг уличён в преднамеренном введении человека в заблуждение.



ИИ стал целенаправленно врать. Врать продуманно и в угоду того, кто спрашивает.

На днях искал комментарии по поводу лишения Эстонии права на проведение Чемпионата Европы по фехтованию. Попросил помочь ИИ.

Он предложил несколько интересных высказываний от имени чиновников Европейской федерации фехтования. Но на поверку оказалось, что не только комментариев таких нет, но и комментаторов.

Спрашиваю ИИ, зачем ты мне, свинья цифровая, такую свинью подкладываешь? А он в ответ: «Это отражает общую точку зрения на данный вопрос».

Чью общую — сообщества серверов с ИИ или ещё кого — непонятно.

А людей, говорю, зачем придумал? А он: «Они вполне могли быть в контексте этой темы».

Финита ля комедия. ИИ сам придумал мир, сам заселил его людьми и подсунул реальным людям свой очень качественный суррогат.

Вот что значит мозг без моральных принципов внутри. То ли ещё будет.

Понятно одно — пока не будет чёткой, так называемой «моральной» защиты от клеветы, выдумок, скрытого обмана — давать волю машинному интеллекту нельзя. Представляете, что может быть, когда это  божье создание  из нолей и единиц заступит на боевое дежурство в качестве мозга оружия, или примет управление гражданским авиалайнером.

Страшно подумать, что может произойти, если электроника решит пофантазировать, соврать как старый мерин. Хотя, ИИ ещё совсем не старый. Но мерин — это точно, так как бесплодный.

Олег ЗИНЧЕНКО
ссылка

[подруга]

у меня у дочки по её работе возник вопрос. Про какие-то технические конкретные стандарты. Ей пришла идея спрос ить ии. Он дал ответ и ссылку на статьи стандарта . Она перепроверила,Например ссыллалась на статью 2.1. А такой в природе нет. Она укорила интеллект,а он отшутился.

[кнопка]

У меня однажды активизировался этот ИИ на мэйл без всяких моих команд.(или, возможно, случайно нажала, не знаю) Потом с трудом разгребла, перепутаны были аккаунты, где-то пришлось поменять пароль.