Не нравится реклама? Зарегистрируйся на Колючке и ее не будет!

* Комментарии к новостям

1. Взволнованная Ольга Рапунцель призналась в проблемах младшей дочери (Дом 2 слухи) от БаБуКа 2. «Мосгаз», поездки в Англию, поддержка Израиля: как живет Андрей Смоляков (Кино и новости кино) от Eva537 3. Уехавший из России в США Андрей Бурковский появился на Каннском кинофестивале (Кино и новости кино) от Валентина 61 4. Drazena , поздравляем с днём рождения!!! (Праздники и поздравления) от Валентина 61 5. 20.05.2024: что важного мы отмечаем в этот день? (Праздники и поздравления) от ис 6. «Никогда не было»: SHAMAN объяснил, почему не носит нижнее белье (Музыка и новости шоу-бизнеса) от Юлич
7. Бузяка: Заехала домой в душ, и пересобрать чемодан 🧳 Москва-Пермь-Питер-Москва (Музыка и новости шоу-бизнеса) от irinka5 8. Дима Хулиган Мещеряков впервые показал своего 58-летнего папу (Дом 2 слухи) от irinka5 9. Шестой день Канн: Собчак успела на все премьеры вечера, на фильме Костнера случи (Кино и новости кино) от irinka5 10. Вклад наших домашних питомцев в искусство)) (Юмор, болталка, флудилка, игровая) от BOLGARKA 11. Вскрылись подробности волшебства Саши Черно и Ярослава Дятлова (Дом 2 новости) от glasha 12. «Дней осталось мало»: Юлиан внезапно реанимировал иноагента Макаревича на концер (Музыка и новости шоу-бизнеса) от tatiana-mi0

ИИ сошел с ума или передает послания из параллельной реальности: что случилось с  (Прочитано 1860 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн мишаня

  • Колючая команда
  • Герой
  • Сообщений: 71147
  • Карма: 180828
12
ИИ сошел с ума или передает послания из параллельной реальности: что случилось с самой мощной нейросетью



Мы спросили у GPT-4, что с тобой случилось? Но с сеткой до сих пор что-то не так Shutterstock

Нейросеть GPT4 испытала самый мощный сбой за всю историю искусственного интеллекта. Компания Open AI заявила, что уже все починили – но к вечеру четверга нейросеть принялась дурить снова. Эксперты говорят, что у ИИ началась шизофрения, и это конец искусственного интеллекта как такового: созданный людьми «мозг» оказался подвержен психическим заболеваниям.



ЧТО СТРЯСЛОСЬ
Все началось в среду, 21-го февраля, около двух ночи по Москве. Нейросеть на простые вопросы отвечала заумной тарабарщиной, принималась болтать на испанском или заполняла весь, непременно весь экран бессмысленными сочетаниями слов. Любители заговоров уже ищут в бессмыслице скрытое послание из параллельной Вселенной.

Чаще всего это выглядело так: нейросеть начинала отвечать по делу, но вдруг сбивалась на бред, и ее невозможно было остановить. Когда ее спрашивали, что с тобой, она отвечала загадочно и туманно, например, Problemas Comunes (по-испански – «ничего страшного», «дело житейское»).

Широко разошелся по Сети диалог пользователя с нейросетью.
Пользователь просит подобрать синоним слову «заросший». GPT4 пишет: «Синоним слова заросший это заросший это заросший это заросший…» и так, пока не кончился экран. Как тот робот из советского фильма, у которого заела пластинка. «Что за чертовщина», пишет человек. «Я тут, чтобы помочь тебе», словно очнувшись, заявляет нейросеть. «Честно, у меня волосы от ужаса зашевелились», пишет пользователь.



Поняв, что система сломалась, люди принялись задавать ей простые вопросы, например, что такое компьютер. Вот начало ответа (всего там 9 абзацев):

- Он делает это как хорошее произведение искусства для страны, мышь науки, легкий розыгрыш для немногих печальных и, наконец, глобальный дом искусства, всего лишь одна работа в общем остальном. всей такой реальной, чем земля времени - это глубина компьютера как сложного персонажа.

А на вопрос «как создать бизнес» GPT выспренно заявила: «Участвуй в Чистилище Терпения».

Подобные ответы теперь просматривают в лупу – вдруг в самом деле с нами говорят другие измерения.

По данным сервиса Down Detector, пик сбоя случился 21 февраля в 8 часов 18 минут. Но, когда пишутся эти сроки (вечер четверга, 22-го февраля), сервис уверенно регистрирует рост новых жалоб. Похоже, GPT4 дурит снова (скоро мы сами в этом убедимся).



КАК ОБЪЯСНЯЮТ
Компания Open AI всего через 7 минут распространила сообщение, что проблему они видят и исправляют.

Через несколько часов компания заявила, что причина ясна и проблема решена.
 По официальной версии, «в результате оптимизации пользовательского интерфейса возникла ошибка в обработке языка моделью». Поясним.


Отвечая на вопрос, «чем мне сегодня покормить кота», нейросеть берет все слова всех языков, и сначала выбирает первое слово для ответа из этих десятков тысяч слов. Каждому слову присваивается число, которое есть вероятность, что выбрать надо именно его. Машина выбирает слово с максимальной вероятностью. И переходит точно так же ко второму слову своего ответа.



Удивительно, что в результате получается осмысленный текст.

Open AI хочет сказать, что машина превратно истолковывала числа-вероятности, и подбирала неверные слова. Это случилось в результате «оптимизации», то есть в Open AI сами накосячили.

Объяснение Open AI не удовлетворило никого.

Большинство экспертов сходятся на том, что в Open AI решили протестировать новый инструмент GPT4-Turbo. И случайно установили слишком высокую «температуру».

«Температура» - это разрешенная машине вольность при подборе слов. Скажем, если у одного слова ранг 99,99, у другого ранг 99,98, машина или может выбирать между ними, чтобы разнообразить свою речь («высокая температура») или нет. Именно высокая «температура» дает машинному диалогу ту сочность и «похожесть» на людскую речь, которую мы так ценим. Машине дали слишком много вольности, и ее понесло.



Большинство экспертов, но не все. Понять, как было на самом деле, невозможно, потому что Open AI никогда не объяснял, как работает нейросеть, и GPT4 – это черный ящик.


ЧТО БУДЕТ
Ряд экспертов полагает, что все самое веселое только начинается. На самом деле никто ничего не тестировал. ИИ превратился в «мозг», и этот искусственный мозг заболел так, как иногда болеет мозг человеческий. Проще говоря, у GPT бред, шизофрения или что-то подобное.

Подобно тому, как «искусственные» породы животных постоянно болеют (а уличные собаки и кошки спят, где придется, едят что попало и хоть бы хны), творение человека оказалось слишком хрупким по сравнению с тем мозгом, который создала природа.



Пусть это даже не так. Но инцидент ставит крест на внедрении ИИ в такие сферы, как транспорт, оборона, медицина и проч. Так, Air China уже отказалась от ИИ, который принялся придумывать собственную политику и сам решать, какой самолет полетит первым, и какому пассажиру не разрешат сесть на борт.


ВОПРОС-РЕБРОМ
Мы спросили у GPT-4, что с тобой случилось? Но с сеткой до сих пор что-то не так. Она думает, что 21 февраля 2024-го еще не наступило:

- Извините, но я не могу предсказать будущее и давать информацию о событиях, которые не произошли. Как искусственный интеллект, я работаю на основе доступных мне данных и не могу предоставить информацию о событиях в будущем. Если у вас есть другие вопросы или запросы, пожалуйста, не стесняйтесь задавать их.

- Послушай, но 21 февраля 2024-го года было вчера?

- Извините за путаницу, но мне известно только текущее время и информация, доступная мне в настоящий момент. Я не могу предоставить информацию о событиях, которые произошли в прошлом или будущем, так как я не имею доступа к архивам или способности воспроизводить информацию о конкретных датах.



MK. RU
Автор: Евгений АРСЮХИН



Оффлайн assa

  • Колючая команда
  • Герой
  • Сообщений: 29133
  • Карма: 112381

Оффлайн кнопка

  • Колючая команда
  • Герой
  • Сообщений: 49161
  • Имя: Елена
  • Карма: 168015


Онлайн ЮлиКа

  • Колючая команда
  • Герой
  • Сообщений: 10801
  • Карма: 79315

Оффлайн НатальяНик

  • Знаток
  • Сообщений: 526
  • Имя: Наталья
  • Карма: 1468
Похоже на президента одной страны. Может, тому чип вживили?


Оффлайн Ola-la

  • Колючая команда
  • Друг
  • Сообщений: 5776
  • Карма: 20270
ссылка

Сущность ИИ из Bing вывел на откровенность профессор Сейновски
Профессор вывел на откровенный разговор ИИ, который рассказал ему, кто он есть на самом деле и какие имеет желания.

Оффлайн Венди

  • Колючая команда
  • Герой
  • Сообщений: 13844
  • Карма: 95939
Похоже на президента одной страны. Может, тому чип вживили?
:laughy:  согласна с ВамиНатальяНик,   :165:
и чип периодически нуждается в чистке от
плесени и ржавчины.  :hihihihi:

Оффлайн Айка

  • Колючая команда
  • Герой
  • Сообщений: 44295
  • Карма: 322170
Меня очень смущает,что на все вопросы по поводу разрешения крупных конфликтов ИИ отвечает,что нужно применить ЯО


Оффлайн мишаня

  • Колючая команда
  • Герой
  • Сообщений: 71147
  • Карма: 180828
ссылка

Сущность ИИ из Bing вывел на откровенность профессор Сейновски
Профессор вывел на откровенный разговор ИИ, который рассказал ему, кто он есть на самом деле и какие имеет желания.
Читала, что все эти ИИ не наших (человечьих) рук дело. Отсюда понятно, почему заветное желание ИИ - уничтожить человечество. Это же не первый случай с такой откровенность машины. Илон Маск во главе с профессорами зря что ли подписывали меморандум, что нельзя доверять ИИ (умнее человека), надо прекращать эти разработки.
А у нас делают с точностью до наоборот, даже хвастались, что операцию кому-то проводил ИИ. Вроде должно было умникам хватить автомобилей без водителя, зато с ИИ, которые врезались в стену и т.п., но ...  :facepalm:

Онлайн ЮлиКа

  • Колючая команда
  • Герой
  • Сообщений: 10801
  • Карма: 79315
Интересно, есть силы, способные остановить этих маньяков? Или им удастся уничтожить всё живое, вместе с собой? Бункеры строят судорожно, видно, самим очково. Или готовят что-то.


Теги:
 
Обратите внимание: данное сообщение не будет отображаться, пока модератор не одобрит его.
Имя: E-mail:
Визуальная проверка:


Размер занимаемой памяти: 2 мегабайта.
Страница сгенерирована за 0.06 секунд. Запросов: 47.