«Крестный отец» нейросетей уволился из Google и заявил об опасности ИИРазработчик нейросетей Джеффри Хинтон уволился из Google и заявил об опасности ИИДжеффри Хинтон не подписывал отрытых обращений об опасности искусственного интеллекта, пока работал в Google на этом направлении. Но после увольнения он присоединился к тем, кто призывает взять эти процессы под контроль
Джеффри Хинтон (Фото: Nick Iwanyshyn / University of Toronto)
Один из пионеров нейросетей и технологий искусственного интеллекта Джеффри Хинтон уволился из Google и присоединился к тем, кто видит в подобных достижениях опасность для человечества. Об этом Хинтон рассказал в интервью The New York Times.
75-летнего эмигранта из Великобритании называют «крестным отцом искусственного интеллекта», отмечает издание. Хинтон работал над развитием нейросетей с 1970-х, когда в их будущее еще никто не верил.
В 2012 году его компанию, которая разработала технологию распознавания изображений, за $44 млн приобрела Google. Сотрудником Хинтона тогда был Илья Суцкевер, который впоследствии стал главным научным сотрудником OpenAI, компании-создателя бота ChatGPT.
В 2018 году доктор Хинтон и двое его сотрудников получили Премию Тьюринга, которую часто называют «Нобелевской премией по вычислительной технике», за работу над нейронными сетями.Хинтон не присоединялся к открытым письмам специалистов по ИИ об опасности бесконтрольного развития подобных технологий, поскольку считал это неэтичным. Однако в минувшем апреле уведомил компанию о своем уходе в отставку.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон в интервью изданию.
Он также признал, что компании,
по мере того как совершенствуют свои системы искусственного интеллекта, становятся все опаснее. «Посмотрите, как это было пять лет назад и как обстоит сейчас», — сказал он о технологии искусственного интеллекта.
Хинтон опасается, что интернет будет наводнен фальшивыми фотографиями, видео и текстами, созданными ИИ, при этом обычный человек «больше не сможет знать, что является правдой».
Он также обеспокоен тем, что технологии искусственного интеллекта со временем перевернут рынок труда. Сегодня чат-боты, такие как ChatGPT, как правило, дополняют обычных работников, но могли бы заменить людей многих профессий.
«Идея о том, что эти вещи действительно могут стать умнее людей, в это верили немногие», — сказал Хинтон. «Я думал, что до этого еще 30–50 лет, а то и больше. Очевидно, я больше так не думаю», — сказал он в интервью NYT.Компания OpenAI представила универсальный чат-бот ChatGPT в конце прошлого ноября. Его создали на суперкомпьютере Azure AI на основе языковой модели GPT-3,5 от OpenAI. Чат-бот способен вести диалог, спорить, искать ошибки в коде, сочинять стихи, писать сценарии, давать медицинские советы и т.д. Он доступен всем желающим.
В конце минувшего марта предприниматель Илон Маск, сооснователь соцсети Pinterest Эван Шарп и сооснователь Apple Стив Возняк и другие бизнесмены и представители IT-отрасли подписали открытое письмо с требованием приостановить разработки более мощных, чем GPT-4, нейросетей хотя бы на полгода. Они сочли, что пауза необходима для разработки протоколов безопасности в сфере искусственного интеллекта.
Послание подписали более 1 тыс. специалистов IТ-отрасли. Они предупредили, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества, и задались вопросом, должны ли люди «рисковать потерей контроля над цивилизацией».
«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», — призвали авторы письма.
ссылка
Тема: «Крестный отец» нейросетей уволился из Google и заявил об опасности ИИ (Прочитано 3701 раз)
