Джеффри Хинтон оценил вероятность уничтожения человечества вследствие развития ИИ

Физик Джеффри Хинтон, считающийся одним из основателей современных технологий искусственного интеллекта, заявил, что вероятность уничтожения человечества вследствие развития ИИ в ближайшие три десятилетия колеблется между 10% и 20%. Как сообщает The Guardian, этот прогноз был озвучен учёным в интервью на радио BBC Radio 4 в рамках программы «Today».

Фото из открытых источников

По словам Хинтона, скорость прогресса в сфере ИИ значительно превышает ожидания, а возможности новых систем уже приближаются к уровню, превосходящему человеческий интеллект. Он подчеркнул, что такие мощные системы могут представлять серьёзную угрозу, если их разработка не будет должным образом регулироваться.

Ранее Хинтон предсказывал 10%-ную вероятность негативных последствий от использования ИИ, однако теперь он увеличил этот показатель вдвое. Учёный отметил, что человечество ранее никогда не сталкивалось с сущностями, обладающими интеллектом, превышающим человеческий, и привёл в качестве примера отношения матери и ребёнка, подчеркивая сложность управления системами, превосходящими нас по интеллектуальным возможностям.

Кроме того, Хинтон выразил обеспокоенность тем, что частные компании, движимые исключительно мотивами получения прибыли, могут игнорировать вопросы безопасности при разработке ИИ. Он считает, что государственные регуляторы должны вмешиваться, чтобы обеспечить контроль над этими технологиями.

Этот комментарий прозвучал спустя год после ухода Хинтона из Google, где он работал долгое время. В то время учёный объяснял своё решение желанием свободно высказывать свои взгляды на риски, связанные с неконтролируемым развитием ИИ.

Хинтон также поделился своими размышлениями о том, насколько стремительно развивается область искусственного интеллекта. По его словам, текущие достижения далеко превзошли его первоначальные прогнозы, что вызывает у него тревогу.

Джеффри Хинтон получил Нобелевскую премию по физике в 2023 году за свои достижения в области искусственного интеллекта, что подчеркивает его значимость в этой области. Учёный настаивает на необходимости международного регулирования, чтобы предотвратить возможные негативные последствия от применения ИИ.