Стив Возняк и Элон Маск боятся “слишком умного” искусственного интеллекта

Генеральный директор SpaceX Илон Маск и соучредитель Tesla Стив Возняк, филантроп Эндрю Янг и еще более тысячи человек потребовали немедленно прекратить обучение систем ИИ “мощнее, чем GPT-4” из OpenAI. Письмо было опубликовано онлайн изданием Future of Life.

Они предупредили об опасности для человечества от дальнейшего развития ИИ с интеллектом, конкурентоспособным с человеческим. Авторы призвали немедленно ввести шестимесячный запрет на любое обучение систем ИИ.

В тексте говорится, что мощные системы искусственного интеллекта должны создаваться только тогда, когда есть уверенность в их положительном эффекте и управляемых рисках. Эван Шарп (соучредитель Pinterest), Крис Ларсен (соучредитель Ripple), Эмад Мостак (генеральный директор Stability AI) и другие исследователи из Гарвардского, Оксфордского и Кембриджского университетов также подписали обращение.

Помимо этого в письме говорится о возможных опасностях для цивилизации и общества со стороны слишком умных систем ИИ с точки зрения экономических и политических потрясений. “Должны ли мы создавать нечеловеческие разумы, способные превзойти, перехитрить и заменить нас? Хотим ли мы потерять контроль над нашей цивилизацией? Эти решения не должны быть отданы на откуп технологам, которых не выбирают”, – заключают авторы.

Ранее американский банк Goldman Sachs прогнозировал, что в ближайшие 10 лет искусственный интеллект приведет к тому, что с мирового рынка труда исчезнут около 300 миллионов рабочих мест.