Мнение: Что-то странное происходит в ОпенАИ: ходят слухи, что ЖПТ-5 пугающе умён

20.11.2023, 11:26, Разное
  Подписаться на Telegram-канал
  Подписаться в Google News
  Поддержать в Patreon

В субботу из компании ОпенАИ, которая делает самым мощный ИИ в мире, ЖПТ-4, внезапно уволили руководителя, Сэма Альтмана. Того самого Сэма Альтмана, который, по слухам, везде носит с собой знаменитый синий рюкзак с тревожной кнопкой, способной физически обесточить вышедший из-под человеческого контроля искусственный интеллект.

Совет директоров сформулировал причину увольнения так — «[Сэм Альтман] не был всегда откровенен в своем взаимодействии с советом». Проще говоря, совет директоров узнал, что Сэм Альтман скрывал от них что-то важное, причём настолько важное, что они внезапно собрались в субботу и приняли решение вышвырнуть его на улицу одним днём (ссылка).

На следующий же день, в воскресенье, инвесторы потребовали вернуть Сэма Альтмана обратно (ссылка). Почему — опять-таки загадка.

Одновременно с этим пошли слухи, что причина всей этой суматохи — технологический прорыв, который компания ОпенАИ сделала по дороге к разработке Универсального Интеллекта, компьютерного сверхразума. Цитирую (ссылка):

OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность [1].

<…>

Мой бывший коллега по IBM Carlos E. Perez час назад взорвал интернет довольно подробным объяснением [2], что танцы с бубном вокруг увольнения (а теперь и возвращения обратно [3]) Сэма Альтмана – всего лишь отвлекающий маневр руководства OpenAI.

Они не понимают, что делать в ситуации, когда исследователи OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность – самостоятельно «на лету» находить новую информацию (которой нет в её базе данных), позволяющую модели выходить за пределы знаний, сформированных на стадии её обучения и потому ограниченных набором обучающих данных.

По сути, это первый шаг к самосовершенствованию ИИ.

И это реальный прорыв на пути к сверхинтеллекту («богоподобному ИИ»)

Детали того, как это работает, можете прочесть у Карлоса

<…>

Практическая проверка показала, что новая версия модели не только знает, какие вопросы она должна задать поисковику для получения нужной ей информации, но и то, какие типы ответов поисковика для неё наиболее предпочтительны, в контексте решаемой ею задачи.

Для справки: Карлос – не последний человек в мире ИИ. Уйдя из IBM, он стал независимым исследователем. С тех пор он стал автором многих интересных работ на стыке AI, AGI, семиотики и глубокого обучения, а также написал несколько книг: Artificial Intuition, The Deep Learning Playbook, Fluency & Empathy, Pattern Language for GPT.

Согласно другим слухам, модель ЖПТ-5, тренировку которой завершили в последние недели, оказалась настолько мощной, что порядком напугала Илью Суцкевера — сооснователя и главного научного сотрудника ОпенАИ. Кстати, господин Суцкевер родился в Нижнем Новгороде, позже родители перевезли его в Израиль, а откуда — в Канаду. Он считается одним из главных специалистов по искусственному интеллекту на нашей планете.

Так вот, есть версия, что Ilya, как его называют в сообществе, был настолько впечатлён или напуган новыми навыками ЖПТ-5, что инициировал в компании корпоративный переворот, чтобы что-то остановить (ссылка 1, ссылка 2).

Возможно, мы наблюдаем конфликт между жадностью и осторожностью: часть команды ОперАИ хочет использовать возможности ЖПТ-5, чтобы стать триллионерами, а другая часть команды хочет запереть джинна обратно в бутылку, чтобы история человечества не закончилась раньше времени. Осторожность луддитов понятна, но, к счастью или к сожалению, их сторона обречена на проигрыш: современные США недоговороспособны, поэтому другие страны, такие как Китай и Россия, в любом случае будут разрабатывать собственных искинов, чтобы не проиграть стратегически важную гонку американцам. При этом роботы очень быстро умнеют, а люди — нет, поэтому исход гонки предрешён: если не завтра, так значит через год, через пять лет или через более долгий срок роботы неизбежно станут умнее нас. Не факт, что искины после этого получат реальную власть — как мы хорошо знаем, самые умные люди сидят в лабораториях, а не руководят государствами — но наша жизнь после появления роботов-учёных изменится кардинально.

В любом случае, сколько-нибудь достоверной информации о происходящем в ОпенАИ у нас пока что нет, так что нам остаётся только повторить знаменитую формулу за героиней старого мема (видео):

Источник: Место для дискуссий


Смотреть комментарииКомментариев нет


Добавить комментарий

Имя обязательно

Нажимая на кнопку "Отправить", я соглашаюсь c политикой обработки персональных данных. Комментарий c активными интернет-ссылками (http / www) автоматически помечается как spam

Политика конфиденциальности - GDPR

Карта сайта →

По вопросам информационного сотрудничества, размещения рекламы и публикации объявлений пишите на адрес: [email protected]

Поддержать проект:

ЮMoney - 410011013132383
WebMoney – Z399334682366, E296477880853, X100503068090

18+ © 2002-2023 РЫБИНСКonLine: Все, что Вы хотели знать...

Яндекс.Метрика