В этом году число несчастных случаев с участием искусственного интеллекта резко возрастёт

Эксперты уверены, что миру следует готовиться к резкому росту количества несчастных случаев с участием ИИ. Часть из них можно отнести к социально неприемлемым ошибкам, часть к авариям, но будут и неизбежные трагические инциденты. Newsweek сообщает, что уже существует база данных инцидентов, связанных с ИИ.

AP

Мир только привыкает к распространению искусственного интеллекта (ИИ). Тем временем, в СМИ уже появилась информация о росте числа инцидентов, возникающих при помощи этих новых технологий. Среди них несчастные случаи и даже смерти, пишет Newsweek. Причём эксперты уверены, что такая статистика будет только расти. 
 
Нынешний год ознаменовал настоящий взрыв роста ИИ-технологий. Вначале появился chatGPT, после чего пошла настоящая гонка по созданию подобных моделей в самых разных областях, включая финансы, генерацию изображений и так далее. Искусственный интеллект проникает в самые разные сферы жизни и влечёт за собой несчастные события, порой с трагическими последствиями. 

По данным Newsweek, уже существует база данных инцидентов, связанных с ИИ. В ней отслеживаются все ошибки и несчастные случаи, которые произошли по вине ИИ. На сегодняшний день в ней зафиксировано более 500 случаев, и число постоянно растёт. Для сравнения, в 2022 году этот показатель составлял 90 случаев, а всего за три первых месяца 2023-го — 45, это означает, что к концу года их будет около 180. 

Шон Макгрегор, создатель базы, объяснил Newsweek: «Мы предполагаем, что количество несчастных случаев с ИИ вырастет в 2023 году более чем в два раза, и мы готовимся к миру, где такие случаи, скорее всего, будут происходить согласно закону Мура».

Закон Мура — заключение, сделанное Гордоном Муром, сооснователем Intel, в 1965 году. Согласно нему, количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые два года. Следовательно, скорость и возможности вычислений в результате увеличились бы таким же образом. Значит и траекторию инцидентов с ИИ можно примерно представить. 

Чем шире будут использоваться технологии искусственного интеллекта, тем выше вероятность ошибок. Однако Макгрегор объяснил Newsweek, что на данном этапе сложно точно выяснить масштаб использования ИИ: «Мы знаем, что количество умных систем в мире стремительно растёт, но никто не может заявить: «ИИ стал на 30 процентов безопаснее, чем в прошлом году», потому что мы видим только ошибки, а не удачи». 

Некоторые из этих ошибок не фатальны, а лишь социально неприемлемы. Издание приводит в пример случай 2015 года, когда фотопрограмма Google обозначила чернокожих «гориллами». Но были и трагические случаи. На заводе Volkswagen убили рабочего, прибив его к металлической плите, или автомобиль Tesla на автопилоте поехал на красный сигнал светофора и врезался в другую машину. Тогда погибли два человека. 

В список фатальных также включили роковой полёт 2018 года, когда самолёт со 189 людьми на борту упал в море из-за того, что неверные данные датчиков привели к тому, что автоматизированная система маневрирования несколько раз опустила нос самолёта вниз. 

«Большая часть того, что мы сейчас делаем, — это подготовка к миру, где инциденты с ИИ являются нормой. На политиках, коммерческих структурах и человечестве в целом лежит обязанность построить социальную инфраструктуру, необходимую для того, чтобы снизить эту кривую», — цитирует Макгрегора Newsweek. 

Издание поясняет, что База данных инцидентов ИИ ведётся некоммерческой организацией The Responsible AI Collaborative. Её цель — помочь сделать искусственный интеллект более безопасным. База является открытой, с ней сотрудничают множество добровольцев по всему миру.