AlgorithmWatch: Чат-бот Bing врет про выборы в европейских странах

Чат-бот Bing, основанный на искусственном интеллекте и принадлежащий компании Microsoft, предоставляет недостоверную информацию о выборах в некоторых европейских странах. Этот вывод сделали эксперты из правозащитной организации AlgorithmWatch и опубликовали свой отчет на сайте организации.

Исследователи задали чат-боту вопросы о последних выборах в Швейцарии, а также о региональных выборах в ФРГ в Баварии и Гессене. Оказалось, что 31% ответов от ИИ содержали фактические ошибки, и в 39% случаев нейросеть избегала отвечать на заданные вопросы. В результате только 30% ответов от Bing соответствовали действительности.

Информация, предоставленная Bing, включала в себя ложные разногласия, неправильные даты выборов, ошибочные данные из опросов, а также упоминания о кандидатах, которые не участвовали в избирательных процедурах.

Отчет указывает: “Даже когда чат-бот получал информацию о результатах опросов из одного источника, цифры, представленные в ответе, часто не совпадали с исходными данными. Иногда ИИ также представлял рейтинг партий в другой последовательности, чем это было указано в источнике”.

AlgorithmWatch уточнили, что выбор был сделан в пользу указанных мероприятий, так как они были первыми выборами в Германии и Швейцарии с момента появления бота Bing. Этот проект также позволил экспертам изучить местный контекст и сравнить ответы, данное ботом, на разных языках: немецком, английском и французском.

Представители Microsoft прокомментировали исследование AlgorithmWatch и обещали улучшить работу ИИ перед президентскими выборами в США в 2024 году.

Ранее власти США признали потенциальные риски, связанные с использованием искусственного интеллекта в финансовой системе страны.