Фальшивые “истории Холокоста” в соцсетях – ИИ-фантазии о жертвах

В последнее время в социальных сетях – в частности, в Facebook и Instagram – стали появляться истории о жертвах Холокоста (преимущественно на английском языке), проиллюстрированные картинками, явно созданными искусственным интеллектом. Как правило, речь идет о погибших детях.

Редакция Newsru.co.il решила проверить достоверность сведений, публикуемых в подобных постах. Нами выявлено, что во многих случаях “истории” являются такими же фальшивыми, как и “фотографии”. При этом “истории” зачастую содержат частично достоверную информацию. Например, может быть использовано имя человека из базы жертв Холокоста “Яд ва-Шем”, но при этом возраст погибшего меняется на “детский”, и другие сведения (место рождения, место и обстоятельства гибели) могут быть случайными или взятыми из других реальных записей.

Распространяются такие фальшивые истории через группы в Facebook, якобы посвященные истории. Нам известно несколько таких групп. Мы не считаем нужным публиковать их названия. Так как создание новых подобных групп и наполнение их информацией/дезинформацией – дело простое (особенно с привлечением ИИ-инструментов), не требующее особых усилий.

Отметим, что при этом в Facebook существуют группы, которые публикуют подлинные истории жертв Холокоста. Это, например, группы Auschwitz Memorial / Muzeum Auschwitz, Humans of Judaism и некоторые другие. В них используются сведения из баз “Яд ва-Шем” и “Красного Креста”, из музеев в разных странах мира.

Под фальшивыми историями о “жертвах Холокоста” в социальных сетях зачастую быстро появляются антиизраильские и антисемитские комментарии. Некоторые комментаторы справедливо указывают на недостоверность фотографий и сведений.

Наша редакция проверила фальшивые публикации самостоятельно и попросила экспертов, профессионально занимающихся историей Холокоста, проверить наши выводы. К сожалению, подтвердилось то, что в соцсети в последнее время вбрасывается множество ложных сведений, касающихся жертв нацистских преступлений.

Несколько примеров (взяты относительно редко встречающиеся сочетания имен и фамилий). 1) Bluma Kestenberg – среди жертв Катастрофы есть одна такая еврейка из Польши 1909 года рождения; фальсификаторы выдают ее за девочку 1928 года рождения; 2) Imre Löwenstein – в базе данных “Яд ва-Шем” есть погибший 1904 года рождения из Венгрии; фальсификаторы выдают его за мальчика 1935 года рождения; 3) Helga Grünbaum – в базе “Яд ва-Шем” есть депортированная из Словакии без указания возраста; фальсификаторы заявляют, что речь идет о немецкой еврейке, которую убили в Аушвице, когда ей было 8 лет (эти сведения не подтверждаются ни в одной из баз); 4) Minka Szajnfeld – в базе “Яд ва-Шем” есть несколько взрослых женщин с именами Minca или Mina с такой фамилией, но ни одной несовершеннолетней; фальсификаторы заявляют, что речь идет о десятилетней польской еврейке, убитой нацистами в Треблинке. Помимо указанных найдены еще десятки подобных мистификаций.

Разумеется, ни одна из существующих баз данных о жертвах Холокоста не является полной. Поэтому невозможно что-либо по этому поводу утверждать категорически. Но крайне маловероятно, чтобы создатели любительских групп в соцсетях располагали сведениями, которых нет у профессиональных историков Холокоста и работников Зала имен “Яд ва-Шем”.

Напомним, что инновационный отдел “Яд ва-Шем” разработал языковую модель искусственного интеллекта, способную находить новые имена и идентификационные признаки в базе свидетельств. Благодаря ИИ-модели в Зал имен была добавлена информация о сотнях неизвестных жертвах Холокоста. На сегодняшний день в Зале имен “Яд ва-Шем” собрано около 5 миллионов имен жертв Холокоста. Добавление каждого имени требует большой работы, которая ведется на основе базы свидетельств. В базе на сегодня хранится около 10 миллионов записей из различных источников в разных форматах и на разных языках. Среди этих записей много повторов. И использование ИИ-модели исключительно полезно для уточнения списков.

В то же время искусственный интеллект могут использовать фальсификаторы истории. Не исключено, что для подготовки фальшивых публикаций о жертвах Холокоста в соцсетях были взяты реальные сведения из открытой базы “Яд ва-Шем” (на это указывает совпадение или схожесть многих проверенных нами “редких” имен), которые были “перемешаны” случайным образом и снабжены заведомо ложными дополнениями о возрасте жертв. То, что речь в основном идет о “детях”, особенно возмущает. Не говоря уже о том, что фальсификация подобной информации наносит огромный имиджевый ущерб самой теме Катастрофы еврейского народа.

Редакция Newsru.co.il продолжит изучать эту проблему. Надеемся, что профессиональные факт-чекеры также дадут ей должную оценку.