Это очень легко – троллить как русские

Мы не профессионалы, мы – ученые  и нас настораживает то, как быстро мы смогли  придумать  персонализированную кампанию дезинформации с фактическими общедоступными данными.

By IVANA STRADNER and PULKIT AGRAWAL

JULY 6, 2021 

Несмотря на доказательства того, что иностранные субъекты по-прежнему манипулируют пользователями социальных сетей на таких платформах, как Twitter, технологические компании продолжают оставлять личные данные уязвимыми, что облегчает работу российских спецслужб. Как специалист по гибридным войнам и специалист в области искусственного интеллекта, мы  “надеваем шляпы”  русских троллей, чтобы лично убедиться, насколько легко  осуществимо проведение операции влияния в Твиттере. Результаты нашего мысленного эксперимента в качестве псевдороссийских агентов  в социальных сетях  должны вызвать озноб у администраторов и пользователей этих  сетей. Кроме того, наши результаты демонстрируют необходимость избавления от явных уязвимостей, подобных функции «похожих историй» в Twitter.

Наши реальные коллеги из Агентства интернет-исследований в РФ понимают полезность операций гибридной войны в нашем все более оцифрованном и сетевом мире. Искусственный интеллект – одна из многих важных технологий, которые обещают на долгие годы изменить масштабы обычных боевых действий, особенно в сочетании с личными данными, полученными в результате активности людей в социальных сетях. Публичные профили в социальных сетях предоставляют кладезь данных о людях, и в сочетании с отсутствием ответственности перед анонимными участниками платформы социальных сетей создают экосистему, готовую к гибридным операциям. Мы осознали  эту уязвимость,  но, ещё  прежде чем даже  подумать об этой проблеме, у нас были веские основания полагать, что доступ к даже малозаметным предпочтениям проявленным  участниками в социальных сетях позволит нам создать сложные профили наших целей и адаптировать наши сообщения к ним.

Например, недавнее исследование, отметило , что удивительно подробный психологический портрет человека может быть разработан, просто анализируя –  что человек «любит» в сообщениях социальных  СМИ. Имея данные всего по 70 постам, которые кому-то понравились, алгоритм может предсказывать личные качества лучше, чем друг, а с 300 лайками он может предсказывать лучше, чем супруга. Подобные алгоритмы обработки данных можно использовать для определения политических настроений людей и сделать их мишенями для кампаний по влиянию на их мнение. Например, широко распространено мнение, что Cambridge Analytica использовала данные, собранные на Facebook, чтобы повлиять на миллионы избирателей во время президентских выборов в США в 2016 году. Подобные попытки повлиять на мнение избирателей были и во время  кампании Brexit, и информация собиралась через социальные сети даже  во время конфликтов в Ливии, Сирии и Украине.

Имея это в виду, наш гипотетический сценарий разработан как трехэтапная «операция» по оказанию влияния на американских пользователей социальных сетей по поводу спорного законодательства.

Во-первых, общедоступные «подобные истории» могут использоваться для выявления впечатлительных пользователей вместе с их интересующими темами. Мы не только можем сортировать людей по их легко доступным предпочтениям, но мы также можем использовать армию ботов, создающих твиты, для проверки взаимодействия пользователей с сообщениями, которые были за, против и нейтральны по отношению к нашему тестировочному  законодательному акту.

Во-вторых, мы можем создать контент, который с наибольшей вероятностью повлияет на конкретных пользователей, на основе прогнозов нашей модели. Вы можете задаться вопросом о происхождении обучающих данных для такой модели. Ответ… барабанная дробь… сам Твиттер. Используя модель, построенную на данных, легко доступных в Твиттере, мы можем создавать твиты с максимальным шансом оказать желаемое влияние на пользователей. Твиты можно дополнительно настроить, используя информацию о целевых группах аудитории, определенных на первом этапе. Наконец, мы можем использовать рекламные услуги, предоставляемые непосредственно платформами социальных сетей, для доставки твитов нашей аудитории. Используя характеристики нашей аудитории, которые мы определили на предыдущих этапах, мы можем максимизировать охват каждого твита с помощью тактики, обычно используемой рекламными агентствами.

Однако для того, чтобы наша кампания была эффективной, наши твиты должны появляться в новостных лентах целевых пользователей. К счастью для нас, алгоритмы Twitter созданы для оптимизации взаимодействия с пользователем на платформе, т. е. для доставки твитов, которые с наибольшей вероятностью будут привлекать пользователей. Поскольку мы можем создавать наши твиты с помощью алгоритма, который предсказывает такое взаимодействие, наша операция создает твиты, которые достигают именно этого. Затем алгоритмы Twitter доставляют наши сообщения аудитории таким образом, чтобы добиться максимального воздействия.

Это выявляет уязвимости национальной безопасности, которые возникают в результате публичного доступа к предпочтениям пользователей в социальных сетях, таких как Twitter. Конечно, провести масштабную успешную гибридную дезинформационную кампанию, которая действительно меняет мнение, – непростая задача для дилетантов. Тем не менее, очень тревожно, что с общедоступными данными можно быстро создать персонализированную кампанию дезинформации. Более того, эти операции проводят не любители, что делает ситуацию еще более пугающей – фабрики троллей, такие как Агентство интернет-исследований, обладают обширными ресурсами и годами практики, которые повышают эффективность и злонамеренный характер их деятельности и влияют на операции как часть более широкой российской  стратегии гибридной войны.

Если открытые общества, подобные обществу Соединенных Штатов, извлекут уроки из истории злонамеренных субъектов, вмешивающихся в демократию через растущее влияние социальных сетей, то задача организации операции влияния должна быть максимально  затруднена. Для нас давно настала пора переоценить платформы социальных сетей с точки зрения национальной безопасности и разработать руководящие принципы, которые не только будут защищать  конфиденциальность пользователей, но и устранять  национальную уязвимость перед лицом  злонамеренных атак из-за рубежа.

Ивана Стрэднер – научный сотрудник Джин Киркпатрик в Американском институте предпринимательства. 

Пулкит Агравал – доцент кафедры электротехники и компьютерных наук Массачусетского технологического института.