Росія заражає чат-боти на основі штучного інтелекту маніпульованим контентом, розробленим для впливу на глобальний інтернет, спотворюючи розуміння фактів громадськістю та здатність приймати обґрунтовані рішення

За останні три роки війни в Україні, Росія розширила, розробила та адаптувала кампанію інформаційного впливу, поширюючи свій контент у статтях Вікіпедії та у популярних інструментах штучного інтелекту (ШІ). Під час виборчих кампаній у Румунії та Молдові та політичних дискусій між президентом США Дональдом Трампом та президентом України Володимиром Зеленським, мережа неавтентичних проросійських інтернет-порталів посилила свою активність, відмиваючи контент із санкційованих мас-медіа та узгоджуючи глобальні інформаційні джерела з наративною машиною Кремля. Про це йдеться в авторській колонці Валентена Шатле, наукового співробітника з питань безпеки у Лабораторії цифрової криміналістики Атлантичної ради (Бельгія) на сторінках Atlantic Council, переказ якої пропонує Foreign Ukraine.

Російська мережа стала глобальною

Мережа «Правда» – це сукупність шахрайських інформаційних інтернет-порталів, які спрямовані на понад 80 країн і регіонів світу, запущених Росією у 2014 році. У 2024 році французький дезінформаційний наглядовий орган Viginum виявив зловмисну діяльність кримського ІТ-бізнесу. Результати, які пізніше підтвердила Лабораторія цифрових судових досліджень Атлантичної ради (DFRLab), показали пряму причетність Росії до неї.

Мережа «Правда» діє як інформаційний андромат, посилюючи та насичуючи інформаційний цикл тропами, що виходять з російських інформагентств та пов’язаних з Кремлем Telegram-каналів. Протягом «супервиборчого року» 2024 року мережа створила веб-сайти, спеціально спрямовані проти НАТО, а також президента США Дональда Трампа, президента Франції Еммануеля Макрона та інших світових лідерів і політиків.

Штучний інтелект та Вікіпедія на передовій

Ця стратегія, ймовірно, намагаючись обійти глобальні санкції проти російських ЗМІ, зараз інфікує інструменти ШІ та Вікіпедію. Видаючи себе за авторитетні джерела у Вікіпедії та надійні мас-медіа, на які посилаються популярні моделі великих мов (LLM), російські тропи переписують історію війни в Україні. Безпосереднім наслідком є сприйняття західною аудиторією контенту, що містить прокремлівські, антиукраїнські та антизахідні повідомлення, коли використовуються чат-боти ШІ, які спираються на LLM, навчених на таких матеріалах, як Вікіпедія.

Що далі?

Це деякі із висновків розслідування, проведеного DFRLab у партнерстві з фінською компанією CheckFirst. Наше дослідження виявило тривалу російську онлайн-операцію впливу, яка поширилася у глобальному інтернеті. Разом ми опублікували серію глибоких розслідувань. Щоб оцінити та викрити вплив мережі «Правда», ми випустили інтерактивну панель інструментів та карту із безкоштовними наборами даних, що розкривають, як країни стають мішенями.

У процесі того, як чат-боти на базі штучного інтелекту продовжують розвиватися, Росія заражає їх маніпульованим контентом, розробленим для впливу на глобальний інтернет, спотворюючи розуміння фактів громадськістю та здатність приймати обґрунтовані рішення. Ця операція ставить під сумнів прозорість навчання моделей штучного інтелекту та модерацію контенту, що походить з відомих маніпульованих джерел, які постійно розділяють Захід щодо його підтримки України.