Nätverket "Holiday"- ett exempel på hur AI används för otillbörlig informationspåverkan

Denna rapport från Myndigheten för psykologiskt försvar (MPF) belyser två aktuella företeelser som delvis hänger ihop och förstärker varandra: utvecklingen av desinformation som tjänst och framväxten av botnätverk som drivs eller förstärks med hjälp av AI.

Rapporten beskriver ett delvis AI-drivet botnätverk med totalt cirka 1 200 konton som MPF identifierat på plattformen X. Bedömningen är att en statlig
aktör köpt nätverket från ett företag i Östasien och att nätverket under 2025 och 2026 använts för otillbörlig informationspåverkan mot Sverige och flera andra länder.

Botnätverket, som av MPF fått arbetsnamnet ”Holiday”, har totalt gjort över 50 000 inlägg, kommentarer och delningar, merparten med fokus på dagsaktuella politiska förslag eller utspel som diskuterats flitigt på plattformen. Nätverket har agerat tydligt polariserande. Medan en del konton i nätverket uttryckt mycket positiva åsikter har andra konton varit starkt negativa i samma fråga.

Flera myndigheter har bidragit till att botnätverket upptäckts och kunnat stängas ned. De första kontona upptäcktes av Riksbanken, efter att de genomfört en MPF-ledd övning i syfte att proaktivt stärka sin förmåga att upptäcka och hantera otillbörlig informationspåverkan. MPF kunde senare konstatera att botkontona var en del av ett större nätverk som över tid växte och blev mer sofistikerat. Genom samverkan mellan MPF och Post- och Telestyrelsen, PTS, uppmärksammades X på nätverket, vilket
resulterade i att samtliga konton stängdes av från plattformen.

MPF:s syfte med att beskriva botnätverket i en öppen rapport är att belysa och konkretisera hur AI kan användas för otillbörlig informationspåverkan. Medvetenhet om hur hotbilden från otillbörlig informationspåverkan ser ut är en viktig förutsättning för motståndskraft.