Toppmötet i Paris: Fokus på AI och otillbörlig informationspåverkan

En central del av mötet är temat Trust in AI, som arrangeras av den franska myndigheten VIGINUM och OECD. Här ligger fokus på utländsk otillbörlig informationspåverkan, samt de risker och möjligheter som AI innebär i arbetet med att motverka desinformation, vilseledning och propaganda.

MPF:s bidrar till rapport från OECD och VIGINUM

MPF har bidragit till rapporten Challenges and opportunities of artifical intelligence in the fight against information manipulation Länk till annan webbplats. som samförfattas av VIGINUM och OECD, där risker och möjligheter med AI i kampen mot otillbörlig informationspåverkan från främmande makt kartläggs. Rapporten, som lanseras under programpunkten ”Protecting information integrity in the age of AI”, ger bland annat en översikt av AI-baserade tekniker som används för att sprida desinformation och lyfter fram verktyg som kan stärka det defensiva ekosystemet.

AI:s roll inom otillbörlig informationspåverkan från främmande makt

Den snabba utvecklingen av AI och sociala medier skapar nya utmaningar i arbetet med att motverka påverkan från främmande makt. Generativ AI har blivit ett verktyg för hotaktörer. Den möjliggör produktion av realistisk, billig och skalbar desinformation, inklusive deepfakes, ”cheap fakes” och syntetiskt media. Dessa tekniker suddar ut gränsen mellan äkta och manipulerat innehåll, försvårar faktagranskning och kan öka samhällelig polarisering.

Statliga och icke-statliga aktörer använder i allt högre grad AI för att genomföra riktade desinformationskampanjer. Ryska påverkansoperationer som ”Doppelgänger” och ”Portal Kombat” sprider AI-genererat innehåll via fejkade nyhetsplattformar och förstärker sina budskap med hjälp av AI-genererade texter bilder och videor.

MPF:s internationella engagemang på AI-området

MPF arbetar för att identifiera, analysera och lämna stöd i bemötandet av påverkan från främmande makt. Myndigheten stärker även långsiktigt motståndskraften i samhället genom bland annat utbildning, övning, medverkan i media och internationellt samarbete.

Evenemang som AI-toppmötet gör det möjligt för MPF att utbyta expertis med nyckelaktörer som OECD och VIGINUM samt dra lärdomar av innovativa defensiva strategier på AI-området.

MPF:s deltagande i AI-toppmötet är ett uttryck för myndighetens engagemang i att stärka Sveriges psykologiska försvar och skydda demokratiska värden i en tid av snabb teknologisk förändring. Genom att främja internationellt samarbete syftar MPF till att effektivt motverka otillbörlig informationspåverkan från främmande makt och stärka samhällets motståndskraft.