AI och valpåverkan

Generativ AI har snabbt förändrat hur information skapas och sprids. Tekniken har också gjort det lättare för aktörer som vill vilseleda, manipulera eller underminera förtroendet för demokratiska processer och val.

Utvecklingen av generativ AI har gjort det enklare att skapa trovärdiga bilder, videor och röstinspelningar. Sådant som tidigare krävde avancerad teknik kan i dag göras av vem som helst på bara några sekunder. Tekniken används också allt oftare för att påverka vad människor tycker och tänker, vilket har setts i samband med val i andra länder.

AI-genererat material kan vara påhittade uttalanden, manipulerade videoklipp eller bilder som visar händelser som aldrig har hänt. När sådant innehåll sprids i sociala medier kan det snabbt nå många människor och påverka hur vi uppfattar verkligheten.

Så kan AI användas för att påverka val

AI gör det möjligt att skapa bilder, videor och röstinspelningar som ser äkta ut, men som är helt eller delvis påhittade. Sådant material kan användas för att skada politiska kandidater eller skapa misstro mot valprocessen. AI kan också analysera stora mängder data för att rikta budskap till olika grupper. Det kan leda till ökad polarisering och göra att människor får helt olika bilder av verkligheten.

Samtidigt kan AI användas för att skapa falska nyhetssidor och konton som ser ut som oberoende informationskällor, men som i själva verket drivs av hotaktörer som vill påverka. Den tekniska utvecklingen gör det dessutom möjligt att producera stora mängder felaktig eller vilseledande information, vilket gör det enklare för hotaktörer som ägnar sig åt otillbörlig påverkan.

Med hjälp av AI kan hotaktörer skapa många falska konton som liknar riktiga personer. De kan ha profilbilder, trovärdiga bakgrundshistorier och en historik av inlägg som byggs upp över tid. Kontona kan delta i diskussioner, skapa relationer och sprida budskap på ett sätt som liknar hur människor beter sig.

När många sådana konton samarbetar kan de skapa stora mängder varierat innehåll, visa upp olika åsikter och ge intryck av att många människor tycker likadant. Det gör det svårare att upptäcka manipulation och ökar risken för att människors uppfattningar och beslut påverkas.

MPF bedömer att utländska aktörer, särskilt Ryssland, i ökad grad använder AI‑genererat material i sin informationspåverkan riktad mot Europa.

AI‑bilder gör falsk information mer trovärdig

Studier visar att information känns mer sann ju oftare den syns, även om den är fel. Hjärnan kopplar igenkänning till sanning, vilket gör oss mer sårbara när falsk information sprids tillsammans med realistiska bilder.

När en lögn kombineras med en bild som ser trovärdig ut blir det svårare att skilja mellan falskt och sant. Bilderna kan fungera som bevis och få texter att kännas mer trovärdiga, även om de inte är det. Till exempel upplevs falska nyhetsrubriker som mer trovärdiga när de visas tillsammans med en bild som verkar bekräfta det som påstås.

I dagens informationsmiljö finns en växande mängd lågkvalitativt AI-genererat material, även kallat “AI-slop”. Anledningen är att det är enklare och billigare att skapa innehåll som inte ser så verkligt ut. När det är billigare går det också att skapa mer innehåll som kan spridas, vilket gör att människor möter det oftare. Även om innehållet inte ser särskilt trovärdigt ut börjar det därför kännas igen och uppfattas som sant.

När det blir svårare att avgöra vad som är äkta kan människor med tiden bli mer misstänksamma mot bilder och videor. Om det inte går att veta vad som går att lita på blir det svårare att diskutera samhällsfrågor, eftersom människor får olika uppfattningar om vad som faktiskt har hänt. Det kan också minska tilliten till myndigheter och andra viktiga aktörer i samhället, och i längden påverka hur demokratin fungerar.

Risker att vara medveten om

AI och sociala medier kan påverka val på flera sätt:

• Felaktig information kan spridas snabbt i sociala medier, där innehåll som väcker starka känslor ofta får stor spridning. Det kan påverka vad människor tror och hur de röstar.
• Påhittade händelser kan delas som om de vore äkta, vilket kan minska förtroendet för valet.
• AI-genererade webbplatser kan se ut som vanliga nyhetssidor, men sprida vinklad information som påverkar hur människor ser på kandidater och frågor.
• AI-tjänster kan ge felaktiga svar om kandidater eller hur valet går till, vilket kan vilseleda väljare.