AI och informationspåverkan
AI har ändrat på vårt sätt att hantera och sprida information. Tekniken öppnar upp för nya möjligheter, men samtidigt innebär det en utmaning eftersom vi snabbt kan skapa och sprida realistisk och vilseledande information.
Generativ AI
Generativ AI är en form av artificiell intelligens som kan producera nytt innehåll i form av text, bilder, ljud eller video på kort tid. Tekniken kan till exempel skapa realistiska nyhetsartiklar, bilder eller deepfakes. Generativ AI används både i kreativa och kommersiella syften, men medför också risker som spridning av vilseledande information och svårigheter att skilja mellan äkta och manipulerad information.
Sprids ofta i sociala medier
Främmande makt använder AI för att påverka en befolknings uppfattningar i olika frågor, undergräva förtroendet för samhällsfunktioner och skapa instabilitet. Genom att skapa AI-genererade texter, bilder och videor kan aktörer till exempel skapa falska nyhetssidor som kan få snabb spridning. Spridningen av informationen bygger på att människor delar den vidare, vilket främst sker på internet och genom sociala medier.
Även äkta material kan misstänkas vara AI-genererat vilket gör det svårare att skilja mellan vad som är äkta och vad som är falskt. Detta kan i sin tur påverka förtroendet för både medier och organisationer.
Vad gör MPF?
MPF arbetar aktivt för att stärka motståndskraften hos befolkningen i en tid av snabb teknologisk utveckling där AI spelar en central roll. Det är viktigt att samhället ständigt förbättrar sin förmåga att förstå och kritiskt granska information, eftersom manipulerad och vilseledande information blir allt svårare att upptäcka. Genom att tillgängliggöra kunskap till befolkningen att känna igen otillbörlig informationspåverkan och öka kunskapen om hur den sprids, så stärks samtidigt tilliten till de avsändare som är tillförlitliga. Kombinationen av kunskap och tillit är viktig för att ska kunna upprätthålla ett öppet och demokratiskt samhälle.
Myndigheten följer utvecklingen för att upptäcka potentiella hot men även för att förstå vilka svagheter i samhället som kan utnyttjas.
Källkritik som motmedel
När det gäller AI är det viktigt att befolkningen förstår hur AI kan användas för att förstärka och sprida otillbörlig informationspåverkan och hur källkritik kan fungera som ett motmedel för att minska risken att bli påverkad.
Exempel på AI-genererad informationspåverkan
Falska uttalanden från ledare
AI kan generera ljudklipp eller videor som ser ut att visa en politisk ledare göra kontroversiella uttalanden. Dessa kan användas för att skada förtroendet för en person eller skapa oro inför ett val.
Trovärdiga - men falska nyhetssidor
Med hjälp av AI kan främmande makt skapa hela nyhetsplattformar som ser ut som etablerade medier. Artiklarna kan rikta sig mot specifika grupper och förstärka pågående konflikter.
Manipulerade bilder, videor och ljud
Deepfakes är en teknik som kan användas för att manipulera bilder, videor eller ljud för att kunna visa någonting som aldrig har inträffat, till exempel falska inspelningar av demonstrationer, våldsbrott eller andra händelser.
Automatiserade sociala mediekampanjer
Botnätverk kan använda AI för att massproducera inlägg, kommentarer och interaktioner på sociala medier, vilket skapar en illusion av stöd för en viss åsikt eller rörelse.
Vilseledande krisinformation
Under naturkatastrofer eller andra kriser kan AI-genererat innehåll användas för att sprida felaktiga råd, vilseleda allmänheten eller skapa panik, exempelvis genom falska varningar eller väderrapporter.