Att skapa falska foton, videor eller ljudklipp krävde tidigare avsevärda resurser i form av tid, teknisk expertis och finansiering. Men framväxten av AI har drastiskt sänkt dessa hinder, vilket ger vem som helst med illasinnade avsikter och en smartphone möjligheten att manipulera allmänhetens åsikter.
Komplexiteten i AI-genererat innehåll gör det svårare att skilja fakta från fiktion, vilket gör det svårare att bekämpa felinformation.
Konsekvenserna av AI-deepfakes på val är mångfacetterade. Till exempel har Maia Sandu, proeuropeisk president i Moldavien, funnit sig i centrum för en storm av desinformation då AI-deepfakes falskeligen framställer henne som en som stöder ett politiskt parti allierat med Ryssland.
Rumeen Farhana, en oppositionslagstiftare och högljudd kritiker av det styrande partiet i Bangladesh, stod inför ett liknande fall förra året, när en AI-genererad deepfake-video visade henne bärande en bikini. Det djupt konservativa muslimska landet Bangladesh blev rasande, vilket skadade Farhanas image.
Samtidigt i Slovakien, bara dagar före de nationella valen, imiterade AI-genererade ljudinspelningar en liberal kandidat som diskuterade planer på att höja ölpriserna och manipulera valet. Faktagranskare kämpade för att identifiera dem som falska, men människor fortsatte ändå att dela dem på sociala medier som om de vore äkta.
Med andra ord kan AI-genererade deepfakes användas för att smutskasta eller stärka en kandidats image, manipulera väljarsympatier och urholka förtroendet för demokratiska institutioner.
Henry Ajder, en expert på generativ AI baserad i England, konstaterade att när AI-genererade desinformationskampanjer blir allt mer sofistikerade och utbredda är frågan nu inte om AI-deepfakes kan påverka val utan snarare hur inflytelserika de kommer att bli.
”Man behöver inte leta länge för att se att vissa människor uppenbarligen är förvirrade över om något är verkligt eller inte,” sa Ajder.
Expert förväntar sig en ”tsunami av desinformation” i takt med att USA-valen närmar sig, tack vare AI.
Med det amerikanska presidentvalet som kommer i november varnar experter för att fler AI-genererade deepfakes sannolikt kommer att dyka upp.
”Jag förväntar mig en tsunami av desinformation,” sade Oren Etzioni, en expert på artificiell intelligens och professor emeritus vid University of Washington. ”Jag kan inte bevisa det. Jag hoppas att jag blir motbevisad. Men ingredienserna finns där, och jag är fullständigt förskräckt.”
Deepfakes har börjat dyka upp i experimentella presidentvalskampanjer. Etzioni sa att omfånget för desinformation är enormt, från att fabricera politiska uttalanden till att simulera kriser såsom medicinska nödsituationer eller våldshandlingar.
”Du skulle kunna se en politisk kandidat som president [Joe] Biden som hastas till ett sjukhus,” sa han. ”Du skulle kunna se en kandidat säga saker som han eller hon aldrig faktiskt sagt. Du skulle kunna se en panikartad rusning till bankerna. Du skulle kunna se bombningar och våld som aldrig ägt rum.”
Dessa falska verktyg kan rikta sig mot specifika grupper och sprida falska meddelanden om röstning. Till exempel skulle de kunna skicka övertygande textmeddelanden, sprida felaktig information om röstningsprocesser på WhatsApp på olika språk eller skapa falska webbplatser som ser ut som en officiell webbplats för en statlig organisation.
”Allt vi blivit programmerade att göra genom evolutionen kommer att spela in för att få oss att tro på påhittet snarare än den faktiska verkligheten,” sa desinformationsforskaren Kathleen Hall Jamieson, direktör för Annenberg Public Policy Center vid University of Pennsylvania.
