San Francisco, USA: Bruce Blakeman, en republikan som kandiderar som guvernör i New York, släppte kampanjannonser med Zohran Mamdani, New Yorks borgmästare, och Kathy Hochul, delstatens guvernör, trädgårdsarbete tillsammans och samarbetar för att höja priserna för invånarna.
En annan annons innehåller Hochul som talar om att vandra vägtullar och biljettpriser så att folk inte har råd att köra bil eller åka tunnelbana.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Varken Hochul eller Mamdani var faktiskt med i annonserna, som gjordes med hjälp av artificiell intelligens (AI). En mängd AI-genererade annonser som uppenbarligen är falska men som fångar väljarnas uppmärksamhet har varit ett inslag i kampanjer inför det avgörande mellanårsvalet i USA den 3 november.
Även om reglering har fokuserat på att märka AI djupa förfalskningar som kan vilseleda väljarna, är det ”slopaganda” – eller identifierbart falska annonser – som markerar den här kampanjsäsongen, säger Scott Babwah Brennen, chef för New York Universitys Center on Technology Policy och medförfattare till en färsk rapport, Political Slopaganda.
Politiska kandidater och deras anhängare har spenderat mer än 80 miljoner dollar för att göra mer än 164 AI-baserade annonser den här valsäsongen, enligt Wesleyan Media Project, en partipolitisk spårare av valreklam. Republikanska kandidater och deras stödjare låg bakom 80 procent av dessa annonser, fann gruppen.
Blakeman försvarade sina annonser och sa att de tydligt var märkta som AI-genererade – en ansvarsfriskrivning som annonserna bär i några sekunder i början – och följer en lång tradition av satir och parodi i amerikansk politik.
Men slopaganda – en blandning av lågkvalitativ AI ”slop” och propaganda – används för att ”kommunicera djupare sanningar snarare än faktiska sanningar”, sa Brennan, vilket betyder att det kan forma uppfattningar om en kandidats karaktär eller ideologi och kan ”påverka väljarnas förtroende”.
Andra sådana annonser visade att Sherrod Brown, en demokratisk kandidat för senaten från delstaten Ohio, som den sista gästen på en fest, efter att ha överstått sitt välkomnande.
James Talarico, en demokratisk kandidat för senaten från delstaten Texas, visades i en blå klänning som liknade karaktären Maria från filmen The Sound of Music, medan Mike Rogers, en republikansk kandidat för senaten från Michigan, framträdde som en superhjälte.
I San Francisco, när den demokratiska Kaliforniens senator Scott Wiener släppte en AI-chatbot i det högprofilerade kapplöpningen om att efterträda parlamentets talman emeritus Nancy Pelosi, som representerar den tekniska industristaden i kongressen, fick det en omedelbar motreaktion.
Chatboten svarade på cirka 5 000 frågor om sin motståndare, Connie Chan, och parodierade hennes rekord av att skenbart blockera fastighetsutveckling i staden, hennes accent såväl som hennes naturaliserade medborgarskap. Flytten väckte kritik för att vara bigot och Wiener drog tillbaka chatboten och sa att även om den var innovativ, ”missade den målet”.
Ingen federal lag
Deepfake-annonser har dykt upp i ett landskap som syftar till att skydda politiskt tal, även när de görs genom parodi. Även om det inte finns någon federal lag som reglerar annonser gjorda med AI deepfakes, har 31 delstater antagit sina egna lagar som kräver att annonser som görs med AI ska märkas.
”Statens lagar gör vad de kan utan att inkräkta på det första tillägget”, säger Ilana Beller, chef för State AI Governance and Policy på Public Citizen, en Washington, DC, baserad konsumenträttsförespråkargrupp. ”Det finns fortfarande ett behov av en federal lag,” sa hon.
Adam Rose, operativ chef för Starling Lab, ett forskningscenter för teknologi och mänskliga rättigheter som grundades av Stanford University och University of Southern California, sa att vissa förändringar som AI gör bara kan vara färg- eller röstkorrigering som regeringen inte behöver märka. AI-genererade annonser bör inte förbjudas, sa han.
Istället, sade Rose, är kandidater alltid involverade i att göra ”bedömningssamtal” på annonserna och dessa samtal reflekterar över dem. För Wiener, sa Rose, att släppa chatboten ”visade dåligt omdöme. Det visade väljarna något om honom”.
Wiener kandiderar för att representera San Francisco i den amerikanska kongressen, en stad som är AI-industrins globala epicentrum med två av de största AI-företagen, Open AI och Anthropic, baserade där. Stadens representant kommer att spela en viktig roll när lagstiftningen kring AI växer fram, särskilt som opinionsundersökningar visar att en majoritet av amerikanerna är mer oroliga än exalterade över tekniken.
”Detta är ett övergångsögonblick när AI håller på att omforma vårt samhälle”, säger Ian Krager, talesperson för Connie Chan. ”Det här loppet är ett förebud för landet. Det är ett ögonblick där vi kan visa världen att Amerika kan leda världen på AI-utveckling utan att be arbetande människor att bära kostnaden.
”Och det är tydligt att Connie Chan är med arbetande familjer medan Scott Wiener är med AI-företagen,” sa han och citerade AI-chatboten.
Som statlig senator utarbetade Wiener en lag i Kalifornien förra året som kräver att AI-företag avslöjar säkerhetsincidenter där autonoma system skapade av extremt stora AI-modeller är inblandade i farliga eller skadliga incidenter. En mindre sträng version blev lag förra året. Hans kontor svarade inte på Al Jazeeras begäran om kommentar.
Etiketter lika tydliga som livsmedelsetiketter
När man tittar på den sista delen av novemberhalvåret och därefter, sa Public Citizen’s Beller att det finns ett behov av att göra märkning av annonser som använder AI lika tydlig och lätt att förstå som livsmedelsetiketter så att väljarna kan utvärdera dem därefter.
”Människor måste veta för att leta efter etiketter”, sa hon, eftersom det är viktigt att skapa medvetenhet om AI-deepfake-annonser, särskilt bland yngre väljare och seniorer.
I New York har det demokratiska partiet lämnat in ett klagomål till delstatens valstyrelse där de säger att annonserna bryter mot kraven på offentliggörande och är ”vilseledande för väljarna”. Men Blakeman har sagt att ”folk tycker att det är humoristiskt. De gillar satir”.
Annonserna ”försöker få uppmärksamhet när kandidater vet att det finns politisk makt att vinna genom att få uppmärksamhet”, sa NYU:s Brennen.
Eftersom AI-deepfake-annonser bara växer, har vissa kandidater offentligt sagt att de inte kommer att använda dem. ”Folk verkar gilla [the candidates] för det”, sa Beller.