Två veckor efter Moskvas fullskaliga invasion av Ukraina i mars 2022, bröt den ryska TV Channel One-redaktören Marina Ovsyannikova ut på uppsättningen av kvällsnyhetssändningen. Hon höll upp en handritad skylt bakom ankarets huvud där det stod: ”Stoppa kriget. Tro inte på propaganda. De ljuger för dig!” Hon skrek: ”Nej till krig!” tills hon släpades iväg.
Ingen har protesterat mot kriget i rysk tv sedan dess, delvis som ett resultat av skärpt säkerhet och ett allmänt rädslaklimat. Men i oktober 2024 gav Margarita Simonyan, en av Rysslands främsta propagandister, en annan förklaring. Ett växande antal av RT-nätverkets ankare, förklarade hon för en intervjuare, är inte verkliga. ”Det där ansiktet finns inte. Vi skapade rösten och allt annat.” De var, menade hon, framställda av artificiell intelligens. I en uppföljande intervju med tidningen Vedomostistavade hon logiken: ”Dessa ankare behöver ingen lön eller försäkring,” sa hon. ”De kommer inte att bli arresterade, och polisen kommer inte att genomsöka deras hem. Allt är underbart och skrämmande på samma gång.”
Detta är AI:s löfte till varje autokratisk härskare: förmågan att behålla kontrollen utan att delegera uppgifter till opålitliga människor. Det är ett mycket attraktivt perspektiv. Hur mäktiga än diktatorer är, har diktatorer alltid behövt underordnade – censorer, propagandister, säkerhetsvakter, poliser, underrättelseanalytiker och lokala byråkrater – för att utföra sina order. Men underordnade utgör alltid ett potentiellt hot. De kunde smita, stjäla, ljuga, läcka eller konspirera mot sin chef. Som ett resultat är ett av de äldsta dilemman som autokrater står inför hur man kan ge agenter möjlighet att utföra order utan att de också kan vända sig mot sin ledare. Autokrater har vanligtvis klarat avvägningen genom att fylla nyckelpositioner med medelmåttighet vars oförmåga är, som den politiska teoretikern Hannah Arendt uttryckte det, ”den bästa garantin för deras lojalitet.” Men detta gör det oundvikligen svårare för diktaturer att styra och överleva kriser.
AI verkar erbjuda autokrater två sätt att lösa detta långvariga dilemma. För det första betyder det att de nu enkelt kan övervaka och disciplinera sina följare i realtid. En förändring i en lokal tjänstemans utgiftsvanor eller mötesscheman kan flaggas automatiskt av ett AI-system, utan behov av egenintresserade informanter. För det andra kan AI eliminera underhuggare helt och hållet. Genom att automatisera uppgifter som en gång krävde mänskligt omdöme, kan härskare ersätta opålitliga mellanhänder med trogna algoritmer som inte kan mutas eller manipuleras. Tjänstemän i autokratiska regimer har sagt lika mycket. AI ”kan definitivt ersätta hälften av tjänstemännen”, sa Rysslands minister för digital utveckling, Maksut Shadaev, till ett dataforum i Moskva i april 2025 och tillade, ”kanske lite fler.”
Ändå är dessa löften om en självgående stat illusoriska, eftersom AI aldrig är riktigt autonom. System måste byggas och underhållas av en grupp ingenjörer och datavetare vars expertis politiska ledare inte kan utvärdera. Den härskare som vänder sig till AI för att minska beroendet av opålitliga människor kan sluta lita mer blint än tidigare på de få AI-specialister som håller systemet igång. Och detta nya digitala Praetorian Guard kan ha samma svagheter som det gamla, vilket gör det till ett hot mot härskaren.
ÖGON OCH ÖRON
Kina ligger i täten när det gäller att utveckla AI-system som kan övervaka eller ersätta underordnade. Smart city-program i Peking, Shanghai och andra stadscentra använder AI för att spåra prestanda och centralisera tillsynen av lokala tjänstemän som en gång opererade i bekvämt mörker, vilket utsätter dem för en algoritmisk prestandagranskning. Kina utvecklade också ett ”Zero Trust AI-system”, som det distribuerade i ungefär 30 län och städer under det senaste decenniet. Detta system korsrefererade mer än 150 statliga databaser för att fånga upp förskingring och svågerpolitik från lokala tjänstemän. Det fungerade lite för bra, flaggade 8 700 tjänstemän innan lokala myndigheter, under påtryckningar från byråkraterna som den övervakade, började rulla tillbaka det. Men Peking har inte blivit av med sina nya e-förvaltningsportaler, som använder automatiserade system för att utfärda dokument och tillstånd, vilket minskar öga mot öga interaktioner som skapade småkorruption eller favorisering. Det kinesiska kommunistpartiet har under tiden plöjt vidare med att undersöka vad det kallar ”tankehantering” eller hur man använder AI för att skapa mikroriktad propaganda. Kinas armé av internetkommentatorer, som en gång bestod av betalda människor, har redan ersatts av bots.
Ryssland har strävat efter samma mål med en liknande glöd. Moskvas ansiktsigenkänningssystem i hela staden, utplacerat över 200 000 kameror, användes för att identifiera och gripa demonstranter under demonstrationerna mot regeringen 2021. Den centrala regeringen har börjat använda automatiserad datainsamling och aggregering för att kringgå regionala tjänstemän som kan fläcka data eller använda dem för att främja sina egna intressen. År 2023 lanserade Rysslands internettillsynsmyndighet Oculus, ett AI-system som skannar hundratusentals bilder per dag efter förbjudet innehåll, inklusive politiskt innehåll – storleksordningar utöver vad mänskliga censorer kunde bearbeta. Den ryska säkerhetstjänstens verktyg Meliorator har använts för att skapa över tusen profiler av fiktiva amerikaner, främst på X (tidigare Twitter), för att sprida Kreml-berättelser till en bråkdel av kostnaden för mänskliga trollfarmar.
Andra autokratier följer i Pekings och Moskvas fotspår. I april 2025 skapade Förenade Arabemiraten ett Regulatory Intelligence Office som använder AI för att utarbeta och ändra federala lagar, arbete som en gång utförts av lagstiftande personal. Ett år senare meddelade Förenade Arabemiratens premiärminister Sheikh Mohammed bin Rashid al-Maktoum att autonoma AI-agenter skulle ta över hälften av den federala regeringens verksamhet inom två år och att ”prestanda för ministrar, generaldirektörer och enheter kommer att bedömas baserat på deras förmåga att anta denna omvandling.”
Ju mer en regim beror på AI, desto mer beror det på människorna som håller AI igång.
Dessa innovationer kan minska antalet byråkrater som autokrater behöver. Men de kan faktiskt inte skapa det diktatorer vill ha mest: en självgående stat. Till och med AI-genererade tv-ankare behöver folk för att bygga och underhålla dem, och censursystem behöver folk för att omskola dem som vokabulär för oliktänkande skiftningar. Bakom varje AI-modell finns det en liten grupp ingenjörer och datavetare som utför väsentligt underhåll, och deras arbete är så tekniskt att härskare inte kan förstå det.
Detta beroende blir därmed en annan form av makt. Ingenjörerna som underhåller en autokrats övervakningsapparat kan till exempel forma vad härskaren ser. De bestämmer vilken information som är viktig nog att förmedla och i vilken form de ska presenteras. De bestämmer vilka hot som flaggas och de kan justera algoritmerna som väljer vilket innehåll som ska undertryckas och vem som arresteras. Och de kan göra detta utan att någon i palatset märker det. Autokrater som vänder sig till AI för att slippa ett beroende av opålitliga underordnade har bara överfört sina sårbarheter till en ny grupp tjänstemän.
Faktum är att detta nya Praetorian Guard kan vara farligare än tidigare eliter. Det är delvis tack vare opaciteten hos AI-teknik men också för att denna klick är mycket mindre. Romerska kejsare hade typiskt tiotusentals människor som tjänstgjorde i Praetorian Guard; moderna autokrater förlitar sig på stående arméer. Men med AI kommer autokrater bara att behöva en liten klick ingenjörer för att bygga och underhålla storskaliga AI-system. Detta kan gynna härskare eftersom de kommer att ha färre människor att titta på, men det koncentrerar också punkter av misslyckanden, eftersom en förödande störning kräver bara en handfull ingenjörer och gör det lättare för medlemmarna att planera mot ledaren. Den nya vaktens medlemmar kan också vara oumbärliga. En diktator kan ersätta generaler utan att förstöra armén. Men att köra komplexa maskininlärningssystem kräver en så specialiserad uppsättning färdigheter att ingenjörer kan vara svåra att ersätta utan störningar, vilket ger dessa aktörer stor inflytande.
DET oundvikliga
Teknikarbetares betydelse för autokratier har redan blivit uppenbar. När IT-specialister började fly från Ryssland efter den fullskaliga invasionen av Ukraina i februari 2022, till exempel, svarade Kreml inte med hot utan med incitament och erbjöd teknikarbetare uppskov från värnplikten. Det befriade deras företag från skatter och subventionerade deras bolån. När Rysslands president Vladimir Putin beordrade mobilisering av 300 000 män sju månader senare beviljades IT-arbetare fullständiga undantag. Detta kan tyckas vara överdrivet, med tanke på att ett AI-system bara behöver ett fåtal ingenjörer för att köra det. Men en regim kan inte i förväg veta vilka ingenjörer den kommer att behöva, och den kan inte utbilda ersättare snabbt, så den måste hålla fast vid hela talangpoolen från vilken dessa få väljs ut.
Dessa åtgärder stoppade inte utflödet av ungefär 100 000 specialister – ungefär en tiondel av Rysslands tekniska arbetsstyrka – under loppet av 2022. Men Moskva höll sig till mutor, eftersom expertis är extremt svår att bevära under pistolhot och eftersom värnpliktiga experter kan vara mindre benägna att göra som de har fått instruktioner. Trots det kan pengar och privilegier inte garantera att dessa eliter kommer att förbli lojala. Autokrater bör komma ihåg lärdomen från det ursprungliga pretoriangardet: under en tid gav det romerska kejsare skydd och säkerhet. Men sedan upptäckte prätorianerna sin egen oumbärlighet, och vid det andra århundradet auktionerade de ut imperiet till högstbjudande. Denna nya uppsättning eliter kan göra detsamma. I juni 2023, när kolonnen för Jevgenij Prigozhins paramilitära Wagner-kompani flyttade upp på motorvägen mot Moskva, var Putin beroende av sina säkerhetstjänster för att berätta för honom vad som hände. Framtida härskare i Putins position kommer att få sådana varningar via maskiner: avlyssnad kommunikation sorterad efter programvara, kameraflöden filtrerade genom igenkänningssystem, regionala rapporter sammanställda i instrumentpaneler. Ingenjörerna som kör de här systemen kan göra en överenskommelse med en uppkomling utmanare och sedan dra sina fötter. De kan försena data, låta varningar komma några timmar för sent, försämra flöden vid obekväma ögonblick eller få ett igenkänningssystem att sluta fungera. I det scenariot skulle linjalen fungera blind. Praetoriangardet behövde inte döda kejsar Nero för att ersätta honom. Det fick helt enkelt överge honom för en rival.
Dessa programmerare kommer sannolikt inte att ta makten för sig själva, eftersom de sannolikt inte kommer att bära vad kuppledare i slutändan kräver: vapen. Men det finns redan prejudikat för ingenjörer som använder sin makt för att forma ledarskapsutmaningar. 1991, när den sovjetiska armén försökte ta kontrollen från Mikhail Gorbatjov, höll en handfull programmerare på Relcom-nätverket information att flöda utomlands och vidarebefordrade Rysslands president Boris Jeltsins dekret till publik inom landet och utomlands. Konslotterna kunde inte stoppa nyheten om Jeltsins trots från att spridas, och kuppen kollapsade inom tre dagar.
BANKA NER
AI kommer inte att låta autokrater avskeda alla sina tillsynsmän. Någon måste fortfarande arrestera och styra fängelserna, och autokrater kan köpa lojalitet genom att erbjuda anhängare statliga jobb. Men det kommer att låta auktoritärer minska, och antalet tjänstemän spelar i slutändan mindre roll än hur härskaren övervakar dem. Att hålla reda på intrig eller inkompetenta underordnade har alltid varit autokratens främsta börda. AI kunde lätta upp det och låta härskare övervaka sina tjänstemän närmare utan att ägna så mycket aktiv uppmärksamhet.
På kort sikt kan alltså AI gynna autokratier till stor del. Trots de många hindren för utbyggnad, ger tekniken redan autokratiska regimer fördelarna med billigare övervakning, smartare censur och färre mänskliga underordnade till rädsla och misstro. Men för autokratiska härskare kan frestelserna av artificiell intelligens återskapa samma fälla som de försöker undkomma. Ju mer en regim beror på AI, desto mer beror det på människorna som håller AI igång. Och dessa människor, som alla andra prätoriska klasser i historien, kommer snabbt att upptäcka vad deras oumbärlighet är värd.