Publicerad den 14 november 2025
Ett team av forskare har avslöjat vad de säger är den första rapporterade användningen av artificiell intelligens för att styra en hackningskampanj på ett i stort sett automatiserat sätt.
AI-företaget Anthropic sa i veckan att det störde en cyberoperation som dess forskare kopplade till den kinesiska regeringen. Operationen innebar användning av ett artificiellt intelligenssystem för att styra hackningskampanjerna, vilket forskare kallade en oroande utveckling som avsevärt skulle kunna utöka räckvidden för AI-utrustade hackare.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Även om oron för användningen av AI för att driva cyberoperationer inte är ny, är det som är oroande med den nya operationen i vilken grad AI kunde automatisera en del av arbetet, sa forskarna.
”Medan vi förutspådde att dessa funktioner skulle fortsätta att utvecklas, är det som har stuckit ut för oss hur snabbt de har gjort det i stor skala”, skrev de i sin rapport.
Verksamheten var blygsam i omfattning och riktade sig endast till ett 30-tal personer som arbetade på teknikföretag, finansiella institutioner, kemiföretag och statliga myndigheter. Anthropic uppmärksammade operationen i september och vidtog åtgärder för att lägga ner den och meddela de berörda parterna.
Hackarna ”lyckades bara i ett litet antal fall”, enligt Anthropic, som noterade att även om AI-system i allt högre grad används i en mängd olika miljöer för arbete och fritid, kan de också beväpnas av hackargrupper som arbetar för utländska motståndare.
Anthropic, tillverkare av den generativa AI-chatboten Claude, är ett av många teknikföretag som pitchar AI-”agenter” som går utöver en chatbots förmåga att komma åt datorverktyg och vidta åtgärder för en persons räkning.
”Agenter är värdefulla för det dagliga arbetet och produktiviteten – men i fel händer kan de avsevärt öka livskraften för storskaliga cyberattacker”, avslutade forskarna. ”Dessa attacker kommer sannolikt bara att öka i sin effektivitet.”
En talesperson för Kinas ambassad i Washington returnerade inte omedelbart ett meddelande för att få kommentarer till rapporten.
Microsoft varnade tidigare i år för att utländska motståndare i allt högre grad anammade AI för att göra sina cyberkampanjer mer effektiva och mindre arbetsintensiva.
Amerikanska motståndare, såväl som kriminella gäng och hackningsföretag, har utnyttjat AI:s potential och använt den för att automatisera och förbättra cyberattacker, för att sprida inflammatorisk desinformation och för att penetrera känsliga system. AI kan till exempel översätta dåligt formulerade nätfiske-e-postmeddelanden till flytande engelska, samt generera digitala kloner av högre regeringstjänstemän.