Det amerikanska justitiedepartementet (DOJ) har stört en rysk operation som använde falska konton på sociala medier förstärkta av artificiell intelligens för att i hemlighet sprida pro-Kremlin-meddelanden i USA och utomlands, heter det.
Nyheten på tisdagen kommer fyra månader före det amerikanska presidentvalet, som säkerhetsexperter allmänt tror kommer att bli måltavla för både hackning och hemliga inflytandeförsök på sociala medier från utländska motståndare. Högt uppsatta amerikanska tjänstemän har sagt offentligt att de övervakar planer som syftar till att störa omröstningen.
DOJ säkrade domstolens godkännande att beslagta två domännamn och genomsöka nästan 1 000 konton på sociala medier som påstås vara associerade med insatsen.
”Med dessa åtgärder har justitiedepartementet avbrutit en rysk regeringsstödd, AI-aktiverad propagandakampanj för att använda en botfarm för att sprida desinformation i USA och utomlands”, sade justitieminister Merrick Garland i ett uttalande.
Tisdagens aktion markerade första gången som USA offentligt anklagar en utländsk regering för att använda generativ AI i en operation med utländsk påverkan, enligt tjänstemän från DOJ och FBI. Amerikanska tjänstemän har varnat för att motståndare kan använda den växande kraften hos AI-system för att skala upp ansträngningarna att sprida desinformation.
Kreml-finansierad insats
Den påstådda operationen, enligt åklagare, skapades genom en privat underrättelseorganisation baserad i Ryssland bemannad av ryska underrättelsetjänstemän och en senior anställd på det Moskva-baserade, regeringsfinansierade nyhetsmediet Russia Today, eller RT. Insatsen godkändes och finansierades av Kreml i början av 2023, enligt DOJ.
Talespersoner för den ryska ambassaden i Washington och RT svarade inte på förfrågningar om kommentarer.
Den här privata organisationen hade designat en anpassad, AI-driven plattform för att skapa, kontrollera och hantera hundratals falska sociala konton, som gjordes för att se ut som riktiga amerikaner, enligt domstolsdokument.
Konton på sociala medieplattform X har sedan dess förbjudits. De publicerade ofta pro-Kremlin-samtal, inklusive videor av Rysslands president Vladimir Putin, och kritiserade den ukrainska regeringen.
USA samarbetade med nederländska myndigheter i utredningen. Kampanjen kördes från en server i Nederländerna, enligt utredare.