Storbritannien har uppmanat Elon Musks X att omedelbart ta itu med en spridning av intima ”deepfake”-bilder skapade på begäran via sin inbyggda AI-chatbot Grok, och förenar sig med ett europeiskt ramaskri över en ökning av bilder utan samtycke på plattformen.
Kommentarerna, som gjordes på tisdagen, följer efter rapporteringen om att Grok, tillskyndad av användare, skapade en flod av bilder utan samtycke av kvinnor och minderåriga i tunna kläder.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Teknikminister Liz Kendall sa i ett uttalande att innehållet var ”absolut skrämmande” och uppmanade den sociala medieplattformen att agera snabbt.
”Ingen ska behöva gå igenom prövningen att se intima deepfakes av sig själva online,” sa Kendall. ”Vi kan och kommer inte tillåta spridningen av dessa förnedrande och förnedrande bilder, som är oproportionerligt riktade mot kvinnor och flickor.”
Brådskande uppmaningar till åtgärder
”X måste ta itu med det här brådskande,” sa Kendall.
X svarade inte omedelbart på en begäran om kommentar efter Kendalls uttalande.
X:s säkerhetskonto sa på söndagen att det tar bort allt olagligt innehåll på plattformen och permanent stänger av inblandade konton.
”Alla som använder eller uppmanar Grok att göra olagligt innehåll kommer att drabbas av samma konsekvenser som om de laddar upp olagligt innehåll”, stod det.
På frågan om ämnet nyligen sa X till nyhetsbyrån Reuters: ”Legacy Media Lies.”
Växande oro
Att skapa eller dela intima bilder utan samtycke eller material om sexuella övergrepp mot barn, inklusive AI-genererade sexuella bilder, är olagligt i Storbritannien. Dessutom måste tekniska plattformar förhindra brittiska användare från att stöta på olagligt innehåll och ta bort det när de blir medvetna om det.
Musk har ryckt bort oro på nätet och lagt ut skrattande emojis som svar på redigerade bikinibilder av offentliga personer.
På måndagen sa EU-kommissionen att den var medveten om att X erbjöd ett ”kryddigt läge” och fördömde bilderna som olagliga.
Även på måndagen sa Storbritanniens medieregulator Ofcom att de hade tagit ”brådskande kontakt” med X och dess AI-arm xAI för att förstå vilka åtgärder de vidtog för att följa lagliga skyldigheter för att skydda brittiska användare.
Franska tjänstemän har rapporterat X till åklagare och tillsynsmyndigheter och kallat innehållet ”uppenbart olagligt”, medan indiska myndigheter också har krävt förklaringar.
USA:s tillsynsmyndigheter har ännu inte kommenterat.
Grok har ständigt varit föremål för granskning för innehållet som den producerar. Bland andra klagomål har den drivit desinformation, producerat djupa förfalskningar av folkvalda i USA före presidentvalet 2024, förolämpat polska och turkiska politiker och producerat antisemitiskt innehåll.