Elon Musks xAI har lämnat in en stämningsansökan mot en man från South Carolina som greps tidigare i år anklagad för sexuellt utnyttjande av minderåriga, med påstående om att han missbrukat företagets AI-verktyg för att skapa sexuellt explicit innehåll som involverar ett barn.
Stämningen, som lämnades in i en federal domstol i Texas på tisdagen, hävdar att Terry Harwood medvetet brutit mot företagets användarvillkor för att skapa materialet.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
”[The] Den tilltalade öppnade flera xAI-konton med falska identiteter. Trots att han uttryckligen gick med på att följa xAI:s användarvillkor och policy för acceptabel användning, utformade svaranden vilseledande uppmaningar för att kringgå Groks inbyggda skyddsåtgärder och missbrukade sedan verktyget för att konvertera icke-sexuella fotografier till sexuellt explicita bilder utan fotografiernas kännedom eller samtycke”, står det i det 12 sidor långa klagomålet.
Stämningen hävdar att Harwood laddat upp bilder av både vuxna och minderåriga som inte var sexuella och sedan försökte skapa så kallade ”deepfakes” som sexualiserade dem.
”En granskning av svarandens xAI-konton visar vidare att svaranden vid ett flertal tillfällen under den relevanta perioden skickade uppmaningar till Grok om att ändra sådana bilder för att sexualisera motiven på bilderna, vilket Grok svarade på genom att vägra följa uppmaningarna på grund av att sådant material bröt mot Groks innehållmodererande skyddsräcken”, tillade klagomålsskyddet.
”Som svar skickade svaranden upprepade gånger in ytterligare uppmaningar, med ändringar, i ett försök att kringgå Groks modereringsansträngningar.”
xAI kräver också ekonomiskt skadestånd, även om fallet inte specificerade något dollarbelopp, samt ett domstolsbeslut som permanent förbjuder Harwood att använda plattformen, som har mer än 2,6 miljoner användare.
Stämningen är den första som ett AI-företag väckt mot en av dess användare och kommer mitt i intensiv granskning av xAI runt om i världen för att tillåta användare att skapa den här typen av innehåll på plattformen i första hand.
Grok har varit i rampljuset i Washington, varit i trådkorset för europeiska tillsynsmyndigheter och mött förbud i både Malaysia och Indonesien angående sexuellt explicit innehåll som kan skapas på plattformen.
Tidigare i år tryckte Musk tillbaka på anklagelserna om att Grok producerade AI-genererade sexualiserade bilder av barn, särskilt nakenbilder.
”Jag [am] inte medveten om några nakna minderåriga bilder genererade av Grok. Bokstavligen noll”, sa Musk i ett X-inlägg i januari.
xAI:s klagomål sade att företaget ”upprätthåller sina regler mot överträdare genom kontoavstängningar, kontouppsägningar och genom att rapportera misstänkt material om sexuella övergrepp mot barn till National Center for Missing & Exploited Children.”
Klagomålet påpekar att plattformen hade stängt av mer än 52 000 konton och gjort mer än 73 000 klagomål till organisationen, vilket resulterade i nästan 250 arresteringar bara under 2026.