xAI:s Grok har brutit mot kanadensiska integritetslagar eftersom de lanserade en bildgenerator som kan skapa och dela sexualiserade djupfalska bilder utan användarnas samtycke, enligt en rapport från landets integritetskommissionär efter en utredning i januari.
Den officiella rapporten, som släpptes på torsdagen, kommer efter att den Elon Musk-ägda plattformen rullade ut förändringar som skulle hindra Grok från att tillåta användare att redigera bilder av riktiga människor i avslöjande kläder.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
”xAI bröt mot Kanadas federala privata integritetslagstiftning genom att lansera det Grok AI-drivna bildgenereringsverktyget utan att implementera lämpliga skyddsåtgärder från början”, sa integritetskommissionär Philippe Dufresne på en presskonferens på torsdagen.
Dufresne har dock inte befogenhet att utdöma böter eller beordra policyändringar för xAI, ett dotterbolag till SpaceX, som kommer att offentliggöras på USA:s marknader på fredag, vilket markerar det största börsnoteringen i modern historia.
xAI har åtagit sig att regelbundet övervaka sexualiserade deepfakes innan en incident rapporteras, och inte bara som svar på incidenter, sa han.
Vakthundsrapporten kommer mitt i en nyligen släppt digital säkerhetsproposition riktad till barn. Lagförslaget, om det antas, skulle förbjuda användning av sociala medier för barn under 16 år, med undantag för företag som uppfyller säkerhetsstandarder.
Lagstiftningen skulle skapa en digital regulator för att hjälpa till att upprätta säkerhetsstandarder för AI-chatbotar, ungefär som Grok.
Global granskning
xAI har granskats över hela världen för sexualiserade bilder på sin plattform.
Tidigare denna månad stämde den brittiska lagstiftaren Jess Asato xAI bland deepfake sexualiserade bilder som skapats av henne på plattformen.
I januari inledde Ofcom, Storbritanniens medieregulator, en undersökning av plattformen för att se om den på ett adekvat sätt förhindrade skapandet av djupförfalskade sexualiserade bilder.
Den månaden fördömde EU-kommissionen också spridningen av explicit innehåll på X, med tillsynsmyndigheter som kallade det ”skräckligt” och ”äckligt”, vilket ledde till en undersökning.
I februari inledde Spanien en undersökning av Grok, och i mars beordrade en holländsk domstol xAI att sluta tillåta skapandet av nakenbilder i landet.
Samtidigt, i USA, även i mars, lämnade tre tonårsflickor in en grupptalan och påstod att plattformen tillät bilder som skildrade sexuella övergrepp mot barn.
Advokater för de tre icke namngivna offren sa att xAI ”har gjort explicit innehåll till en del av Groks DNA” i ett klagomål som lämnats in till en domstol i Kalifornien.
I januari antog den amerikanska senaten ett lagförslag som skulle tillåta offer för deepfake sexuellt explicita bilder att stämma kreatörer för minst 150 000 dollar.
Samtidigt, i januari, blockerade Indonesien och Malaysia helt Grok över sexuellt explicita AI-bilder.