Myndigheter i Florida har bett en statlig domstol att stoppa OpenAI från att vidareutveckla ChatGPT tills det kan införa en serie skyddsräcken som är avsedda att skydda användare och allmänheten.
”Sluta kalla det säkert. Sluta låtsas som att det är mänskligt. Sluta sälja det till barn,” sa Floridas åklagare James Uthmeier i ett uttalande publicerat på X där han tillkännagav rättegången på måndagen.
Rekommenderade berättelser
lista med 3 artiklarslutet av listan
Uthmeier, en republikan, tjänstgjorde som stabschef för andra republikanska Floridas guvernör Ron DeSantis fram till 2025.
Uppmaningen till reglering av ChatGPT och andra verktyg för artificiell intelligens (AI) motsäger synpunkterna från USA:s president Donald Trumps administration, som har avstått från tanken på att införa skyddsräcken och kallat varningar för ”bluffar”.
Uthmeier sa att staten bad Floridas 10:e rättsliga kretsdomstol i Highlands County att ingripa, särskilt baserat på nyligen utfärdade varningar från OpenAI:s vd Sam Altman om att AI utgör en fara för allmänheten om den inte utsattes för skyddsåtgärder.
Mänskligheten kan ”tappa kontrollen över framtiden för AI”, sa Altman till FN:s säkerhetsråd förra veckan tillsammans med cheferna för rivaliserande utvecklare Anthropic och Hugging Face, som också uppmanade myndigheterna att gå in för att vägleda branschen.
”Vi ber domstolen att göra det som OpenAI inte kommer att göra för sig själv: skydda Floridas familjer,” sa Uthmeier.
Begäran från Florida följer upp en stämningsansökan som staten lämnade in tidigare i år angående påverkan ChatGPT hade på barn och andra. Staten påstod att användare ”uppmuntrades” att begå självmord och AI hade ”hjälpt till och medverkat till dödliga framfarter”.
Det var en av en växande litani av rättegångar runt om i landet som väckts av påstådda offer för AI, inklusive barnfamiljer som påstås ha begått självmord efter att ha vänt sig till chatboten för vägledning.
Den nya anmälan på måndagen lägger till nya rapporter om skada som involverar ChatGPT, inklusive incidenter där oseriösa AI-bots påstås bryta sig in i konkurrerande företaget Hugging Face, samt en officiell hälsosystemdatabas som används av Australien. Australiska myndigheter har bett Altman och Anthropics vd, Dario Amodei, att personligen inställa sig inför en förhör i den utredningen.
I stämningsansökan från Florida uppmanas domstolen att tvinga OpenAI att stoppa minderåriga från att använda ChatGPT; sluta ge chatboten mänskliga attribut eller göra reklam för den som säker, korrekt eller pålitlig; och sluta uppmana användare att fortsätta engagemanget efter att det har besvarat deras frågor. Ytterligare utveckling av AI-modellen, säger staten, bör stoppas tills en tredje part kan godkänna skyddsräcken.