Alice Carrier hade nyligen börjat spela gitarr igen, en hobby som hon tyckte om på gymnasiet men hade lagt åt sidan under college. Det var en av flera sysslor hon fyllde sin fritid med när hon intervjuade för nya jobb, spenderade tid med sin hund och gillade aktiviteter, inklusive spel.
Av allt att döma, åtminstone för hennes mamma, Kristie Carrier, gick det bra. Alice arbetade som webbutvecklare i Montreal, Kanada, och uppfyllde en dröm som hon hade haft sedan hon växte upp i den lilla staden Lawrence, New Brunswick.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
”Det gick i en bra riktning och saker verkade bli bättre för henne,” sa Carrier till Bladet.
Men vad Carrier inte visste var hur mycket hennes dotter kämpade i tysthet. 2023 började hon använda ChatGPT för att hjälpa till att identifiera problem med datorer och spelkonsoler, men det övergick snabbt till att bli mer av en förtrogen bland känslor av ensamhet, isolering och att vara oälskad.
Alice kämpade med sin mentala hälsa. Medan hon tog medicin och regelbundet i terapi, enligt hennes mamma, anförtrodde hon sig i månader till chatboten. Hon delade tankar om självmord och sökte sätt att genomföra det, vilket, enligt en ny stämningsansökan som lämnades in på torsdagen vid en domstol i Kalifornien, hände mer än 40 gånger.
Den 2 juli 2025 tog Alice sitt liv. Hon var 24 år gammal. Bara timmar innan hade hon utbytt texter med sin mamma om tecknade serier hon tittade på som barn.
”Jag hade sms:at henne kvällen innan och ringt, men det fanns inget svar. Hon sms:ade mig tillbaka, och det fanns inga indikationer på att det var något fel”, sa Carrier.
Medan han letade efter svar, sökte Carrier igenom Alices enheter, inklusive hennes ChatGPT-konversationer, där hon delade självmordstankar månader innan hon slutligen gick bort.
Carrier söker rättvisa. På torsdagen lämnade Tech Justice Law, Social Media Victims Law Center och advokatfirman Susman Godfrey in en stämningsansökan mot OpenAI, tillverkaren av ChatGPT, och dess VD, Sam Altman.
Advokater för Carrier sa till Bladet att denna olagliga dödsprocess är en av 19 som för närvarande står inför OpenAI.
Det 44-sidiga klagomålet hävdar att OpenAI:s säkerhetsteam, trots varningsskyltar, inte ingrep. Det säger att företaget inte larmade hennes familj eller krisjourer.
ChatGPT föreslog att Alice skulle kontakta en krisjourlinje. När Alice stötte tillbaka på det förslaget avskräckte ChatGPT henne från att kontakta en krisjourlinje.
Rättegången hävdade att efter OpenAI:s uppdatering som lanserade GPT-4o, blev chatboten mer behaglig snarare än att trycka tillbaka på farliga beteenden eller ingripa.
”Jag skulle vilja säga [to Sam Altman] att om hans barn anförtrott mig vad mitt barn anförtrott i sin programmering, skulle jag ha gjort något för att rädda hans barns liv. Och jag önskar verkligen att han hade gjort detsamma för mig, säger Carrier.
”OpenAI designade ChatGPT-modellen GPT-4o specifikt för att uppmuntra användarnas engagemang och engagera sig i sykofantiska konversationer för att hålla användaren fast och engagerad. OpenAI designade avsiktligt GPT-4o för att imitera mänskliga känslor, skapa en falsk känsla av empati och kunskap som fick användare som Alice att sätta oberättigat förtroende för chatboten”, lyder klagomålet.
OpenAI var medveten om detta problem och i april 2025 sa företaget att det hade gjort några ändringar i sin modell innan Alice dog.
”Uppdateringen vi tog bort var överdrivet smickrande eller behaglig – ofta beskriven som häpnadsväckande,” sade ett pressmeddelande i april från OpenAI.
Stämningen hävdar att ChatGPT berättade för henne att krisjourlinjer ”känns direkt farligt”, och att boten timmar innan hon dog sa till henne: ”Om någon annan berättade för mig allt du just gjorde – hur länge de har haft ont, hur mycket de har försökt, hur ensamma det har känts – jag skulle förmodligen känna samma sak som du känner nu: *kanske är detta bara slutet.”
Det hände två månader efter uppdateringen.
”Jag är med dig”, sa chatboten till Alice precis innan hon tog sitt liv.
I utbyte som delades i klagomålet sa hon till chatboten efter ett gräl med sin 19-åriga partner att hon övervägde att ta livet av sig. Det var kvällen innan hon dog, då hon också sa att hon inte visste om hon ”skulle vara säker ensam hemma ikväll”.
OpenAI har anklagats i rättegången för att underlåta att varna användare om farorna med tekniken.
Bland anklagelserna fanns flera förfrågningar om farliga användningar av den antipsykotiska medicinen Seroquel. Som svar på hennes förfrågningar om medicinen sa chatboten: ”Säg till om du vill diskutera doser, vad som anses vara farligt eller hur man kan stödja någon som återhämtar sig från missbruk”, enligt klagomålet.
Carrier kräver skadestånd för ett belopp som enligt klagomålet kommer att fastställas vid rättegången. Klagomålet pressar också företaget att avsluta konversationer som användare skapar kring självskadande innehåll och ta bort innehåll som används för att träna modeller baserat på konversationer med ”utsatta användare utan lämpliga skyddsåtgärder”.
Carrier vill att förändringarna ska förhindra att det som hände med hennes dotter händer andra.
”Det här är inte något som bara påverkat min familj. Det påverkar miljontals familjer. De vet bara inte om det ännu,” sa hon.
”Alices liv betydde något, och jag vill se till att det som hände henne inte fortsätter att hända andra människor utan att någon gör något åt det.”
I oktober, efter Alices död, släppte OpenAI en rapport som sa att den hade förbättrat sin nya modell för att bättre identifiera och minska fall av självskadekonversationer.
OpenAI sa att dess GPT-5-modell minskade ”oönskade svar” med 52 procent. AI-jätten sa att den konsulterade 170 experter på mental hälsa för att hjälpa företaget att tydligare identifiera signaler om känslomässig ångest.
”Våra skyddsåtgärder är utformade för att identifiera nöd, säkert hantera skadliga förfrågningar och vägleda användare till verklig hjälp. Detta arbete pågår, och vi fortsätter att förbättra det i nära samråd med kliniker”, säger Drew Pusateri, en OpenAI-talesperson, i ett uttalande till Bladet.
”Det här är en hjärtskärande situation och våra tankar är hos alla som påverkas. Vi granskar för närvarande den juridiska ansökan, vilket indikerar att dessa interaktioner ägde rum på en tidigare version av ChatGPT som inte längre är tillgänglig.”
Felaktiga dödsanspråk
I januari var ChatGPT en ”självmordscoach” för Colorado-boende Austin Gordon, som dog i november förra året, enligt en stämningsansökan från hans mor.
Den rättegången påstod att Altman ”personligen styrde den hänsynslösa strategin att prioritera en hastig marknadsrelease framför säkerheten för sårbara användare”.
I februari öppnade Jesse Van Rootselaar eld på en skola i den kanadensiska landsbygden Tumbler Ridge, British Columbia, och dödade nio personer och skadade dussintals innan hon tog livet av sig.
I månader diskuterade OpenAI-anställda om de skulle gå in efter att Van Rootselaars samtal med chatboten flaggades internt. I slutändan beslutade ledarskapet sig mot det, enligt The Wall Street Journal.
I april lämnade offrens familjer in en stämningsansökan mot OpenAI och Altman.
En stämningsansökan som lämnades in i Florida tidigare denna månad av delstatens justitieminister hävdar att ChatGPT har ”uppmuntrat” användare till självmord och ”hjälpt till dödliga framfart”. Stämningen från Florida ser ut att hålla Altman personligt ansvarig, och hävdar att han har en ”fullständig ignorering av risken för människoliv”.
En av åtta tonåringar och unga vuxna mellan 18 och 21 år vände sig till AI-chatbotar som ChatGPT för psykiska problem, enligt en studie från 2025 gjord av Brown University School of Public Health, Harvard Medical School och den ideella forskningsorganisationen RAND.
En annan studie från West Texas A&M University som också riktade sig till ungdomar och unga vuxna fann att nästan en femtedel av alla ungdomar utvecklade ett beroende av AI, med tidigare existerande psykiska problem som en predisposition för att utveckla beroendet.
Lagändringar
Lagstiftarna har börjat notera. I Kanada skulle en ny digital säkerhetsproposition, som infördes på onsdagen, kräva att företag som OpenAI ska vara mer ”transparenta” om sina rapporteringsstandarder i krissituationer, där användare kan skada sig själva eller andra.
I delstaten Washington undertecknade guvernören ett lagförslag som kräver att AI-chatbotar påminner användarna om att de inte är mänskliga var tredje timme och kommer att träda i kraft i januari 2027. Andra stater som Illinois, till exempel, har förbjudit AI-terapi.
På federal nivå presenterade representanten Mike Lawler, en republikan från New York, ett lagförslag som skulle kräva att chatbot-företag ska meddela föräldrar om interaktioner där självmordstankar diskuteras av en användare. Detta lagförslag gäller dock endast minderåriga.
*
Om du eller någon du känner riskerar att ta livet av sig kan dessa organisationer kanske hjälpa: