En försvarsadvokat som överklagade sin klients dom för mord lämnade in en skrivelse som innehöll påhittade polisvittnesmål och vittnen tillverkade av OpenAI:s ChatGPT, har New Mexicos högsta domstol sagt.
New Mexicos högsta domstol i USA bötfällde i onsdags advokaten Stephen Aarons och höll honom i förakt för att han inte hade verifierat riktigheten av domstolens anmälan, som Aarons sa att han förberedde med hjälp av programmet för artificiell intelligens (AI).
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Anmälan ”innehöll falskt vittnesmål från helt påhittade vittnen”, sa domstolen.
Panelen sa också att Aarons hade ”visat brist på ånger och bristande oro för sin klient”. Domarna bötfällde Aarons 5 000 dollar och sa att de kommer att hänvisa honom till en disciplinnämnd för advokat för utredning.
Aarons, i ett uttalande till nyhetsbyrån Reuters, sa att han hade använt ChatGPT för att sammanfatta rättegången när han gick med på att ta upp den tilltalades överklagande förra året, och att han inte förstod i vilken grad AI kunde ”hallucinera” fakta.
”Jag är ångerfull men hoppfull att disciplinnämnden tar hänsyn till att det var ett ärligt misstag”, sa han. ”Det är en lärdom för alla proffs som förlitar sig på denna kraftfulla men ibland instabila teknik.”
OpenAI svarade inte omedelbart på en begäran om kommentar.
Domstolens sanktion är den senaste i ett växande antal fall där statliga och federala domare har disciplinerat advokater för att lämna in domstolsdokument som genererats av AI-verktyg utan att korrekt granska dem. Vissa domare har också ställts inför granskning över användningen av AI.
Dussintals advokater har ålagts sanktioner för att lämna in brief där AI hittat på hänvisningar eller felciterat lagen. Aarons arkivering verkar ha gått längre, innehållande påhittade vittnesmål i ett brottsligt överklagande.
Aarons, en privat advokat baserad i Santa Fe, hanterade överklagandet av Oscar Renee Sandoval, som erkände sig oskyldig till mordet på modern till sina barn innan han dömdes och förra året dömdes till livstids fängelse.
Överklagandet är fortfarande under behandling och tilldelades den 2 september till Kim Chavez Cook, en offentlig försvarare i New Mexico. Cook avböjde att kommentera.
Distriktsåklagarens kontor för Dona Ana County avböjde också att kommentera.
Statens högsta domstol beordrade förra månaden Aarons att förklara hur det tillverkade materialet, som den sade verkade innehålla ”fiktiva uttalanden om att skytten bar mörka byxor och en vit skjorta”, ingick i hans primära uppdrag i överklagandet.
Aarons berättade för domstolen vid en förhandling den 21 augusti att han matade en datorgenererad utskrift och annat ärendematerial till ChatGPT, förutsatt att det skulle generera ”en skottsäker sammanfattning”.
Domarna lät otroliga att Aarons inte var helt medveten om hur AI kan göra misstag.
”Aktör, tittar du på nyheterna? Lyssnar du på radio? Läser du något om vad som händer i världen?” Domare C. Shannon Bacon sade vid förhandlingen. ”För att problemet med advokater som förlitar sig på AI-hallucinationer är en berättelse över mitten varje dag.”