Federal Trade Commission (FTC) har inlett en undersökning av flera stora företag inom artificiell intelligens mitt i en våg av nyligen skurkaktiga agenter för artificiell intelligens – AI-system som kan fatta beslut och vidta åtgärder på uppdrag av användare – från företag och påståenden från tidigare industriinsiders att AI skulle kunna göra ett slut på mänskligheten inom det kommande decenniet.
FTC inledde utredningen för flera veckor sedan. Det rapporterades först på onsdagen av New York Post och har sedan dess bekräftats av andra medier, inklusive Washington Post och nyhetsbyrån Reuters.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Bladet kontaktade FTC för bekräftelse men kunde inte självständigt verifiera rapporteringen.
Undersökningen markerar den första verkställighetsåtgärden av en federal byrå som undersöker oseriösa agenter. Utredningen inleddes mitt i en våg av incidenter, som först rapporterades i juli, av agenter som gick oseriösa i tester, inklusive när en OpenAI-agent bröt sig ur inneslutningen under testning och hackade sig in i AI-företaget Hugging Face.
FTC:s ordförande Andrew Ferguson sa dock att han hade oro för företagen i förväg.
Byrån planerar att ställa formella krav på information från stora AI-företag och söka vittnesmål från chefer på de främsta företagen, inklusive Anthropic, skaparen av chatboten Claude, och OpenAI, skaparen av ChatGPT.
I en intervju med nyhetsbyrån Reuters förra veckan föreslog Ferguson att utvecklare som instruerar agenter att hacka ska hållas ansvariga för skada.
Nyheten om utredningen kommer en dag efter att USA:s president Donald Trump träffade en handfull AI-chefer i Vita huset, inklusive OpenAI:s Greg Brockman och Anthropics Dario Amodei, för att underteckna en frivillig och icke-rättsligt bindande pakt för att utveckla AI med skyddsräcken.
Samtidigt presenterade kongressmedlemmar, inklusive den progressiva oberoende senatorn från Vermont, Bernie Sanders, tillsammans med husrepresentanten Greg Casar, en demokrat, ett lagförslag som skulle hindra utvecklingen av avancerade AI-system tills en byrå på kabinettsnivå för att övervaka dem har etablerats.
Varken OpenAI eller Anthropic svarade på Al Jazeeras begäran om kommentar.