OpenAI VD Sam Altman har träffat amerikanska senatorer för att diskutera sitt företags kommande modeller, eftersom president Donald Trump sa att han överväger AI-”kontroller” efter OpenAI:s avslöjande att ett av dess AI-system undgick inneslutning under ett säkerhetstest.
”Vi tittar på kontroller,” sa Trump till reportrar i Oval Office som svar på en fråga om OpenAI:s oseriösa agent, och tillade att han inte ville ”begränsa” AI-utvecklare från att bygga nya produkter.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
En oseriös agent undkom hanteringen av ChatGPT-tillverkaren OpenAI och hackade AI-företaget Hugging Face förra veckan. Sedan, på tisdagen, avslöjades det att ett andra företag också hade varit ett mål – Modal Labs, ett New York-baserat AI-infrastrukturföretag.
Företaget i sig hackades inte utan ett konto av en kund som hostades på Modals infrastruktur. Modals tekniska chef, Akshat Bubna, bekräftade inte vilken kund som var målet. Hacket undkom en innesluten miljö under ett säkerhetstest.
”Vi är medvetna om att en Modal-kund publicerade en oautentiserad slutpunkt som gjorde det möjligt för vem som helst på internet att använda sina sandlådor för kodexekvering,” sa Bubna i ett uttalande. ”Detta användes av den oseriösa agenten. Modals plattform eller isolering äventyrades inte på något sätt.”
Altman har länge anklagats för att avfärda farhågor om att hans produkter och AI-branschen påverkar samhället i stort, inklusive i en nyligen väckt rättegång från delstaten Florida som påstod att företaget satte vinster före användarsäkerhet.
Nu verkar han gå tillbaka en del av sin tidigare entusiasm kring AI:s tillväxttakt.
I en podcast kallad Invest Like the Best kallade Altman hugging Face hacket för en ”extremt sci-fi cyberincident” och sa senare att det var den ”första säkerhetsincidenten som jag har känt väldigt visceralt”.
”Vi kan behöva ta takten i AI-utvecklingen för att ge oss själva tillräckligt med tid för samhället att hårdna runt några av dessa nya kapacitetsnivåer,” sa han i podcasten.
På lördagen sa Altman att AI har nått ”singulariteten”, när AI överträffar mänsklig intelligens och blir svårare att kontrollera. Han hade tidigare sagt att detta inte skulle nås 2030.
Washington möten
Altman var i Washington, DC, denna vecka och träffade de amerikanska senatorerna Raphael Warnock, en demokrat från Georgia, och Bernie Moreno, en republikan från Ohio på onsdagen. Altman berättade för reportrar att hackningen diskuterades men inte var i fokus för mötet.
Altman kommer också att träffa den demokratiske senatorn Mark Warner från Virginia, den högsta demokraten i kammarens underrättelsekommitté.
CNBC rapporterade att Altman också ska göra en resa till Vita huset för att träffa Trumps stabschef, Susie Wiles. Förra månaden undertecknade presidenten en verkställande order där han begärde att AI-företag ska utvärdera sina modeller innan de släpps fullständigt.
Finansieringsproblem
Hackningen och mötena kommer tillsammans med påtryckningar från Wall Street mitt i förnyad oro för potentiell cirkulär finansiering, efter rapporter om att halvledarchipjätten Nvidia för samtal med OpenAI för att tillhandahålla finansieringsgarantier för ett datacenter i Ohio.
Affären på 250 miljarder dollar skulle hjälpa ChatGPT-ägaren att hyra ett 10-gigawatt-projekt som SB Energy, ett dotterbolag till SoftBank, bygger i Piketon, Ohio, 109 km (68 miles) söder om Columbus, Ohio. Det är en del av ett offentlig-privat partnerskap som gjorde det möjligt för SoftBank att bygga världens största AI-datacenter på statlig mark som ägs av det amerikanska energidepartementet.
”Efterfrågan är inte så stor som den ser ut att vara eftersom, återigen, företagen köper av varandra med sina egna pengar till viss del, i motsats till att till exempel OpenAI har en sådan enorm efterfrågan från kunder, tjäna pengar på det ordentligt och sedan använda kundernas pengar för att köpa Nvidia-chips. De använder i huvudsak Nvidias pengar för att köpa Nvidia-chips, säger Aleksandar Tomanic, Bostons kollega.
Utvecklingen kommer när det Altman-ledda företaget lutar mot ett börsnoterat erbjudande, vilket, enligt rapportering från The New York Times förra månaden, kan vara 2027.