USA:s president Donald Trumps administration kommer att träffa landets främsta företag inom artificiell intelligens för att diskutera att tillåta den federala regeringen fler säkerhetstester för sina mest avancerade modeller mitt i två högprofilerade hackningar som bekräftats av Anthropic och OpenAI.
Mötet kommer att äga rum på tisdag, säger en tjänsteman i Vita huset till Bladet.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Mötet är en del av en verkställande order den 2 juni som krävde ett nytt frivilligt ramverk som skulle göra det möjligt för den federala regeringen att ha tidig tillgång till avancerade modeller i upp till 30 dagar innan offentlig publicering, stod det.
Mötet understryks av utvecklingen förra veckan när OpenAI-verktyg var ansvariga för ett intrång hos ett teknikföretag, Hugging Face, och hos kunden till ett annat, Modal Labs. Verktygens hackincidenter fungerade utanför vad de var designade för att göra.
OpenAI svarade inte på Al Jazeeras begäran om kommentar.
Detta kommer bland påståenden från vd Sam Altman på en podcast, efter attacken med Hugging Face, att tekniken har nått ”singulariteten”, när AI överträffar mänsklig intelligens och blir svårare att kontrollera. Han hade tidigare sagt att detta inte skulle nås 2030.
Förra veckan träffade Altman andra lagstiftare på Capitol Hill, inklusive Bernie Moreno, en republikan från Ohio, och Georgias senator Raphael Warnock.
Altman besökte också Vita huset då för att diskutera testerna.
På måndagen uppmanade 15 statliga åklagare, alla republikaner, inklusive de från Florida, Iowa och Kansas, OpenAI att upprätthålla dokument om hur dess AI-system undgick inneslutning.
I ett brev till Altman på måndagen skrev Iowa justitieminister Brenna Bird: ”OpenAI genomförde testerna i vad som borde ha varit en isolerad miljö, utan möjlighet att agenten kunde komma åt Internet. Inom den påstådda isolerade miljön tillät OpenAI agenten att fungera ”utan produktionsklassificerare som används för att förhindra modeller från att driva högrisk-satsningar av cyberaktivitet, vilket inte sammanfattas som en ”kommentatoraktivitet” skyddsräcken, ”i huvudsak.”
Anthropic meddelade också förra veckan att de hade identifierat tre separata incidenter där dess modell, Claude, kunde nå internet och få obehörig tillgång till en okänd uppsättning organisationer.
Den Dario Amodei-ledda AI-jätten sa att hackincidenterna inträffade i en ”tredjepartsutvärderingsmiljö”, enligt ett meddelande från företaget.
Anthropic har varit i Vita husets hårkors över sina ansträngningar att begränsa regeringens användning av sin teknologi för autonoma vapen och massövervakning.
Anthropic svarade inte på Al Jazeeras begäran om kommentar.
Google förväntas vara närvarande, enligt rapportering från teknikuttaget The Information. Google svarade inte på Al Jazeeras begäran om kommentar.
Facebook, WhatsApp och Instagram-moderbolaget Meta var också inbjudna, enligt rapporter från nyhetsbyrån Reuters. Vita huset sa inte specifikt att den Mark Zuckerberg-ledda teknikjätten skulle vara närvarande. Meta svarade inte på Al Jazeeras begäran om kommentar.
På Wall Street faller Metas aktie i middagshandeln. Den har minskat med 0,2 procent sedan marknaden öppnade. Googles moderbolag Alphabet är å andra sidan i positiv terräng. Det är upp 1,1 procent. Anthropic och OpenAI är inte börsnoterade.