Tjugo länder och Europeiska unionen har utfärdat en uppmaning till internationellt samarbete för att säkerställa att AI förblir under mänsklig kontroll, inklusive det potentiella skapandet av ett globalt tillsynsorgan för att fastställa och upprätthålla standarder.
Länderna, inklusive Tyskland, Sydafrika, Kanada, Australien, Förenade Arabemiraten och Singapore, utfärdade det gemensamma uttalandet på måndagen när globala ledare förbereder sig för att diskutera riskerna med att snabbt avancera AI vid den årliga sammankomsten av FN:s generalförsamling.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Deklarationen, som släpptes av Finlands president Alexander Stubbs kansli, uppmanar regeringar och industri att omedelbart agera för att säkerställa att AI utvecklas i linje med internationell rätt och förblir under ”mänsklig ledning, tillsyn och kontroll”.
”För att förverkliga AI:s potential måste industrin, regeringarna och samhället agera nu”, står det i uttalandet.
”Vi måste ta itu med dessa risker och stärka tillsynen – utan att öka klyftan mellan länder när det gäller tillgång till fördelarna med AI.”
Deklarationen uppmanar länder att utveckla och samordna ”gemensamma standarder”, dela rapporter om allvarliga säkerhetsincidenter och utforska etableringen av en internationell institution för att ”sätta standarder, möjliggöra verifiering och sammankalla stater när kapacitetströskelvärden passeras”.
Undertecknarna inkluderar Tysklands förbundskansler Friedrich Merz, Norges premiärminister Jonas Gahr Store, EU-kommissionens ordförande Ursula von der Leyen, Kenyas president William Ruto, Kazaks president Kassym-Jomart Tokayev och Turkiets utrikesminister Hakan Fidan.
USA och Kina, världens två ledande AI-makter, anslöt sig inte till uttalandet, som fortfarande är ”öppet för stöd” av andra länder.
USA:s president Donald Trump och Kinas president Xi Jinping förväntas diskutera AI när de träffas i Vita huset på torsdag för sitt tredje ansikte mot ansikte-toppmöte på mindre än ett år.
Washington och Peking, som är i en kapplöpning om att dominera den senaste tekniken, har båda avvisat uppmaningar om att bromsa AI-utvecklingen för att säkerställa större säkerhet.
Andra AI-spelare som inte är bland undertecknarna inkluderar Indien, Sydkorea, Japan, Storbritannien och Frankrike.
Deklarationen kommer när AI-sektorn är engagerad i en het debatt om säkerhet efter uppmaningar om en avmattning i utvecklingen från toppbranschens ledare.
I en uppsats tidigare den här månaden uppmanade Anthropics vd Dario Amodei företag att ”sänka utvecklingstakten” för att minska riskerna, ett förslag som snabbt godkändes av konkurrenter inklusive OpenAI:s vd Sam Altman och SpaceX och Teslas vd Elon Musk.
Amodeis samtal följde på en rad fall av AI-modeller som ägnade sig åt ogodkänd malign aktivitet, inklusive en incident i juli där AI-agenter som testades av OpenAI hackade AI-start-upen Hugging Face.
I det senaste ingripandet från industrin på måndagen sa OpenAI att USA borde leda en internationell ansträngning för att utveckla tekniska standarder för avancerad AI.
”USA är väl positionerat att leda eftersom dess AI-industri ligger vid den tekniska gränsen, och den står fortfarande i en privilegierad global nätverksposition inom kritiska områden som finans, handel, försvar, teknik och informationssystem”, sa den San Francisco-baserade AI-jätten i ett blogginlägg.
”Att leda nu kommer att avgöra om USA formar det globala AI-ramverket eller ser ett fragmenterat, ojämnt och konfliktfyllt system få fäste runt det.”
Den FN-stödda Independent International Scientific Panel on AI, som undersökte Hugging Face-incidenten, lade på måndagen också sin röst till kraven på nya skyddsräcken och sa att cyberattacken hade avslöjat ”upplösningen” av befintliga skyddsåtgärder.