När branschledare uppmanar till en global nedgång i utvecklingen av artificiell intelligens för mänsklighetens skull, har de två supermakterna som driver teknikens snabba framsteg inte gett någon indikation på att de har för avsikt att bromsa.
USA och Kina, som är låsta i en hård strategisk rivalitet, har var och en motbevisat uppmaningar om att bromsa takten i AI-utvecklingen, även när industrichefer och forskare betonar behovet av internationellt samarbete för att undvika att utsätta människor för katastrofala – eller till och med existentiella – risker.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
När USA:s president Donald Trump och Kinas president Xi Jinping förbereder sig för att mötas på onsdag i Washington, DC, för tredje gången i år, är förväntningarna på samarbete kring AI-säkerhet blygsamma. Observatörer förutsåg åtgärder som i bästa fall skulle falla långt ifrån den samordnade avmattningen som många experter sade behövs.
”De två länderna är värd för nästan alla gränslaboratorier och de flesta av de modeller som folk laddar ner”, säger Alvin Wang Graylin, senior fellow vid Asia Society Policy Institutes Center for China Analysis, och beskriver överenskomna skyddsräcken mellan USA och Kina som ”nära en förutsättning” för säker AI.
”En säkerhetsregim som täcker ena sidans modeller täcker halva problemet,” sa Wang Graylin.
Hämmar utsikterna för samarbetet mellan USA och Kina, sa analytiker, är ömsesidig misstro och divergerande uppfattningar om de primära riskerna.
Trump har avfärdat rädslan för AI som en ”konspiration” och föreslagit att skyddsräcken inte behövs under hans ledning, och betonar behovet av att USA ligger före Kina när det gäller gränsteknologi.
Trump, som har ansett att AI-dominans är avgörande för att USA ska behålla sin position som den högsta globala makten, hällde på tisdagen återigen kallt vatten över hopp om internationellt samarbete, och berättade för FN:s generalförsamling att Washington skulle motsätta sig alla ”globalistiska planer” för att kontrollera AI.
Kina har tagit ett mer praktiskt förhållningssätt till AI-reglering – och släpper den tredje iterationen av sitt säkerhetsramverk denna månad – men har på liknande sätt avvisat kraven på en avmattning och avfärdat rädslan för existentiella risker som sänds i Silicon Valley som ”rädsla”.
Medan kinesiska tjänstemän har uttryckt oro över farorna med AI, har de relaterat det till mer prosaiska problem, inklusive cybersäkerhet och det regerande kommunistpartiets auktoritet.
I en sällsynt essä denna månad varnade den kinesiske ministern för statssäkerhet Chen Yixin för ”fientliga krafter” som använder AI för att ”framställa politiska rykten” och ”uppvigla antagonistiska känslor”, som hotar ”politisk säkerhet, institutionell säkerhet och ideologisk säkerhet”.
”Kina erkänner också alltmer förlust av kontroll, missbruk och cyberrisker men är mycket mer känsligt för möjligheten att ”AI-säkerhet” kan bli en motivering för att begränsa kinesisk tillgång till chips, datorer eller marknader”, säger Sun Chenghao, en stipendiat vid Center for International Security and Strategy vid Tsinghua University i Peking.
”Så det djupaste hindret är om båda sidor kan skilja genuint säkerhetssamarbete från den bredare teknikkonkurrensen,” sa Sun.
”Om varje säkerhetsdiskussion är kopplad till exportkontroller eller att bromsa Kinas utveckling kommer Peking naturligtvis att ifrågasätta syftet med samarbetet”, tillade Sun.
Hittills har de enda förslag som lagts fram offentligt av båda sidor varit en dialog mellan USA och Kina och en anmälningsmekanism för att rapportera nationella säkerhetshot.
Även om dessa åtgärder skulle vara positiva första steg, skulle USA och Kina fortfarande behöva nå en överenskommelse om AI-kapaciteten eller användningarna som bör vara förbjudna för att avvärja de största hoten, sa experter.
Det finns ingen konsensus inom AI-sektorn om hur tekniken ska regleras – eller ens om statligt ledd tillsyn överhuvudtaget behövs.
Medan AI-ledare som Anthropic CEO Dario Amodei och OpenAI CEO Sam Altman har efterlyst en avmattning och större reglering, menade vissa experter att sådana samtal inte går tillräckligt långt och utvecklingen borde pausas direkt.
”Internationell samordning är helt avgörande. Vi behöver mer än säkerhetsåtgärder”, säger David Krueger, biträdande professor vid University of Montreal som specialiserat sig på AI-säkerhet.
”Vi behöver ett omedelbart, obestämt internationellt moratorium för gränsöverskridande AI-utveckling.”
Andra nyckelpersoner, inklusive Nvidias vd Jensen Huang och Metas vd Mark Zuckerberg, har tonat ner behovet av extern tillsyn och betonat AI:s potential att leverera transformativa fördelar för samhället.
Bland dem som är mest oroade över den snabba utvecklingen av AI identifieras ofta rekursiv självförbättring, som beskriver när AI-modeller lär sig att förbättra sig själva, som en kritisk tipppunkt.
I en uppsats den här månaden där han uppmanade AI-sektorn att ”takta gränsen”, sa Amodei att USA och Kina borde diskutera ett avtal för att ”avsevärt begränsa” hastigheten för AI-utveckling samtidigt som man erkänner att en överenskommelse är osannolik med tanke på potentialen för en regelbrytande part att förändra den globala maktbalansen.
”USA och Kina måste komma överens om AI-kapacitet röda linjer som inte kommer att korsas. Det viktigaste är att AI aldrig får bli tillräckligt kraftfull för rekursiv självförbättring”, säger Otto Barten, chef för det nederländska baserade Existential Risk Observatory.
”Vi vet inte var den positiva återkopplingsslingan av allt smartare AI:er som skapar ständigt smartare AI:er utan mänsklig övervakning kommer att sluta och vad dessa agenter äntligen kommer att kunna göra,” tillade Barten.
Wang Graylin sa att Washington och Peking borde komma överens om vad som utgör en ”oacceptabel förmåga” och en gemensam standard för att testa gränsmodeller, helst av ett oberoende internationellt organ som finansieras av flera länder.
Men Wang Graylin erkände att misstroende grumlar utsikterna för ett avtal och amerikanska tjänstemän kommer sannolikt att se varje affär som omöjlig att verifiera.
”Verifiering är svårt för programvara som du inte kan se,” sa han.
Sun sa att USA skulle kunna underlätta vägen till samarbete genom att ”dra en tydligare linje” mellan policyer som syftar till AI-säkerhet och de som är avsedda att upprätthålla Washingtons tekniska fördel.
Kina kan också bidra till större förtroende genom att ge ”större transparens om sina säkerhetspraxis, modellutvärderingsmetoder och incidentrapporteringsmekanismer”, sa Sun.
Henry Gao, expert på Kina och handelsrätt vid Singapore Management University, sa att en djupare fråga är en grundläggande obalans i hur Washington och Peking ser på AI-risker.
”Många i den amerikanska AI-säkerhetsdebatten fokuserar på möjligheten att mycket kapabel AI kommer undan mänsklig kontroll och utgör katastrofala risker för mänskligheten”, sa Gao.
”I Kina verkar nationella säkerhetsproblem mer geopolitiska: En stor uppfattad fara är att USA kan få en avgörande AI-fördel och använda den mot Kina,” sa Gao.
”Det skapar press att påskynda snarare än att bromsa utvecklingen.”
Vissa AI-experter hävdade att fokus i en dialog mellan USA och Kina borde ligga på att mildra befintliga risker snarare än att bromsa utvecklingen direkt.
”AI är redan extremt användbar och har potential att förbättra liv runt om i världen”, säger Rui Ma, en teknisk industrikonsult och grundare av nyhetssajten Tech Buzz China, och tillade att en paus i utvecklingen också skulle påverka teknikens positiva tillämpningar.
”Jag tror att genomtänkta regler för engagemang, konstant övervakning, öppna kommunikationskanaler och förmågan att anpassa vårt tillvägagångssätt när AI får olika förmågor är mycket viktigare,” sa Ma.
”Säkerhetsåtgärderna måste utvecklas tillsammans med tekniken.”
Jiang Tianjiao, docent vid utvecklingsinstitutet vid Fudan University i Shanghai, kallade de kommande samtalen mellan Trump och Xi en ”positiv signal”, och uttryckte hopp om att sidorna skulle kunna övervinna sin geopolitiska rivalitet för att hitta en gemensam grund.
”Kina och USA är för närvarande de ledande nationerna inom AI-utveckling,” sa Jiang. ”Som sådan bär vi stormakternas ansvar för att förhindra AI från att spiralera utom kontroll, och vi bör vara ett globalt exempel genom att samarbeta för att hantera dessa risker.”