Små artificiell intelligensmodeller kan snart börja replikera sig själv på vardagliga konsumentprodukter som smarta TV-apparater och kylskåp, utan att behöva ett datacenter, enligt forskare vid AI-jätten Anthropic.
I en rapport som släpptes på måndagen sa forskarna att små AI-modeller ”kan vara månader från att vara tillräckligt kapabla” för att kopiera sig själva på internet of things (IoT)-enheter som används i hem och småföretag.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Anthropics frontier red team, som körde experiment med flera USA- och kinesiskt utvecklade AI-modeller, sa att sådan självreplikerande AI skulle vara ”utmanande att stänga av” på grund av bristen på en centraliserad värd.
Medan datacenter skulle vara ”ett tydligt, värdefullt mål” för AI-maskar, kan internetanslutna enheter som smarta TV-apparater, kylskåp, ugnar och gräsklippare snart också ge tillräcklig datorkraft för självreplikering, sa forskargruppen.
Även om ingen nuvarande AI-modell visat sig vara både kraftfull och liten nog att replikera sig själv på ett tillförlitligt sätt på en smart TV som används vid testning, gör utvecklingen av utvecklingen att en sådan modell troligen kommer fram i slutet av 2026, sa forskarna.
”IoT-enheter för hem och småföretag kan vara det första målet för sådana attacker eftersom de är anslutna till internet och historiskt sett har minimala säkerhetsåtgärder på plats”, sa forskarna William Zhou och Daniel Freeman.
Forskarna sa att de förväntade sig att framtiden skulle vara ”översköljd av agenter som körs på alla typer av hårdvara”, inklusive några som ”inte är under mänsklig kontroll”.
”Även om det är sant att IoT-enheter har varit sårbara under lång tid, kan lättviktsagenter vara mycket mer villiga än mänskliga angripare att anstränga sig för att äventyra stora delar av världens IoT-beräkningar”, sa de.
Anthropic, skaparen av Claude-familjen av AI-modeller, svarade inte på Al Jazeeras frågor, skickade utanför ordinarie öppettider, om fyndets säkerhetskonsekvenser.
Anthropics rapport kommer eftersom riskerna för att AI ska slippa mänsklig kontroll är under granskning efter en mängd incidenter med modeller som ägnar sig åt osanktionerat malignt beteende, inklusive cyberattacker.
Anthropic och dess främsta rival OpenAI har uppmanat det internationella samfundet att samordna en nedgång i AI-utvecklingen för att minimera katastrofrisker, ett förslag som har haft lite inköp från USA och Kina, de två ledande AI-makterna.
Många säkerhetsförespråkare för AI har identifierat rekursiv självförbättring, där modeller lär sig att förbättra sig själva, som en kritisk vändpunkt som kan leda till katastrofala skador för mänskligheten.
Roman V Yampolskiy, en AI- och cybersäkerhetsexpert vid University of Louisville, beskrev Anthropics fynd som en betydande utveckling.
”Datormaskar är inte nya, men en AI-mask kan göra något som traditionell skadlig programvara inte kan: resonera om obekanta enheter, anpassa sig när dess tillvägagångssätt misslyckas och fortsätta sprida sig utan en mänsklig operatör,” sa Yampolskiy till Bladet.
”Idag är detta inte ett existentiellt hot. Men banan är oroande,” sade Yampolskiy.
”När väl autonom replikering kombineras med stark hacking, uthållighet och strategiska resonemang, blir det mycket svårare att stänga av ett sådant system eftersom det kanske inte finns någon enskild server eller organisation som kontrollerar det.”
Antropiska och andra ledande amerikanska teknikföretag anslöt sig förra månaden till ett icke-bindande avtal som lovade starkare interna skyddsåtgärder och engagemang med externa revisorer, vilket fick ett blandat svar från experter, av vilka många kritiserade paktens frivilliga karaktär.
I ett separat tillkännagivande på måndagen sa Anthropic att de hade gjort betydande framsteg för att förhindra så kallade destillationsattacker, som involverar osanktionerad användning av banbrytande AI för att träna billigare, mindre kapabla modeller.
Det San Francisco-baserade företaget, som har anklagat de kinesiska konkurrenterna DeepSeek, Moonshot och MiniMax för ansträngningar i ”industriell skala” för att kopiera Claude, sa att de åtgärder de införde hade minskat den olagliga extraheringen av data med 90-99 procent.