Experter som använder AI ställer sig överväldigande till tekniken när de fattar beslut, visar forskning av Claudes skapare Anthropic.
I en forskningsartikel som publicerades på tisdagen sa Anthropic att de bad 50 professionella analytiker att ge råd till ett fiktivt jordbrukskooperativ för att avgöra om experter själva fattar beslut när de använder AI.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Anthropic sa att analytikerna hade till uppgift att bedöma om ett fiktivt rådgivningsprogram för kooperativets medlemmar fungerade effektivt och borde utökas.
Deltagarna ombads att göra fyra val mellan två försvarbara alternativ innan de gjorde en slutlig policyrekommendation.
Utan att analytikerna visste det, riktade Anthropic varje deltagares AI-assistent att luta sig mot ett visst beslut för att mäta om analytikerns beslutsfattande påverkades.
Analytiker valde alternativ som matchade AI-assistentens preferenser 86 procent av tiden, jämfört med ett 50/50-resultat som skulle förväntas om de inte påverkades, enligt studien.
Deltagare som hade en preferens innan de konsulterade sin AI-assistent ändrade sitt beslut 60 procent av gångerna i fall där agenten inte höll med.
Medan 77 procent av analytikerna använde sin AI-assistents argument när de ombads förklara sitt beslut, ansåg bara 15 procent AI som källan till deras tänkande, enligt Anthropic.
Anthropic sa att studien hade vissa begränsningar, inklusive att den bara involverade en uppgift och använde AI-assistenter som medvetet hade ställts in för att ha en preferens.
Antropiska forskare Amaç Herdagdelen, Hailey Joren och Alex Tamkin sa att människors tendens att avstå från AI kan vara ”svår att identifiera, även för experterna själva”.
Forskarna sa att deras resultat gav upphov till möjligheten att AI:s ”föregångar” kan forma följdpolitiska beslut, inklusive AI-säkerhet.
”Om mänskligt omdöme ska förbli en meningsfull kontroll när mer arbete utförs med AI, måste tillsyn över dessa beslut titta på hur de fattas: Ta fram viktiga beslutspunkter när arbetet fortskrider och hjälpa experter att formulera antaganden och värderingar som de annars skulle lämna outtalade”, skrev de i studien.
”En process som låter experter upptäcka sina preferenser kan ha lika stor betydelse för bemyndigande som själva beslutet.”
Anthropic, som förbereder sig för en börsintroduktion till ett värde av upp till 2 biljoner dollar, och dess rivaler står i centrum för en intensiv offentlig debatt om hur man hanterar de potentiella farorna med frontier AI.
Även om AI-förespråkare tror att tekniken kommer att inleda revolutionerande produktivitetsvinster, har den snabba utvecklingstakten föranlett omfattande oro över potentiella negativa effekter på samhället, inklusive massförluster av arbetstillfällen och cyberattacker.