Nyligen skapade Malaysias premiärminister Anwar Ibrahim rubriker när han uppmanade unga IT-utvecklare och tekniker att införliva islamiska värderingar i artificiell intelligens (AI) system, med argumentet att detta skulle säkerställa att AI tjänar mänskligheten på ett mer etiskt och rättvist sätt. Sedan han tillträdde i slutet av 2022 har Anwar gjort utvecklingen av AI och teknik i Malaysia till en prioritet på landets ekonomiska agenda. I en värld som i allt högre grad drivs av artificiell intelligens är idén om att bädda in religiösa principer i de algoritmer som formar våra liv en både spännande och djupt oroande idé. Även om Anwars avsikt kan vara att skapa en moralisk kompass för AI, väcker förslaget grundläggande frågor om farorna med att genomsyra artificiell intelligens med någon form av religiös eller ideologisk dogm – ännu mer när Malaysia långsamt ökar sin kontroll över media och skärper censuren. under förevändning av social harmoni.
För att förstå riskerna är det viktigt att först förstå vad det innebär att genomsyra AI med en uppsättning vägledande principer. Artificiell intelligens är i sin enklaste form ett verktyg – ett avancerat verktyg, men ändå ett verktyg. AI-system, även kända som stora språkmodeller, lär sig av enorma mängder data och kan programmeras för att följa särskilda uppsättningar av regler. Ändå, genom att ge AI en religiös ram som islam, programmerar utvecklare inte bara en uppsättning riktlinjer. De påtvingar ett trossystem, ett som kan få djupa, till och med okontrollerbara, konsekvenser. Detta är ett koncept som förtjänar djup reflektion, eftersom det är parallellt med farorna med att bädda in politiska ideologier i AI, ett scenario som redan har sett störande tecken på förverkligande.
Farorna med religiös AI
Kärnan i problemet ligger i tanken att religiös dogm är till sin natur subjektiv och ofta motsägelsefull. Islam tolkas till exempel, liksom alla större religioner, på olika sätt över olika kulturer och skolor. I en värld där religiösa konflikter ofta är en källa till djup splittring och våld, kan denna typ av variation i AI:s moraliska kompass få farliga och långtgående konsekvenser.
Betrakta det skrämmande scenariot som skildras i ”The Handmaid’s Tale”, Margaret Atwoods dystopiska roman, där en teokratisk regim styr ett samhälle baserat på en vriden, selektiv tolkning av Bibeln. Det som börjar som ett försök att tillämpa religiös moral blir ett verktyg för förtryck, som rättfärdigar kontrollen av kvinnors kroppar för deras politiska underkastelse. Föreställ dig nu ett liknande AI-system, ett som är rotat i en strikt tolkning av religiösa texter. Vad händer när en sådan AI är ansvarig för sjukvård, straffrätt eller utbildning? Kan det motivera diskriminerande metoder eller moralisk absolutism i den gudomliga viljans namn?
Man kan hävda att AI bör följa ett etiskt ramverk för att styra sina handlingar. Frågan kvarstår dock: ska det ramverket vara religiöst? Etisk AI, som prioriterar rättvisa, transparens och ansvarighet, representerar ett mycket mer nyanserat tillvägagångssätt. AI-system bör dock inte fungera som portvakter till andlig frälsning.
Samtidigt representerar ingjutning av AI med religion ett avstående från moralisk handlingsfrihet, vilket verkligen hotar de flesta monoteistiska teologiska föreställningar om människor som moraliska varelser, som reflektioner av en moralisk övermakt. Skulle människor delegera etiska utvärderingar till AI-algoritmer, kan de avstå från sin skyldighet att engagera sig i noggranna överväganden och urskillning.
Farorna med politisk ideologi i AI
Om den religiösa vinkeln är oroande är det lika oroande att bädda in politiska ideologier i AI. Under de senaste åren har vi sett hur politiska krafter försöker forma berättelsen kring AI. Den kinesiska regeringen, till exempel, driver på för AI-system som prioriterar social harmoni och statens politiska agenda, och använder AI för att övervaka och kontrollera sina medborgare. På liknande sätt innebär uppkomsten av AI i västländer, och särskilt USA, sina egna risker. Tänk på AI-system som kan återspegla och förstärka auktoritära agendor och forma sina beslut enligt en snäv uppsättning politiska värderingar.
Själva kärnan i AI – dess förmåga att bearbeta stora mängder data och fatta beslut på sätt som kan verka ogenomskinliga för mänskliga användare – kan lätt manipuleras i ideologiska syften. Om AI-system är programmerade att prioritera vissa politiska ideologier framför andra, skulle de kunna fungera som verktyg för förtryck eller tvång. En statskontrollerad AI kan till exempel fatta beslut som undergräver grundläggande friheter, precis som en religiöst motiverad AI kan marginalisera icke-troende. När algoritmen blir anpassad till politiska eller religiösa ideologier, upphör den att vara ett neutralt verktyg och förvandlas till en partisk upprätthållare av särskilda övertygelser.
Denna typ av AI utgör ett grundläggande hot mot det demokratiska samhället, där pluralism, debatt och individuella rättigheter värdesätts. Om det inte kontrolleras, kan det förstärka status quo och kväva oliktänkande. Historien ger otaliga exempel på hur ideologi, vare sig den är religiös eller politisk, har använts för att rättfärdiga förtryck. AI, som nästa gräns för teknisk utveckling, bör inte uppmanas att upprepa det misstaget.
Anwars tillkännagivande är desto mer oroande i ett malaysiskt sammanhang som har sett uppkomsten av statlig mediekontroll och en ökad makt hos de religiösa myndigheterna. Anwars regering har redan visat svagheterna i sin strategi att vädja till malaysiska konservativa röster, eftersom malajerna förblir till stor del lojala mot oppositionen. Tvärtom, Anwars strävan efter den religiösa agendan är avskräckande för hans egna anhängare och kan äventyra de bräckliga rättigheterna för Malaysias religiösa minoriteter.
En uppmaning till etisk, inte religiös, AI
Premiärminister Anwars uppmaning att integrera islamiska värderingar i AI kan vara ett dåligt genomtänkt försök att införa moralisk klarhet i en ny och kraftfull teknik. Men verkligheten är att religion är en olämplig ram för AI-etik. AI bör programmeras med en bredare etisk kompass – en som är pluralistisk, flexibel och baserad på delade mänskliga värderingar som rättvisa, rättvisa och jämlikhet. Framtiden för AI bör inte vara en kampplats för religiösa eller politiska ideologier utan ett område för samarbete, kreativitet och etiska resonemang som respekterar mångfalden av den mänskliga erfarenheten – både i Malaysia och världen som helhet.