I ett drönartest med artificiell intelligens, utfört av amerikansk militär, använde sig AI:n av ”högst oväntade strategier” för att utföra sitt uppdrag – och attackerade alla som lade sig i, inklusive sin egna operatör. Det rapporterar The Guardian.
Själva testet var en simulering där en obemannad drönare fick i uppdrag att förstöra fiendens luftförsvarssystem. Men AI:n gick längre än så. När den operatör som styrde drönaren gav instruktioner som gick emot det ursprungliga uppdraget vände den sig mot instruktören.
”Den dödade operatören eftersom den personen var ett hinder för att uppnå målet”, skriver Tucker “Cinco” Hamilton, chef för AI-tester inom USA:s flygvapen, i ett blogginlägg.
Kommunikationstornet attackerades också när man explicit instruerade AI:n att inte döda operatören.
Ingen ickesimulerad person skadades fysiskt under testet.
REDAKTIONEN
Relaterat
“AI kommer slå ut både Google och Amazon”
AI behöver regleras – kan orsaka stor skada på världen
Sverige har gett 22 miljarder i stöd till Ukraina: ”Stort ansvar”
Religiösa samfund använder AI i deras predikan
Studie visar att Googles algoritm visar opinionsbildande sökresultat
AI förändrar hur Metakonsumenter använder sociala medier