Vancouver, Kanada: I en tid av artificiell intelligens, djupförfalskningar och datadrivet beslutsfattande går Kanada över på att revidera sina integritetslagar genom Bill C-36, Protecting Privacy and Consumer Data Act.
Bill C-36 tillkännagavs i juni och är Kanadas första stora översyn av privatsektorns integritetslagstiftning på mer än 25 år. I propositionen erkänns uttryckligen integritet som en grundläggande rättighet och syftar också till att ge barns personliga information starkare skydd, förbättra raderingsrättigheter och kräva större transparens där automatiserade system fattar viktiga beslut om människor.
Rekommenderade berättelser
lista med 4 artiklarslutet av listan
Reformerna kommer också mitt i en växande granskning av AI efter incidenter som British Columbias Tumbler Ridge-skjutning i februari väckte större frågor om AI-chatbotar, sårbara användare och teknikföretagens ansvar.
Den 18-årige skottmisstänkte ska ha använt ChatGPT före attacken. Offrens familjer stämmer nu OpenAI och säger att företagets AI-säkerhetsteam identifierade våldsamma uppmaningar men inte larmade brottsbekämpande myndigheter. Den här veckan meddelade provinsen British Columbia också att de ”förbereder rättsliga åtgärder” mot AI-företaget.
Samtidigt planerar Kanadas federala regering att modernisera privata konsumentskyddsregler via Bill C-36.
Evan Solomon, Kanadas minister för AI och digital innovation, sa till Bladet att regeringens ansvar är ”att skydda kanadensare online och att säkerställa att kanadensare kan dra nytta av artificiell intelligens och framväxande teknologier. Dessa mål utesluter inte varandra”.
”Bill C-36 fastställer ett ramverk för ansvarsfull användning av avidentifierade data. Det inkluderar skyddsåtgärder som är utformade för att minska risken för att återidentifiera individer samtidigt som det stöder viktiga aktiviteter av allmänt intresse, inklusive forskning, ansvarsskyldighet och innovation.”
Men när AI-system blir mer kapabla att förutsäga, profilera och påverka människor, säger experter att utmaningen inte längre bara är vad dataföretag samlar in – det är vad AI kan sluta sig till från användare.
Frågan är om integritetslagstiftningen kan hålla jämna steg med teknik utformad för att förutsäga, profilera och påverka mänskligt beteende.
Utledd information
Det största problemet är att AI förändras där integritetsskador uppstår, enligt Ignacio Cofone, professor i lag och reglering av AI vid University of Oxford.
”Äldre integritetslagar förutsätter att faran ligger i vad ett företag samlar in från dig. Faran ligger nu i vad ett företag drar slutsatser om dig från data som du aldrig lämnat över, och i vad det gör med den AI slutsatsen.”
Med andra ord behöver dagens AI-system inte nödvändigtvis att någon avslöjar känslig information frivilligt. Mönster i shoppingvanor, surfhistorik, platsdata eller onlineaktivitet kan räcka för att algoritmer ska göra förvånansvärt korrekta förutsägelser om en persons hälsa, ekonomi eller beteende.
”En modell tränad på [anonymous] data kan producera beslut som missgynnar en kategori människor utan att peka på en namngiven individ som kan klaga, säger Cofone till Bladet.
Bill C-36 svarar genom att utvidga definitionen av personlig information till att omfatta härledd information och kräva att organisationer förklarar vissa automatiserade beslut.
Men, som Cofone hävdar, är den verkliga utmaningen att se till att regleringen är inriktad på skadlig användning av AI snarare än bara datainsamling.
”En modell kan förutsäga din hälsa, din sexualitet eller din kreditvärdighet från orelaterade spår och sedan agera på förutsägelsen, utan dataläckage eller intrång i konventionell mening”, sa han.
”Det är oerhört viktigt eftersom det flyttar lagen mot var AI-skada faktiskt inträffar, slutsatsen och beslutet, snarare än att låta det fixeras på insamlingshandlingen.”
Att skydda barn på nätet
Att skydda barns integritet är en av Bill C-36:s rubrikreformer. Lagstiftningen skulle klassificera uppgifter som tillhör alla under 18 år som i sig känsliga och ger unga människor starkare rättigheter att få sina personuppgifter raderade.
För Stephany Oliveros, föreläsare för etisk AI och VD för Just Lyra, en plattform för AI-talangmatchning, handlar datasekretess och samtycke om användarbyrå.
”Det är en sak att donera min data till cancerforskning, men en annan sak om teknikföretag tar reda på blodgruppen och beteendet hos mitt barn. Som, varför behöver Facebook veta det?”
Cofone tillade att ändringarna som kommer med Bill C-36 är värda besväret men bara löser en del av problemet.
”Det kommer att hjälpa, blygsamt och mindre än vad inramningen antyder. Lagförslaget gör två saker för barn: Det behandlar ett barns information som känslig, vilket höjer ribban för samtycke och för säkerheten en organisation är skyldig, och det ger barn en starkare raderingsrätt. Båda är användbara.”
Men, sa han, den större utmaningen ligger någon annanstans.
”Det tyngre skyddet människor behöver med barn online är åldersanpassad design och gränser för vad plattformar kan göra.”
Enligt Jill Ma, en teknisk grundare som arbetar med AI-produkter för barn, är nästa gräns utöver integritet algoritmisk rättvisa.
”Sekretess handlar inte bara om att kontrollera data, det handlar om att inte bli felbedömd av en algoritm,” sa hon. ”Ett barns tidiga digitala fotavtryck bör inte bli en livslång etikett. Vårt jobb som [product] byggare är att lära AI hur man respekterar människor, inte bara samla in deras data.”
För oroliga föräldrar som Martin Haucke, en Vancouver-baserad far till ett barn, är den större frågan den kulturella normen kring internettillåtlighet för barn.
”Den fysiska världen är den säkraste den någonsin har varit, och onlinevärlden är det som utgör de största hoten mot barns säkerhet”, sa han. ”Och ändå behandlar vi den verkliga världen som en farlig plats och är lyhörda för att våra barn ska ha telefoner innan de börjar gymnasiet.”
Tidigare i år införde Ottawa separat lagstiftning som föreslår begränsningar för sociala mediers tillgång till plattformar som TikTok för användare under 16. Andra regeringar runt om i världen har också börjat svara in natura. Förra året antog Australien lagstiftning för att begränsa tillgången till vissa sociala medieplattformar för under 16 år.
”Det är bakvänt”, sa Haucke, som också är skollärare. ”Vad vi behöver är noll telefoner i skolan. Mer tid utomhus och umgås.”
Sekretess är bara en del av lösningen
Sekretess är bara en del av styrande av AI. Experter säger att framtida AI-lagar kommer att behöva balansera användarsäkerhet, journalistik och allmänhetens intresse.
”När tekniken fortsätter att utvecklas,” sa Solomon. ”Vi kommer att fortsätta samarbeta med forskare, journalister, integritetsexperter, civilsamhället och andra intressenter för att säkerställa att Kanadas integritetsramverk förblir effektivt, balanserat och lyhört för kanadensarnas förväntningar.”
Ett exempel på en sådan utmaning är lagförslagets behandling av avidentifierad information, en fråga som har väckt debatt bland integritetsexperter, forskare och journalister.
Medan lagstiftningen syftar till att förhindra organisationer från att rekonstruera människors identiteter från avidentifierade datauppsättningar, säger experter som Oxford Law’s Cofone att detta handlar om hur organisationer och forskare ska tillåtas använda avidentifierad data på ett ansvarsfullt sätt.
”Jag skulle skilja de två frågorna åt. När det gäller journalistik behåller lagförslaget undantaget för journalistiskt, konstnärligt och litterärt arbete,” sade han. ”Undersökande journalistik är skyddad, som den var enligt den gamla lagen. Det svårare problemet är forskning, som vänder sig till hur lagförslaget drar gränsen mellan avidentifierad och anonymiserad data.”
Oliveros, den etiska AI-föreläsaren som också har samarbetat med FN, säger att denna debatt går utöver juridiska definitioner av integritet och bör ta upp ansvarsskyldighet. Att begränsa tillgången till data kan göra det svårare för journalister och människorättsorganisationer att upptäcka fel, sa hon.
”Vakthundar kan inte lita på företagssammanfattningar,” sa Oliveros till Bladet. ”För att hitta miljörasism, algoritmisk partiskhet eller utlåning behöver journalister och människorättsgrupper tillgång till detaljerad rad-för-rad-data. Om Bill C-36 helt låser denna data under integritetsfanan, skyddar den oavsiktligt mäktiga företag från offentligt ansvar. Integritet får inte bli en juridisk mantel för företagssekretess.”
Men det kanske inte finns några enkla svar.
”Om definitionen av en forskare av allmänt intresse är för lös, misslyckas lagen. Men om den är för stel stänger den ute oberoende journalister och icke-statliga organisationer på gräsrotsnivå som gör det tunga arbetet i människorättsarbetet”, sa Oliveros.
Medan lagförslaget fokuserar på att skydda personlig information, säger Eric Wishart, journalistisk etikförfattare och professor vid University of Hong Kong, att integritetslagar bör bevara journalistikens förmåga att hålla makthavare till svars såväl som allmänhetens rätt att veta.
Han pekade på konflikten mellan USA och Israel med Iran som ett exempel.
”Det fanns väldigt lite information från Pentagon om attacker mot Iran, så journalister var beroende av bilder från [satellite imagery platform] Planet Labs för att spåra skadan. Det var en nyckelkälla som visade platserna som drabbats av bombningar, men sedan meddelade Planet Labs att de undanhöll bilder från kriget på begäran av den amerikanska regeringen.”
”Vi måste balansera behovet av att skydda människors integritet mot journalisters rätt att utföra utredningsarbete i allmänhetens intresse”, sade han. ”Lagstiftning utformad för att ta itu med privatpersoners legitima integritetsproblem, inklusive barn, bör inte hindra journalister från att undersöka potentiella missförhållanden av offentliga personer eller ställa makten till svars.”
Bill C-36 kan representera Kanadas viktigaste integritetsreform på decennier, men utmaningen för regeringar kommer att vara att se till att reglering utvecklas lika snabbt som själva tekniken när AI blir alltmer kapabel att förutsäga beteende, påverka beslut och omforma det dagliga livet.
För Oliveros handlar debatten i slutändan om vem som har makten i en AI-driven värld.
”Dataintegritetsrättigheter förändrar maktdynamiken, så makten är tillbaka till dig”, sa hon. ”Du äger något – din identitet.”