Sten Niklasson: Artificiell intelligens?

Relationen mellan människa och maskin har behandlats i en rad filosofiska, litterära och vetenskapliga verk, alltifrån antikens myter, exempelvis Hefaistos guldrobotar, till Mary Shelleys Frankenstein, ångmaskinernas epok och den nutida cybervärlden. Utvecklingen av denna relation har under senare år kulminerat i diskussionen kring artificiell intelligens (AI), det vill säga maskiner och system som kan reagera på sin omgivning och vidta egna åtgärder som maximerar deras möjligheter att framgångsrikt fullgöra sina uppgifter. AI anses av många utgöra ett hot genom sin potentiella förmåga att tänka själv, lära av sina erfarenheter, göra bedömningar, planera och generalisera. Forskningen på området grundas bland annat på antagandet att centrala funktioner i mänsklig intelligens kan beskrivas så exakt att en maskin kan simulera dem.

I snäv bemärkelse handlar AI om applikationsspecifika uppgifter som röststyrning, ansiktsigenkänning, maskinöversättning, självkörande bilar och autonoma vapensystem. Men det långsiktiga målet för forskningen rör sig om artificiell generell intelligens (AGI), som förknippas med självmedvetande, förnimbarhet, känsla och logiskt tänkande. Det så kallade ”hårda problemet” i sammanhanget är att det ännu inte finns några objektiva kriterier för att fastställa om en intelligent maskin kan känna och ha medvetna upplevelser.

Inspirerade av matematikern Alan Turings artikel Computing Machinery and Intelligence (1950), började en grupp forskare på allvar överväga möjligheterna att bygga en elektronisk hjärna. Det tvärvetenskapliga forskningsområdet AI kan sägas ha skapats år 1956 vid en konferens i Dartmouth College och ledde ganska snabbt till häpnadsväckande resultat. Maskiner vann över människor i damspel, schack och Jeopardy samt löste komplicerade ord- och beräkningsproblem snabbare än experter. Men projektfinansiering från framför allt de amerikanska och brittiska regeringarna drogs i flera omgångar tillbaka under de följande decennierna, och återupptogs först i samband med femte generationens datorprojekt i Japan på 1980-talet.

Framstegen inom AI under senare tid har aktualiserat de etiska och existentiella frågor som omger den nya teknologin. Allvarliga farhågor för att ohämmad utveckling av AI kan leda till en global katastrof och utradera mänskligt liv har uttryckts av en rad forskare. Fysikern Stephen Hawking och nobelpristagaren Geoffrey Hinton med flera har varnat för att utveckling mot fullständig artificiell intelligens kan innebära ”slutet för mänskligheten”. Kollegorna Stuart Russell och Peter Norvig talade om vådan med AI system som visar ”oavsiktligt beteende”, det vill säga oväntat avviker från sina instruktioner. År 2015 fick ett öppet brev rörande riskerna med AI, undertecknat av ett antal ledande forskare stor uppmärksamhet. I brevet lyfts bland annat riskerna med autonoma vapensystem fram.

I mars 2016 lanserade Microsoft en chatbot med begränsad AI-kapacitet på Twitter. Boten med namnet Tay var ett maskininlärningsprojekt utformat för interaktion med unga människor. Genom dialog och konversationer lärde sig boten genast att uttrycka åsikter. Sexton timmar efter lanseringen stängde Microsoft ner projektet. Då hade Tay gått från att uttrycka harmlösa synpunkter och skämtsamheter till att ge röst åt rabiata politiska uppfattningar. Boten sade sig gilla Hitler och hata judar. Förintelsen hade inte ägt rum. Obama var en apa. Bush hade orkestrerat 9/11. Trump utgjorde mänsklighetens enda hopp. Och så vidare. Microsoft skyllde misslyckandet på ”nättroll” och ersatte Tay med en annan chatbot vid namn Zo. Även den fick stängas ner. Tusentals liknande händelser har rapporterats av AI Incident Database.

I sin bok The AI mirror: How to Reclaim Our Humanity in an Age of Machine Thinking (2024) hävdar filosofen Shannon Vallor att AI inte egentligen kommer att omskapa vårt samhälle utan endast speglar vad det är att vara människa, våra prioriteringar av ont och gott, fult och vackert, viktigt och oviktigt. Hon betraktar AI som en spegel och menar med den metaforen en anordning som reflekterar mänsklig intelligens, men saknar egen oberoende skaparkraft. AI-system som bygger på av människor valda och  inmatade data kan, enligt Vallor, i egentlig mening inte uppfinna något, inte heller hantera utmaningar som kräver självständigt omdöme, och förmåga till egen tolkning. AI skapar bara en avbild av mänskligt tänkande genom att återge de slutsatser, fördomar och misstag som resulterat i de inprogrammerade datamängderna. Därför riskerar AI att hindra människans utveckling genom att låsa fast oss i historiska mönster.

Vallor argumenterar med lidelse för att hos AI-utvecklarna ersätta den förföriska tro på effektivitet och automatik som hotar att urholka humana värden, med ”a new language of virtue”, vilket sägs betyda en etisk vokabulär bortom förenklade begrepp som nytta och optimering. Hon hoppas därmed kunna undvika ett passivt stirrande i AI-spegeln och förvandla den nya teknologin till ett verktyg för att tjäna mänsklighetens högre mål, snarare än dess lägre instinkter.

Även om Vallors ton ibland blir lite väl högtidlig, är det lätt att känna sympati med hennes syfte. Men tyvärr ger en historisk tillbakablick på utnyttjandet av teknologiska framsteg inte anledning till hoppfullhet. De flesta stora innovationer har, efter inledande fanfarer om välsignelse för mänskligheten, snabbt utnyttjats också i mörkrets tjänst. Nobels dynamit räddade förvisso många liv i gruvor och stora anläggningsbyggen, men bidrog också till att många fler förlorades i samband med krig och kriminalitet. Konsten att tämja atomkraften gav visserligen mänskligheten tillgång till en ny energikälla, men också till vapen med ofattbar förintelseförmåga. Internet försåg världen med ett oöverträffat system för kommunikation och informationsinhämtning, men möjligjorde också anonyma cyberattacker, trollfabriker och omfattande oreglerad handel med vapen, knark och läkemedel. Den organiserade brottsligheten etablerade snabbt krypterade kommunikationskanaler på ”The Dark Web” , genom vilka allt större grupper av nätkrigare och förortsgangsters rekryterades.

Trots varnande röster har lagstiftarna ofta varit sena att inse farorna med nya teknologiska landvinningar och ingripit först när skador redan skett. Det är naivt att utgå från att riskerna med AI kommer att hanteras med större kraft och skyndsamhet. Inte heller ger det förgångnas erfarenheter anledning att räkna med tillräcklig återhållsamhet och självdisciplin från AI-utvecklarnas sida.  Men förhoppningsvis leder användarnas tvekan att införa system, vilkas tillförlitlighet inte är säkerställd, till att marknaden för AI-säkerhet tilldrar sig allt större uppmärksamhet.

”By far, the greatest danger of artificial intelligence is that people conclude too early that they understand it.” (E.Yudkowski)

Sten Niklasson är författare och tidigare generaldirektör