Vad är det som driver förhoppningarna om transhumanism och artificiell intelligens?  Jaron Lanier är virtual reality-visionären som har blivit ett slags rebell mot nätrebellerna, skarpt kritisk mot företeelser som upphöjts till helig ideologi. När jag recenserade hans bok You are not a gadget för GP fick jag tillfälle att kritisera idén om artificiell intelligens. Viktigast av allt är att avprogrammera oss från föreställningen att Utvecklingen är en väg där de enda riktningarna är ”bakåt” och ”framåt”.

Alla hoppas på artificiell intelligens utom Jaron Lanier. Det hör till att man ska nämna hans dreadlocks när man porträtterar honom, men det särskilda med honom är framförallt att han tänker så självständigt att de flesta andra som uttalar sig om informationsteknologins framtid – med eller utan dreads – framstår som välkammade. Lanier, född 1960 och uppvuxen på landet i New Mexico, var en del av IT-revolutionens innersta, hett inspirerade krets på 80-talet. Hans brokiga CV ryms inte här; mest känd är han för att ha utvecklat och gett namn åt virtual reality, som med den tidens högt uppdrivna förväntningar kallades ”det första metafysiska redskapet”.

På senare tid har Lanier blivit en rebell mot rebellerna, en kritiker av internetföreteelser som upphöjts till helig ideologi, som Wikipedia och öppen källkod. I januari utkom hans bok You are not a gadget. Jag hade väntat mig mer av honom, boken är rätt repetitiv och ofokuserad. Sök istället upp hans artikel ”One-half of a manifesto” på wired.com. Där framför han till stor del samma kritik, men intelligentare, koncisare och elakare. Artikeln skrevs år 2000 och är fortfarande aktuell: vill man lyfta den svenska IT-diskussionen från för eller mot Pirate bay-nivån skulle den vara en utmärkt utgångspunkt.

Hos dem som utvecklar dagens och morgondagens informationsteknologi finns en samling föreställningar som Lanier kallar cybernetisk totalism. Dessa idéer kan bli lika avgörande för de kommande 50 årens utveckling som Marx eller Freuds, tror han. Cybernetisk totalism går ut på att allt – från universum till människans medvetande – kan simuleras digitalt om vi bara har tillräckligt kraftfulla datorer. Informationsteknologin har blivit den metafor genom vilken vi tolkar biologin. Kroppen är hårdvaran, generna det styrande programmet (en genetiker skulle ha en del att invända mot denna förenkling). Som i all informationsteknologi är det informationen, programvaran, som är det väsentliga: kan medvetandets programvara köras på en snabbare processor finns det ingen anledning att behålla sin kropp.

Teknikvisionären Ray Kurzweil väntar på detta genombrott med tidtabellen i handen. Med nuvarande utvecklingstakt kommer en dator att kunna simulera samtliga nervimpulser i en mänsklig hjärna omkring år 2020, skriver han. 2030 kommer en ensam dators beräkningskapacitet att motsvara samtliga levande människors hjärnor. Och 2045 inträffar något som Kurzweil kallar ”the Singularity” – en big bang av artificiell intelligens, som kommer att överträffa allt vi någonsin kan föreställa oss.

Hur vet man om en dator uppnått artificiell intelligens? Man gör ett turingtest. Den brittiske matematikern Alan Turing avskaffade hela problematiken kring vad det innebär att en maskin har eller inte har ett medvetande genom ett antimetafysiskt alexanderhugg. Låt en människa ställa vilka frågor hon vill till två dolda samtalspartners: en människa och en maskin. Kan hon inte avgöra vem som är vad bör man inte längre påstå att det finns någon väsentlig skillnad mellan dem. Maskinen måste anses ha ett medvetande av samma slag som människan – och människan ett medvetande av samma slag som maskinen, för vad turingtestet gör handlar snarare om att devalvera människan än om att ge oss nya insikter om medvetandets natur.

Jag tror att vi inte ska lägga för stor vikt vid frågan om det verkligen är möjligt att utveckla artificiellt intelligenta datorer: det kommer att ha samma effekt om de bara härmar intelligens någorlunda bra. En dator som kan ge en hyfsad illusion av att den talar med oss kommer att tvinga oss att förhålla oss till den som om den levde, inte på grund av vad den är, utan på grund av vår natur. Vi är inställda på att bekräfta och söka bekräftelse från levande, kännande varelser av vårt eget slag, och allt som uppför sig som om det kommunicerade med oss kommer vi att behandla som om det var vid medvetande. Vi kommer inte att kunna undvika att försöka leva oss in i vad maskinen tänker, lika lite som en nykläckt ankunge kan undvika att präglas på det första den ser, även om det är en tennisboll. Och om maskinen tänker ”bättre” än vi, kommer vi att vara alltför beredda att anpassa oss till den. Den sortens anpassning är vi bra på.

Att säga nej till det som råkar erbjudas för tillfället är inte att säga nej till Utvecklingen. Viktigast av allt är att avprogrammera oss från föreställningen att utvecklingen är en väg där de enda riktningarna är ”bakåt” och ”framåt”. Istället för att tänka oss utvecklingen som en linje bör vi tänka oss den som en kompassros: från den punkt där vi står just nu strålar ett oändligt antal möjliga framtider ut i alla riktningar. Var och en av dem är ”framåt”. Framåt är inte en riktning, framåt är 360 grader. Vilken riktning vi väljer är inte likgiltigt: vissa framtider är sämre än andra. Påståenden om att utvecklingen inte kan hejdas, eller att vi snart blir tvungna att anpassa oss till artificiella intelligenser vare sig vi vill eller inte, syftar bara till att hindra oss från att välja, till att göra oss passiva inför den framtid vi själva är ansvariga för. De syftar till att göra oss blinda för 359 av de 360 möjliga framtider som omger oss.

Är artificiell intelligens den mest intressanta framtid vi kan föreställa oss? Så länge vi inte ställer frågan kommer vi inte att formulera några seriösa alternativ. Föreställningen att nästa stora steg i människans historia är AI kunde behöva lite konkurrens. Förtvivlat stora ansträngningar läggs ner på att skapa en teknologi som – om den blir verklighet – kommer att göra människan meningslös. Genom att härma oss kommer en sådan maskin att förvandla vårt medvetande och vårt känsloliv till en sämre kopia av samma sorts livlösa teknik som den själv är. Är det verkligen det bästa vi kan önska oss när vi blivit mäktiga nog att forma vår framtid som vi vill? Jag undrar vad som motiverar dem som lägger ner detta arbete. Vilket slags revanschlust driver dem som vill nå dit? Vad är det för desperat triumf de vill uppnå?

För några år sedan skrev jag ett blogginlägg om det här och fick svar av någon som beskrev sig själv som en av alla dem som ”längtar efter mänsklighetens efterträdare”. Transhumanismen välkomnar alla försök att förbättra eller ersätta människan genom bioteknik och informationsteknologi. Någon gång skulle jag vilja leka tjugo frågor med en transhumanist, för att skala av lager efter lager och nå ner till det innersta skälet för hans längtan efter människans efterträdare. Eller kanske kan man programmera en chattrobot att göra det:

– Snart kan jag ladda upp mitt medvetande i en dator.

– Varför vill du göra det?

– Då kommer jag att leva i evighet.

– Varför vill du leva i evighet?

– För att … eh …

Jag förväntar mig inte att transhumanisten ska bryta samman och börja snyfta om sin personliga Rosebud vid fråga arton, att han eller hon ska berätta om något förlorat som AI-förhoppningarna blivit en otillräcklig ersättning för, men jag tror inte att jag gör mig skyldig till överdrivet psykologiserande om jag påstår att det bakom transhumanismen finns känslor och önskningar som inte är särskilt rationella.

Den extrema spetsteknologi som transhumanisten Ray Kurzweil skisserar i sina böcker är sinnesutvidgande läsning, han tänker verkligen längre än de flesta, men bakom den avancerade teknologin lyser något annat igenom: hans förvånansvärt naiva föreställningar om begrepp som ”bättre”, ”intelligens” eller ”framsteg”. Kurzweils föreställning om intelligens påminner om när en pojke fantiserar om en bil med en miljard hästkrafter (se min recension av hans bok The Singularity is near i Ord & Bild 2/2008).

Diskrepansen mellan dessa naiva föreställningar och den mäktiga teknik vi håller på att utveckla gör att vi inte kan överlåta åt de cybernetiska totalisterna att avgöra vilken av alla tänkbara framtider vi ska förverkliga. Många fler behöver blanda sig i diskussionen – inte minst författare, humanister och självständiga tänkare som Lanier.

(Publicerad i GP 16 augusti 2010)

Länk: Laniers webbsida om You are not a gadget