Internationale megaselskaber og milliardærer beskriver ofte deres teknologiske produkter med referencer til popkulturen, hvor science fiction slipper fantasien løs. Men de nævner sjældent de politiske og socialkulturelle advarsler, der underligger de dystopiske værker, der inspirerer dem.
Af Gustav Stubbe Arndal
Boston Dynamics er nok det mest kendte selskab i robotsektoren. Deres manøvredygtige to- og firbenede robotter har imponeret videnskabsfolk og investorer, og vækket fantasien i den bredere befolkning. Videodemonstrationer af deres prototyper er tit gået viralt på internettet, hvor et bestemt tema har fænget tilskuerne: skal vi ikke være lidt sødere mod robotterne?
I nogle videoer bliver robotterne skubbet til eller forstyrret på andre måder for at teste og fremvise deres selvbalancerende systemer. Hvis man glemmer, at metalkonstruktionerne ikke har følelser, kan det nemt ligne mobning eller mishandling. Er det ikke synd for dem? Hvad hvis de bliver sure?
Det er naturligvis i spøg, men de sympatiske og delvist skræmte reaktioner siger noget om vores forhold til moderne teknologi. Når vi ser en menneskeformet robot blive skubbet, er det science fiction-film, der informerer vores reaktion. ”Har de videnskabsfolk ikke set Terminator? Robotterne får deres hævn en dag.”
I april 2024 gik en anden video af et andet firmas robot viralt: ”Thermonator,” en firbenet maskine med fjernstyret flammekaster på ryggen. Selvom produktet er forbeholdt til civile formål, er det svært at se den lille metalkrop indhyllet i et flammende skær uden at forestille sig, hvad ellers sådan et produkt kan bruges til.
Boston Dynamics har godt nok lovet ikke at bevæbne deres opfindelser. Men militæret og politiet kan gøre brug af sådanne robotter til bl.a. overvågning, og andre selskaber har ikke samme afgrænsninger. Prototyper af selvbalancerende robotter med computerstyrede geværer bliver lige nu produceret og demonstreret, og både Rusland og Kina eksperimenterer med lignende udstyr.
Det viser sig, at truslen om et oprør af mishandlede maskiner på hævntogt ikke var særlig virkelig. Den egentlige trussel var mere normal – en militariseret teknologisektor, overvågningsstater, drone-krigsførelse og international konflikt. Vi lever nemlig ikke i et actionspækket sci-fi univers, men et sted tættere på cyberpunk.
Det er en lektion, der bliver relevant gang på gang. Især i dag, hvor store løfter og advarsler om kunstig intelligens – AI – skærmer for mange uheldige sandheder.
Cyberpunk 2024
Såkaldte techno-optimister har en meget simpel tilgang til teknologisk udvikling. Forskning i ny teknologi er en god ting, menneskeheden er på en fremgangsrejse, og destinationen er en form for utopi, der findes på den anden side af bestemte epokegørende opfindelser. Ofte fusionsenergi (endeløs gratis elektricitet!), rumfart (vi kan sprede os over galaksen!), og naturligvis kunstig intelligens (alle vores problemer bliver løst af den ultimative computer!).
Den virkelige verden er ikke nær så simpel. Teknologi er ikke et neutralt fænomen, men er betinget af den økonomi og det samfund, det opstår i. Og fordelene ved nye innovationer er ikke ligeligt fordelt.
Det er den fundamentale pointe i cyberpunk-genren. Her spekuleres om en højteknologisk fremtid, hvor samfundsproblemer ikke løses, men forværres. Hologramskærme og nær-menneskelige androider findes i osede megabyer, hvor underklassen bor i skyggen af kilometer-høje skyskrabere med internationale superselskabers logoer på siden.
Det er science fiction, når bioteknologiske ben kan give en handikappet mand evnen til at gå igen. Det er cyberpunk, når benene bliver slukket, fordi han ikke betalte sit månedlige abonnement til producenten.
Science fiction kan overdrive teknologisk potentiale, så vi hægter os på æstetiske elementer, overvurderer virkelige teknologiers pålidelighed, og kigger efter problemer i de forkerte retninger. Cyberpunk er ikke immun over for den tendens, men minder os oftere om, at samfundets problemer kan underminere og forvrænge fremgang.
Ligesom hovedpersonerne i sådanne værker ser vi enorme teknologiske gennembrud omkring os, der sjældent synes at forbedre vores liv nær så meget, som de forbedrer tech-selskabernes aktiepris. Alt imens klimaet kollapser, økonomiske uligheder forværres, og overvågning bliver mere og mere konstant.
I juni 2023 kunne New Yorkere kigge ud ad vinduet, og selvom der hverken var flyvende biler eller holografiske reklamer, lignede byen stadig noget fra Blade Runner 2049 (2017). Røgen fra en canadisk skovbrand blandede sig med tågen og indhyllede byen i et orange skær. Det er ofte de pessimistiske billeder og forudsigelser i dystopisk fiktion, der ender med at være tættest på virkeligheden.
Big Tech is Watching
Hvis der er en type teknologi, der er mest knyttet til dystopi (helt tilbage fra George Orwell skrev den genredefinerende 1984), så er det overvågning. Det eneste formål med den slags teknologi er at placere overvågeren i en magtposition, og afstanden mellem fornuftige sikkerhedsforanstaltninger og totalitarisme er kortere, end den ser ud. Emnet er desværre mere væsentligt i dag, end nogensinde.
Efter terroristangrebet på World Trade Center i 2001 fik amerikanske agenturer frit lejde til at spionere på sin egen befolkning. Telefonsamtaler, internethistorik, endda ens præcise lokation på et givent tidspunkt skulle kunne findes i sikkerhedens navn, og politidramaer såvel som action og science fiction var med til at normalisere det – eller endda få det til at se sejt og nødvendigt ud.
På en måde har cyberpunk invaderet andre genrer, navnlig thrillere og spionfilm. Når agenter i en mystisk efterretningstjeneste klikker på et par taster og identificerer Jason Bourne fra et overvågningskamera ved brug af ansigtsgenkendende software, accepterer vi det som en moderne opdatering af genren – ikke som dystopi.
Den moderne overvågningsstat er bygget på en forvrænget logik, hvor potentielle fremtidige handlinger retfærdiggjorde indsnævringen af rettigheder i dag. Denne tankegang blev bragt til absurde længder i Steven Spielbergs Minority Report (2002), baseret på en Phillip K. Dick roman, hvor en maskine kan forudse forbrydelser, inden de sker.
Filmens pointe er nem at forstå – Tom Cruise beviser, at systemet er uperfekt, hvilket ødelægger præmissen bag det såkaldte ”pre-crime unit”, der arresterer folk på baggrund af, hvad der viser sig at være sandsynlighedsregning.
Har politikontorer verden over set den film for nylig? Såkaldt ”predictive policing” var sidste skrig i 2010’erne. Konceptet er at anvende datasæt om kriminalitet for at forudse, hvor fremtidig kriminalitet mest sandsynligt opstår – både områder, der kan patruljeres, og borgere, der skal overvåges.
De etiske og logistiske problemer er åbenlyse, når man tænker over det. Både borgeres privatliv og deres ret til at omgås de mennesker, de ønsker, står for skud. En politistyrke, der arresterer etniske minoriteter i højere grad, skaber også et datasæt, der markerer etnicitet som mistænkelig. Men et spørgsmål, der også bør bekymre os, er hvor pålidelig sådanne datasystemer er.
Minority Reports største science-fiction koncept er oraklerne, hvis hjerner er modificerede til at give dem forudsigende evner, der kan forstærkes og læses af et computersystem. Konkrete billeder af konkrete trusler blev produceret, og de kunne påvises at være nogenlunde akkurat i mange tilfælde. Algoritmer baseret på menneskeskabt data kan simpelthen ikke hamle op med den pålidelighed.
Det er igen fantasien om teknologien, der står forrest, og ikke de politiske og sociale konsekvenser. Måske politichefer og teknologisælgere faktisk havde set Minority Report. I så fald var det, de lyttede til, ikke filmens meddelelse. De var mere interesserede i løftet om sikkerhed – om en storby, hvor ingen mord har fundet sted i over seks år.
Sikkerhed sælger, især til skræmte samfund. Selv dansk politi købte sig til POL-INTEL, som i dag kan dirigere patruljeruter og giver betjente adgang til et kraftfuldt søgesystem med al deres indsamlede data. Mon ikke film som The Bourne Identity eller Minority Report fik teknologien til at se mere effektiv ud, end den er i virkeligheden?
Med Skynet som Maske
Ingen teknologi har så enorm en afstand mellem, hvad det ligner i fantasien, og dens faktiske funktioner i det virkelige liv, som kunstig intelligens. Udtrykket (forkortet ”AI”) er blevet brugt om mange teknologier, fra computerstyrede videospilskarakterer til deep-learning algoritmer, der anbefaler videoer på YouTube. Beslutningen om at kalde f.eks. tekstgenererende software som ChatGPT ”AI” er derfor et markedsføringstrick, som er let at overse.
Udtrykket skal bringe tankerne hen på værker som Her (2013) eller Alien-serien, hvor programmer eller androider udvikles med menneskelige, eller endda overmenneskelige evner i problemløsning og kommunikation. Det er sandt nok imponerende, at en algoritme kan gøres avanceret nok til at efterligne sprogbrug eller spytte billeder ud, der nogenlunde passer med en sproglig prompte, men som en vis Jedi engang sagde: ”the ability to speak does not make you intelligent.”
Helt tilbage i de spæde 1960’ere udkom ELIZA, et simpelt kommunikationsprogram, der spyttede brugerens tekst tilbage til dem i form af uddybende spørgsmål og lignende gentagelser. Nogle brugere begyndte at bruge programmet som interaktiv dagbog, og endda mærkede nogle, at ELIZA havde følelser og intelligens. Siden den allerførste chatbot har mennesker troet, de har fundet sig selv i computeren – så længe illusionen er det mindste overbevisende.
Illusionen i moderne Large Language Models (LLMs) er mere overbevisende end før, og følelsen af, at science fiction bliver til virkelighed kan være ganske forførende. Det kan også være skræmmende – fortællinger om superintelligente computere, der vender sig mod menneskeheden, er ikke gået ud af mode siden Rumrejsen år 2001 (1968).
Men AI-industrien har ikke travlt med at dulme samfundets nerver. I sommeren 2023 udkom en erklæring fra Center for AI Safety, der påbød, at risikoen omkring AI-research skulle behandles med en alvor på linje med atomvåben og pandemier. Blandt de mange underskrifter kunne man finde Bill Gates (grundlægger af Microsoft) og Sam Altman (chef for OpenAI, som bl.a. udvikler ChatGPT). Altman har gentaget retorikken i flere omgange, og endda sammenlignet sig selv med Oppenheimer.
Disse apokalyptiske varsler synes mere inspireret af Skynet fra Terminator-filmene, end af teknologiens virkelige begrænsninger. Men hvis Altman, Gates og resten har set Terminator 2: Judgement Day (1991), hvorfor så identificere sig med det selskab, heltene skal jævne med jorden for at sikre fremtiden?
Svaret er simpelt: frygt er ikke langt fra ærefrygt. OpenAI’s teknologi skal føles storslået. Det må gerne ligne en dyster fremtid for os almene borgere, hvis det også ligner en god investering for deres egentlige kunder. De advarer om dystopi, mens de sælger billetter til toppen af fremtidens hierarki.
Men vi lever (heldigvis og desværre) ikke i en sci-fi-verden. Der er etiske, politiske og økonomiske problemer med AI, der er uendeligt mere virkelige og kræver løsninger i dag. LLMs kræver enorme mængder energi at træne og operere, og indsamlingen af træningsdata kræver en forkastning af kunstnere og forfatteres copyright. Institutioner fra universiteter til Wikipedia prøver desperat at holde trit med den mængde plagiat og misinformation, modellerne har muliggjort.
Mediebranchen bliver også hårdt ramt. 2023 så en af Hollywoods største strejker, og et af punkterne på dagsordenen var beskyttelse mod AI, som de store selskaber håber, vil kunne trænes på filmarkiver og erstatte så mange kunstnere som muligt. Vi ved endnu ikke, hvor godt de endelige kontrakter er til at forhindre kortsigtede ”eksperimenter” med den stærkt begrænsede teknologi.
Men bare rolig, fortæller techgiganterne, AI er blot lige begyndt. Vi skal bare over vendingspunktet – sand kunstig intelligens er lige rundt om hjørnet. Så investér. Millioner. Hundred millioner. Hundred milliarder. Lige om lidt kommer AI til at erstatte utallige jobs. Glæder du dig ikke?
Den Fanatiske Mr. X
Det er ikke nogen stor overraskelse, at Elon Musk er forgabt i fantasien om AI. CEO for Tesla, SpaceX, og den hjemmeside, vi stadig kalder Twitter, har defineret sit image gennem popkultur og science-fiction. I en forgangen tid blev han ofte sammenlignet med Tony Stark, og han dukkede op i små cameos både i Iron Man 2 og den animerede sci-fi-parodi Rick and Morty. I dag er han mest kendt for at sprede transfobi og nazistiske memes på det sociale medie, han nu ejer.
Var han nogensinde det geni, han udgav sig for at være? Eller gemte han sig snildt bag film og tv, der fik hans ”visionære” idéer til at virke plausible?
Elon har erklæret det sit livs mission at få mennesker på Mars. Men SpaceX, verdens første private rumfartsselskab, har mere at gøre med USA’s globale militæraktioner, end med kolonialiseringen af en gold planet langt fra den, der lige nu er i fare for at overophede – blandt andet grundet energi- og ressourcespild.
Hvad med Tesla? Man kan ikke komme forbi, at selskabet gjorde elbiler moderne og attraktive. Men Elon har brugt meget af sin tid som CEO på at fortælle, at ”autonome, selvkørende biler” er lige rundt om hjørnet – han har lovet, det var et år væk, i snart ti år i træk.
Et af selskabets nyeste udspil eksemplificerer Elons værste tendenser: Cybertruck. Et virvar af dårligt og endda farligt design, der prioriterer et ”futuristisk” udseende langt over praktiske overvejelser. Produktet er blevet trukket tilbage grundet alvorlige fabriksfejl flere gange.
Hvorfor skal det også ligne et fartøj fra et PlayStation 2-spil? Elon beskriver det således på Twitter: ”It’s an armored carrier from the future – what Bladerunner would have driven.”
Med den udtalelse viser Elon, at han aldrig i sit liv har set Blade Runner – der er ingen karakter i filmen med det navn. Han fikserer også på det æstetiske og ignorerer det tematiske. Hvis folk så disse film og tog deres idéer alvorligt, ville de hurtigt vende sig mod Elon og undre sig over, hvor meget han minder om filmens skurkagtige, kortsigtede firmachef.
Men Elon er ikke nogen afskyet outsider i sin industri; han passer lige ind. Han lover store teknologiske fremskridt rundt om hjørnet, der vil ændre alt, og håber, folk bliver ærefrygtige nok til at investere. Lige om lidt bliver alle chauffører arbejdsløse. Vil du ikke hellere eje de neon-funklende skyskrabere, end bo i skyggen af dem?
Fremtiden lever i fantasien
Tilhængere af den techno-optimistiske bølge kommer hurtigt til Elons og andres forsvar. Teknologiske fremskridt er jo ikke blot uundgåelige, men værd at se frem til! Godt nok er der meget overdreven retorik og en smule spild, men tænk blot på potentialet: en fuldendt kunstig intelligens, der kan løse vores problemer for os. Kolonier på Mars. Selvkørende biler, der fikser trafikken for altid.
Men intet er uundgåeligt i hverken politik, historie, eller teknologi. Fantasien bliver nok vækket af seje fremtidsvisioner, men den er ikke det eneste, der sætter grænser. Økonomisk investering gør meget af arbejdet.
I de bedste tilfælde kan science fiction inspirere os og give os håb for en bedre fremtid, og det er en værdifuld ting, vi ikke skal give slip på. Men det er meget få forfattere, der skriver science-fiction med blot det formål. Sci-fi er spekulativ fiktion, der spår om fremtiden for at kommentere på nutiden. Det er op til os at forstå og navigere den nutid.
Når jeg kigger mig om, ser jeg mere cyberpunk, end jeg er komfortabel med. Både i teknologi og samfund. Måske man skulle tage et kig på mere utopiske værker? Star Trek har forudset teknologi fra automatiske døre til mobiltelefoner til stemmestyret AI. Kan vi måske prøve at skabe et mangelfrit, egalitært samfund som vi ser i den franchise? Det bliver måske sværere at sælge til investorer, end visioner om Skynets fremtidige herredømme.
Kommentarer