De forbudte maskiner: Frygten for kunstig intelligens

[vc_row][vc_column][vc_column_text]

Af Troels Jensen

[/vc_column_text][vc_column_text]Til oktober udkommer den længe ventede opfølger til kultklassikeren Blade Runner (1982). Den har fået titlen Blade Runner 2049 (2017) og er instrueret af Denis Villeneuve. Hvad filmen kommer til at handle om er endnu uvist, men med al sandsynlighed kommer kunstig intelligens til at spille en central rolle i plottet.
Film om kunstig intelligens forholder sig oftest kritisk over for den nye teknologi, som det også ses i Blade Runner. De rummer en angst for vores nærmest forbudte skaberpotentiale. Den angst kan spores tilbage til en anden, langt ældre historie, som kan belyse, hvorfor AI i dag portrætteres, som det gør.

 

 

MANDEN AF LER
Golem-myten. De fleste kender nok navnet Golem og kan fremkalde et indre billede af en brun, maskinagtige kolos. Måske kender man Golem fra Pokemon eller fra diverse computerspil. Men navnet har rødder helt tilbage til middelalderen, til de jødiske kabbalisters mytologi.

 

Visse tilhængere af kabbalismen, en mystisk filosofi baseret på de tidlige jødiske skrifter, berettede om muligheden for at skabe kunstigt liv. Hvis en mand var lærd nok i de jødiske skifter, kunne han ånde kunstigt liv i dødt materiale. Han kunne forme en mand i ler, og ved at skrive et helligt ord på dens pande, få den til rejse sig og adlyde ethvert ønske. Med overnaturlig styrke kunne den bygge huse, høste marker eller male korn. I den mest berømte fortælling om Golem skabtes den for at beskytte den jødiske ghetto i Prag mod jødeforfølgelse.

 

Golem skabtes altid som en løsning på sin samtids problematikker, manglende arbejdskraft, dovenskab, forfølgelse. Men historierne om Golem har næsten altid en hage. Man skulle slukke for den hver lørdag, hvor jøderne holdt sabbat. Hvis man glemte det, ville Golem løbe løbsk og sprede død og ødelæggelse.
Én version har en lidt anderledes morale; den fortæller, at Golem blev så nyttig, at folkene i dens landsby blev dovne og syndige, fordi de ikke længere behøvede at arbejde.

 

Indlagt i alle fortællingerne er den klassiske hybrismorale. Skaberen straffes for sit overmod.

 

Der er skrevet mange bøger og også lavet et par film om Golem. Den tidligste og nok mest berømte film er Paul Wegeners stumfilm Der Golem (1915), som i dag kun findes i brudstykker.

 

DE BEVIDSTE MASKINER

Den sagnomspundne brune kæmpe havde sin storhedstid for et par flere århundreder tilbagesiden, men tematikken, den repræsenterede, lever stadig videre i en anden indpakning.

 

Den vestlige verden har længe været fascineret af kunstig intelligens. Vi elsker at se film om de bevidste maskiner, og Hollywood elsker at lave dem. Særligt i de seneste årtier er vores AI-fascination blusset op, i takt med at kunstig intelligens kommer tættere og tættere på at blive en videnskabelig realitet. Allerede nu findes der selvkørende biler, mange af os har Siri i lommen, og med kvantecomputere lige om hjørnet er vi måske på tærsklen til at skabe den første vaskeægte kunstige bevidsthed á la HAL 9000.

 

Mange lovpriser ideen om AI, mens andre prominente figurer som eksempelvis Stephen Hawking har pointeret de iboende farer forbundet med projektet. Vores teknologiske kunnen er i eksplosiv fremgang, og mange frygter, at vi med tiden ikke ville kunne tøjle bevidste maskiner med kognitive kapaciteter, som langt overstiger den menneskelige hjernes.

 

Frygten for AI’s destruktive potentiale er også omdrejningspunktet i mange science fiction-film, hvor opfindelsen af kunstig intelligens udmønter sig i apokalyptiske scenarier. Det gælder blandt andet for Terminator (1984), hvor Skynet bliver selvbevidst og næsten udrydder menneskeheden i en altødelæggende atomkrig. Noget lignende sker i The Matrix (1999), hvor maskinerne trælbinder menneskeracen for at høste den for energi.

 

En af de mest ikoniske film som behandler AI-temaet er Blade Runner.

 

 

RIDLEY SCOTTS NEO-NOIR-SCI-FI MESTERVÆRK

Filmen udspiller sig i det herrens år 2019, hvor Los Angeles er blevet omdannet til et dystopisk, superindustrialiseret samfund pakket med neonlys, reklamerende zeppelinere og de obligatoriske flyvende biler. I den nye verden har gigantselskabet Tyrell Corporation udviklet robotter, som ligner og opfører sig som mennesker, og som sågar har følelser. Disse maskiner kaldes replicants. De har voldelige tendenser, og benyttes derfor udelukkende til fysisk arbejde på rumkolonier. Hvis de skulle vende tilbage til jorden, har den udbrændte Rick Deckard (Harrison Ford) og hans kollegaer i Blade Runner-erhvervet fået til opgave at mane dem i jorden.

 

Det er netop hvad der sker. Den hyperintelligente og meget vrede replicant Roy Batty vender, sammen med en lille gruppe replicants, hjem til jorden med kaos til følge.

 

BATTY SOM GOLEM ANNO 2019?

Den narrative formel, som bærer begge fortællinger, er bemærkelsesværdigt ens. Kunstigt liv skabes af dødt materiale, det kunstige liv udfører sin pligt indtil en komplikation opstår, hvorefter det kunstige liv bliver til fare for både deres skaber og deres samfund.

 

Man kan tilmed gisne om det mon også er skabelsen af AI, som fører til det dystopiske samfund i Blade Runner, på samme måde som Golem korrumperer sin landsby med dovenskab. Med opfindelsen af replicants, er der ikke længere behov for fysisk arbejde; og det kunne meget vel være det, som afstedkommer det mekaniserede, hyperkapitalistiske samfund, som filmen udspiller sig i.

 

 

Præcis som i Golem-myten skabes replicants som reaktion på en samfundsproblematik. I Blade Runner skabes de, som i mange versioner af Golem-myten, som en reaktion på menneskenes uvilje til at udføre fysisk arbejde. Det er også den samme funktion, den primitive kunstige intelligens, vi i dag benytter, har, og som fremtidig AI nok også vil varetage.

 

Den helt grundlæggende bekymring, som ligger til grund for historierne, bunder i uvisheden forbundet med vores menneskelige kunnen. En angst for vores skaberpotentiale. I Golem-myten, såvel som i langt størstedelen af film om AI, får skaberværket katastrofale følger.

 

ETISKE LEKTIONER

Tematikken kan dog ikke oversættes direkte; der er en grundlæggende forskel i fortællingernes morale.
Rabbinerens forbrydelse består i at handle i uoverensstemmelse med bibelske idealer. Ved at skabe Golem begår han hybris ved at imitere guds evne til at skabe liv; noget Toraen ikke ser stort på.

 

I nyere tid er vi imidlertid også blevet interesserede i andre aspekter af kunstigt liv. Navnlig de etiske problematikker.

 

I Blade Runner inviteres publikum aldrig rigtig til at vælge side mellem maskinerne og menneskene. Roy Batty og de andre replicants karakteriseres enormt menneskeligt, og de har tilmed fået menneskelige navne. Filmen er også spækket med nære indstillinger af androiderne og deres gribende, meget menneskelige mimik. Deres replikker er poetiske og reflekterende, hvilket smukt eksemplificeres af den legendariske monolog fra Batty i filmens slutning:

“I’ve seen things you people wouldn’t believe. Attack ships on fire off the shoulder of Orion. I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain. Time to die.”

 

En replik som på en gang demonstrerer en meget menneskelig kapacitet til at føle og en høj grad af selvbevidsthed – hans minder og erfaringer udgør et unikt individ, som verden bliver fattigere af at miste.

 

Filmen stiller spørgsmålet: Hvis vi skaber maskiner, som på alle væsentlige niveauer minder om mennesker og deler de samme kvaler og glæder, er de så ikke berettigede til den samme etiske status? Spørgsmålet bliver konstant understreget både stilistisk og narrativt, og det giver filmen et tankevækkende, filosofisk aspekt, som man i sig selv kan skrive adskillige artikler om. Denne problematik er Blade Runner ikke ene om at belyse, senest har Westworld også slået hårdt på den tangent.

 

Man kan sige, at begge fortællinger moraliserer ud fra deres tids herskende etiske overbevisninger, bibelsk dengang, humanistisk i dag.

 

ANGSTEN FOR OS SELV

Golem-myten og dens ligheder med moderne behandling af AI-temaet tyder på, at mennesket længe før atombomben, kvantecomputeren og global opvarmning har frygtet vores egen skaberkraft.

 

Vores fascination af AI er mere end et udtryk for betagelse af frontier-science. Den bunder i noget dybere. En arketypisk angst for menneskets forbudte og destruktive skaberpotentiale; en angst som så tidligt som middelalderen har vist sit ansigt i form af Golem, og som har været et tilbagevendende tema i filmhistorien, fra Der Golem i 1915 til Blade Runner og Westworld.

 

Den angst har manifesteret sig som en bestemt narrativ formel, som med forskellige fællesnævnere og med forskellige tillægsmoraler indeholder den samme advarsel. Pas på med at lege gud.

 

Blade Runner 2049 kommer højst sandsynligt til at skrive sig ind i en efterhånden velpolstret undergenre af sci-fi: AI-film, og det bliver spændende at se hvilken vinkel Villeneuve tager på temaet. Vil han følge den samme formel som Golem-myten og den forrige film, eller måske anlægge en ny, mindre pessimistisk tilgang til det stadigt kontroversielle tema?[/vc_column_text][/vc_column][/vc_row]

Kommentarer