“Hjælp…ven.”
Disse to gådefulde ord, der udtales af robotten i Netflix’ Lost in Space, indkapsler temaet for anden sæson af serien. Sæson 1 drejer sig om at udforske og beskytte det nye venskab, som Will og robotten knytter efter at være strandet på mystisk vis på en fremmed planet. Sæson 2, der udkommer på Netflix lige før starten af 2020, viser de to venner finde hinanden efter at være blevet adskilt i slutningen af den foregående sæson.
Venskab og det at lære andre den sande natur af selve venskab er kernen i serien. En fælles replik, som flere karakterer udtaler, da den nyeste sæson når sit højdepunkt, er: “Det er ikke det, venner gør”. Kollegaer, forældre og børn og ægtepar kæmper med dette spørgsmål i hver eneste af de tyve afsnit, der hidtil er produceret.
Seriens kerne er dog det fascinerende bånd mellem teenageren Will og hans gigantiske fremmede robot, som Paul Tassi for Forbes påpeger:
Den anden sæson dykker ned i robotracen, som hovedsageligt består af morderiske maskiner, snarere end den “søde robot”, der er venner med Will Robinson, og det er en af seriens mest overbevisende historier, da den fortsætter med at vokse og udvikle sig og vedtager menneskelignende følelser og hengivenhed for andre levende væsener.
Min kone beklager sig stadig over, at robotten ikke har fået et navn! Ak – han hedder blot “Robotten”. Ikke desto mindre har han alligevel gjort sig elsket af fans på begge halvkugler.
Wills bånd til den enstavige maskine i fortællingen bringer denne tanke i min bevidsthed: Kan man være venner med en kunstig intelligens?
Hvor vi kan nærme os det fascinerende koncept om AI-venenskab, må vi definere kunstig intelligens. Spørg en gruppe videnskabsfolk om definitionen af kunstig intelligens, og du vil få et væld af svar. En almindelig person vil være endnu mindre præcis, med den normale betydning noget i retning af “en maskine, der tænker” eller “en computer, der opfører sig menneskeligt”, og eksempler, der spænder fra Siri til Optimus Prime.
Disse er ikke til megen hjælp.
Den berømte pioner inden for datalogi Alan Turing foreslog en måde at opdage AI på, der nu er kendt som Turing-testen: Hvis en computer kan besvare spørgsmål overbevisende nok til at narre en person til at tro, at den også er et menneske, så er den intelligent. I dag, med fremkomsten af chatbots og virtuelle assistenter, sætter denne test barren for lavt for den faktiske intelligens.
Turing-testen er stadig et vigtigt element i AI-forskningen, men den er på ingen måde det sidste ord. Typisk skelnes der inden for AI mellem svag og stærk AI, som det forklares i Stanford Encyclopedia of Philosophy:
“Svag” AI søger at bygge informationsbearbejdende maskiner, der ser ud til at have menneskers fulde mentale repertoire. … “Stærk” AI søger på den anden side at skabe kunstige personer: maskiner, der har alle de mentale evner, vi har, herunder fænomenal bevidsthed. Langt de fleste populære fortællinger bekræfter og udforsker det. Den nylige tv-serie Westworld er et stærkt eksempel.
Dr. Timothy Brown hævder ligeledes, at kunstig intelligens på den nu almindelige “svage” måde bør defineres som “virtuel virkelighed”, hvilket betyder, at softwaren tilnærmer sig menneskelig intelligens uden at aktualisere den – ligesom Siri. Ægte “stærk” kunstig intelligens ville være Data fra Star Trek eller den navnkundige WALL-E.
Lad de andre filosofiske implikationer af kunstig intelligens, såsom personlighed og etik, ligge ude af betragtning. I sidste ende kommer definitionen af AI ned til et metafysisk spørgsmål: Er intelligens baseret på adfærd eller ontologi?
Dette er en tilføjelse fra det 21. århundrede til problemet “Sind vs. hjerne”, hvor man overvejer, om bevidsthed kun er kemisk af natur. Et “sind” har et ikke-fysisk aspekt, mens en “hjerne” er rent fysisk. Derfor, hvis bevidsthed blot er et spørgsmål om kompleks neurovidenskab, så er computere med samme sofistikerede niveau uundgåelige, ifølge nogle. Men hvis din filosofi om sindet har en metafysisk komponent, så er stærk AI sandsynligvis ikke mulig.
For eksempel kan en algoritme trænes til at genkende og katalogisere cirkler, men kun en hjerne kan derefter abstrahere begrebet cirkulærhed fra en specifik form. Middelalderens tænker Thomas Aquinas sagde, at intelligens er et intellekts handling, eller for at omskrive, hvad en sjæl gør, når den tænker. Sjælen refererer her metafysisk set til den immaterielle, iboende natur af en person, ikke til en separat, vabelagtig substans, der forlader kroppen ved døden – eller når den suges ud af en dementor.
Denne hylomorfiske (væren = materie + form) forståelse af eksistensen vedrører AI, fordi en robot uden et sjæleagtigt intellekt ikke kan opnå bevidsthed. Forstanden kan ikke udelukkende komme fra materien. Da selvbevidsthed er omdrejningspunktet for stærk AI, forbliver den henvist til science fiction.
Sorry, Data.
Hvad enten de er positive (C-3PO) eller negative (HAL 9000), deler andre film- og tv-eksempler på kunstige intelligente venner stadig den fælles grænse mellem fiktion og virkelighed.
Hvad er venskab?
Nu, hvor vi forstår AI filosofisk, kan vi vende os mod filosofien om venskab. Bare rolig, det bliver ikke så teknisk som AI – lettet?
Begrebet venskab i sig selv virker så elementært, at man nærmest ignorerer det. Men ligesom alle ting i hverdagen er venskab på et dybere plan uadskilleligt fra filosofi, ligesom alle ting i hverdagen. Så hvad er venskab?
Kolloqualt set er venner de mennesker, som man nyder at tilbringe tid sammen med, mens man deler aktiviteter og interesser. Nogle har endda sagt, at venner er “den familie, man vælger”. Dybe tanker om dette emne går tilbage til de gamle grækere. Aristoteles beskrev venskab som værende af tre slags: nydelse, nytteværdi og gensidig påskønnelse. Hans synspunkter er udforsket af Zat Rana:
Selv om han så værdien i tilfældige venskaber baseret på nydelse og nytte, mente han, at deres forgængelighed mindskede deres potentiale. De manglede dybde og et solidt fundament.
I stedet argumenterede Aristoteles for en anden form for bånd:
Ting, der forårsager venskab, er: at gøre venligheder; at gøre dem uopfordret; og ikke at proklamere det faktum, når de er gjort.
Venlighed. Velgørenhed. Uselviskhed. Venskab begynder at lyde meget som kærlighed! Det var også sådan Aristoteles så det; Aristoteles brugte det græske ord phileo til at betegne denne form for “broderlig” kærlighed. For at have et gensidigt opbyggeligt venskab skal begge parter derfor være i stand til at elske.
Mærk, at jeg sagde “begge parter”. Det er nøglen til AI’s venskabsspørgsmål! Stanford, forklar venligst:
Kærlighed og venskab bliver ofte slået sammen som et enkelt emne; ikke desto mindre er der betydelige forskelle mellem dem. Som det forstås her, er kærlighed en vurderende holdning rettet mod bestemte personer som sådan, en holdning, som vi kan indtage over for en person, uanset om denne kærlighed er gengældt eller ej, og uanset om vi har et etableret forhold til hende eller ej. Venskab er derimod i bund og grund en form for forhold, der er baseret på en særlig form for særlig omsorg for den anden som den person, hun er; og mens vi må skabe begrebsmæssigt rum for tanken om ugengældt kærlighed, er ugengældt venskab meningsløst.
Selv et dyr kan i begrænset omfang gengælde et menneskes hengivenhed, selv om det måske ikke er selvbevidst. Start Trek: The Next Generation omgik dette problem ved at lade Data forklare venskab på en videnskabelig og alligevel humaniserende måde:
Som jeg oplever visse sensoriske inputmønstre, bliver mine mentale baner vant til dem. Inputet bliver efterhånden forventet og endda savnet, når det er fraværende.
Datas identitet som et syntetisk væsen med personlighed blev udforsket udførligt i løbet af de syv sæsoner af serien og spin-off-filmene. Det nyligt udgivne Star Trek: Picard-showet uddyber dette tema endnu mere.
Så ville en maskine i den virkelige verden nogensinde sige “Jeg har savnet dig”, medmindre den var programmeret til det, bortset fra Starfleet? Dette fører os til debattens kernepunkt.
Kan AI &mennesker virkelig være venner?
Ifølge Lost in Space er dette spørgsmål allerede blevet besvaret. Det var dog ikke alle karaktererne, der kom til den konklusion uden videre. Karen Han skriver for The Verge og påpeger dette:
Lost in Space’s AI-historie bør føles bekendt for enhver, der er bare en smule interesseret i science fiction…. den måde, karaktererne vælger at behandle kunstige intelligenser på, er ofte en ledende indikator for, hvordan publikum skal opfatte dem, og hvordan deres karakterer vil udvikle sig. Will … omtaler straks robotten som ”ham” i stedet for ”den”, som en person i stedet for et objekt. Alle andre tager lidt tid om at vænne sig til det. Wills mor ser et værktøj; hans far ser en trussel; Dr. Smith ser et våben.
Tager man begge sæsoner i betragtning, er her flere eksempler på, hvordan drengens forbindelse til maskinen vokser i løbet af serien:
- Will redder robottens liv, da den stadig har til hensigt at gøre ham ondt. Denne venlige handling skaber deres bånd.
- Derpå gør robotten hele tiden ting for at redde Will, Judy, Penny og deres forældre.
- Robotten stoler nok på Will til at gå ud fra en klippe, selv om det er imod hans egen interesse at gøre det.
- Når den hest, som han knyttede bånd til, dør, holder robotten fast i hestens tøjle som et minde.
- Som Will begynder robotten endda at bruge ordet “ven.”
- Robotten nedprioriterer sit bånd til Will for at redde en anden af sin slags – og Will vælger at hjælpe ham med at gøre det.
Jeg er så vant til antropomorfiseringen af robottens karakter, at selv jeg kalder den for “ham”, ligesom Judy og Penny lærer at gøre det af Will.
Den antropomorfe karakter af karakteren er en del af en funktion af historien som science fiction. Splitter jeg hårene ved at skelne mellem den virkelige stærke AI og den fiktive stærke AI i Lost in Space? Måske, men fortællende medier påvirker ofte samfundets verdensbilleder og forventninger, især med urealiseret teknologi.
Sindet kan ikke udelukkende komme fra materien.
I en virkelighedssammenhæng minder dette om Amin Ebrahimi Afrouzis, en AI-teknolog og ph.d.-studerende, meditationer:
AI-agenter reflekterer over deres handlinger og forsøger at maksimere deres belønninger. Men i hvilken forstand kan vi sige, at de “reflekterer” over deres “motivation(er)” eller “handlinger”? Vi kan ikke blot tilskrive AI sådanne begreber uden at antropomorfi- serer. Men antropomorfisering gør det kun muligt for os at tale om, hvad AI gør, og ikke hvordan den kommer til at gøre det.
Er denne gensidighed mellem Will og robotten indlært eller medfødt? Robotten synes at vokse i sin opfattelse af venskab, jo mere den tilbringer tid sammen med Robinsons. I sæson 1 er den som en trofast, men enfoldig følgesvend som en hund, mens den i sæson 2 viser handlekraft. Penny og Will diskuterer endda sagen. “He’s changed. Men det er okay, for jeg har også ændret mig.”
Tusindvis af år senere giver Aristoteles’ ord genlyd i rummets vakuum (Ja, jeg ved godt, at intet kan give ekko i et vakuum, men tag mig med på ordet, okay?):
Venner holder et spejl op for hinanden; gennem dette spejl kan de se hinanden på måder, som ellers ikke ville være tilgængelige for dem, og det er denne spejling, der hjælper dem til at forbedre sig selv som personer.
I Lost in Space refererer faktisk ofte til en “telepatisk forbindelse” mellem Will og den fremmede maskine. Will modtager billeder og følelser, men robotten kunne også få menneskelige egenskaber som f.eks. denne forbedrede evne til venskab – forudsat at den ikke var til stede før (sæson 2 gør dette usandsynligt).
Med tilføjelsen af flere planeter og gigantiske dræberrobotter gør sæson 2 det klart, at robotten er en fremmed teknologi. Det er uklart om arten af den fremmede intelligens, der har skabt dem, da Netflix-historien endnu ikke har afsløret oprindelsen af de tilsyneladende sansende intelligente robotter. (Min udtalelse forudsætter, at robotterne er skabt.) Denne type AI ville i sagens natur være anderledes end vores opfattelse af AI, hvilket fører til et væld af nye gåder. Robotteknologiprofessor Murray Shanahan betegner denne overjordiske kilde til intellekt som consciousness exotica:
At udforske rummet af mulige sind er at underholde muligheden for væsener, der er langt mere eksotiske end nogen jordisk art. Kunne rummet af mulige sind omfatte væsener, der er så uigennemskuelige, at vi ikke kunne sige, om de overhovedet havde bevidste erfaringer? At benægte denne mulighed lugter af biocentrisme. …Enten har et væsen bevidste erfaringer, eller også har det ikke, uanset om vi kan se det.
“Om vi kan se det.” Dette er endnu en potentiel indfaldsvej til nødvendigheden af gensidighed i et sandt venskab. C.S. Lewis gentager denne sandhed om phileo- venskab i sit mesterlige værk De fire kærligheder:
Hvert skridt på den fælles rejse sætter hans mod på prøve; og prøverne er prøver, som vi fuldt ud forstår, fordi vi selv gennemgår dem. Derfor blomstrer vores tillid, vores respekt og vores beundring i takt med, at han gang på gang ringer sandt, til en værdsættende kærlighed af en særlig robust og velinformeret art. Hvis vi i begyndelsen havde taget mere hensyn til ham og mindre til det, som vores venskab “handler om”, ville vi ikke have lært ham så godt at kende … ham. Man finder ikke krigeren, digteren, filosoffen eller den kristne ved at stirre ham i øjnene … hellere kæmpe ved siden af ham, læse med ham, diskutere med ham, bede med ham.
Forsøg at gøre nogen af disse ting med en AI. Det fungerer ikke så godt. En AI kan søge på Google eller tænde lyset, men kan den argumentere eller bede med dig?
Selv om man benægter den hylomorfe sammensætning af krop og sjæl, vil en AI aldrig være “stærk” nok til at dyrke venskab, fordi AI ikke kan udvikle behov eller mål, som professor i kognitionsvidenskab Margaret Boden påpeger:
Vil vi være i stand til at dele vores AI-“kolleger” i vittigheder over en kop kaffe, i spøg og skæmt mellem rivaliserende fodboldfans, i diskussioner om nyhedsoverskrifter, i de små triumfer, når vi står op imod en sarkastisk eller mobbende chef? Nej – for computere har ikke deres egne mål. …Det giver ingen mening at forestille sig, at fremtidig kunstig intelligens skulle have behov. De har ikke brug for socialitet eller respekt for at kunne fungere godt. Et program fungerer enten, eller også gør det ikke. …Brugerne og designerne af AI-systemer – og af et fremtidigt samfund, hvor AI er udbredt – bør huske den grundlæggende forskel mellem menneskelig og kunstig intelligens: den ene bekymrer sig, den anden gør det ikke.
Kan man være venner med en AI?
Måske, men den vil ikke være venner med dig.
AI reagerer på ydre stimuli i overensstemmelse med sin programmering – den har ingen intellektuel “sjæl”. Venskab er relationelt, og algoritmer kan kun beregne, ikke forstå. Maskinen vil ikke bekymre sig om dig, som du gør for den, og vil i bedste fald være et ugengældt venskab – hvilket er et oxymoron.
Medmindre du møder denne robot. Så kan I helt sikkert blive bedste venner.
