“Help…vriend.”
Deze twee raadselachtige woorden gesproken door de Robot van Netflix’s Lost in Space vatten het thema van het tweede seizoen samen. Seizoen 1 draait om het verkennen en beschermen van de nieuwe vriendschap die Will en de Robot smeden nadat ze op mysterieuze wijze zijn gestrand op een buitenaardse planeet. Uitgebracht op Netflix vlak voor het begin van 2020, laat seizoen 2 zien hoe de twee vrienden elkaar vinden nadat ze aan het einde van het vorige seizoen van elkaar zijn gescheiden.
Vriendschap, en het onderwijzen van anderen over de ware aard van vriendschap zelf, is de kern van de serie. Een veelgehoorde zin van verschillende personages als het nieuwste seizoen zijn climax bereikt, is: “Dat is niet wat vrienden doen.” Collega’s, ouders en kinderen, en getrouwde stellen worstelen met deze kwestie in elk van de twintig afleveringen tot nu toe geproduceerd.
De kern van de show is echter de fascinerende band tussen de tiener Will en zijn gigantische buitenaardse robot, zoals Paul Tassi voor Forbes opmerkt:
Het tweede seizoen duikt in het robotras dat voornamelijk bestaat uit moorddadige machines, in plaats van de “aardige robot” die bevriend is met Will Robinson, en is een van de meest meeslepende verhaallijnen van de serie als het blijft groeien en evolueren naar het aannemen van mensachtige emotie en genegenheid voor andere levende wezens.
Mijn vrouw vindt het nog steeds jammer dat de robot geen naam heeft gekregen! Helaas – hij wordt gewoon De Robot genoemd. Desondanks is hij geliefd bij fans op beide halfronden.
Will’s band met de eenlettergrepige machine in het verhaal brengt deze gedachte bij me op: Kun je bevriend zijn met een kunstmatige intelligentie?
Voordat we het intrigerende concept van AI-vriendschap kunnen benaderen, moeten we kunstmatige intelligentie definiëren. Vraag een groep wetenschappers naar de definitie van kunstmatige intelligentie, en je krijgt een overvloed aan antwoorden. Een doorsnee persoon zal nog minder precies zijn, met de normale betekenis zoiets als “een machine die denkt” of “een computer die zich menselijk gedraagt,” en voorbeelden variërend van Siri tot Optimus Prime.
Die helpen niet veel.
De beroemde computerwetenschapspionier Alan Turing stelde een manier voor om AI te ontdekken, nu bekend als de Turingtest: als een computer vragen overtuigend genoeg kan beantwoorden om een persoon te laten denken dat het ook een mens is, dan is hij intelligent. Tegenwoordig, met de opkomst van chatbots en virtuele assistenten, legt deze test de lat te laag voor daadwerkelijke intelligentie.
De Turingtest is nog steeds een belangrijk element in het AI-onderzoek, maar is zeker niet het laatste woord. Typisch is dat er op het gebied van AI een onderscheid wordt gemaakt tussen zwakke en sterke AI, zoals wordt uitgelegd door de Stanford Encyclopedia of Philosophy:
“Zwakke” AI probeert informatieverwerkende machines te bouwen die het volledige mentale repertoire van menselijke personen lijken te hebben. … “Sterke” AI daarentegen streeft naar het creëren van kunstmatige personen: machines die alle mentale vermogens hebben die wij hebben, inclusief het fenomenale bewustzijn. Verreweg het meest populaire verhaal bevestigt en onderzoekt dat. De recente tv-serie Westworld is een krachtig voorbeeld.
Dr. Timothy Brown stelt eveneens dat kunstmatige intelligentie op de nu gangbare “zwakke” manier moet worden gedefinieerd als “virtuele realiteit”, wat betekent dat de software de menselijke intelligentie benadert zonder deze te actualiseren – zoals Siri. Echte “Sterke” AI zou Data uit Star Trek zijn of de gelijknamige WALL-E.
Laat de andere filosofische implicaties van AI, zoals persoonlijkheid en ethiek, maar buiten beschouwing. Uiteindelijk komt de definitie van AI neer op een metafysische vraag: is intelligentie gebaseerd op gedrag, of op ontologie?
Dit is een 21e-eeuwse aanvulling op het probleem van de Geest versus de Hersenen, waarbij men zich afvraagt of het bewustzijn al dan niet alleen chemisch van aard is. Een “Geest” heeft een niet-fysiek aspect, terwijl een “Brein” zuiver fysisch is. Als het bewustzijn dus louter een zaak is van complexe neurowetenschappen, dan zijn computers met hetzelfde niveau van verfijning volgens sommigen onvermijdelijk. Maar als je filosofie van het Verstand een metafysische component heeft, dan is Sterke AI waarschijnlijk niet mogelijk.
Een algoritme kan bijvoorbeeld getraind worden om cirkels te herkennen en te catalogiseren, maar alleen een verstand kan dan het concept van circulariteit abstraheren van een specifieke vorm. De middeleeuwse denker Thomas van Aquino zei dat intelligentie de handeling van een intellect is, of om het te parafraseren, wat een ziel doet als ze denkt. Ziel verwijst hier metafysisch naar de immateriële, intrinsieke aard van een persoon, niet naar een afzonderlijke, wispelturige substantie die het lichaam verlaat bij de dood – of wanneer het wordt leeggezogen door een dementor.
Dit hylomorfe (zijn = materie + vorm) begrip van het bestaan heeft betrekking op AI, omdat een robot zonder een zielsachtig intellect geen bewustzijn kan bereiken. De geest kan niet uitsluitend uit materie voortkomen. Aangezien zelfbewustzijn de spil is van sterke AI, blijft het voorbehouden aan sciencefiction.
Sorry, Data.
Of het nu positief (C-3PO) of negatief (HAL 9000) is, andere film- en televisievoorbeelden van kunstmatig intelligente vrienden delen nog steeds die gemeenschappelijke grens tussen fictie en werkelijkheid.
Wat is vriendschap?
Nu we AI filosofisch begrijpen, kunnen we ons richten op de filosofie van vriendschap. Maak je geen zorgen, dit zal niet zo technisch zijn als AI – opgelucht?
Het begrip vriendschap zelf lijkt zo elementair dat je het zou negeren. Maar net als alle dingen in het dagelijks leven, is vriendschap op een dieper niveau onlosmakelijk verbonden met filosofie. Dus, wat is vriendschap?
Koud gezegd zijn vrienden de mensen met wie je graag tijd doorbrengt en die activiteiten en interesses delen. Sommigen hebben zelfs gezegd dat vrienden “de familie zijn die je kiest”. Diep nadenken over dit onderwerp gaat terug tot de oude Grieken. Aristoteles beschreef vriendschap in drie smaken: plezier, nut en wederzijdse waardering. Zijn opvattingen worden door Zat Rana nader toegelicht:
Hij zag weliswaar de waarde in toevallige vriendschappen gebaseerd op plezier en nut, maar hij vond dat hun vergankelijkheid hun potentieel verminderde. Ze misten diepgang en een solide basis.
In plaats daarvan pleitte Aristoteles voor een ander soort band:
Dingen die vriendschap veroorzaken zijn: het doen van vriendelijkheden; ze ongevraagd doen; en het feit niet verkondigen wanneer ze gedaan zijn.
Kindness. Liefdadigheid. Onbaatzuchtigheid. Vriendschap begint een beetje op liefde te lijken! Zo zag Aristoteles het ook; Aristoteles gebruikte het Griekse woord phileo om dit soort “broederlijke” liefde aan te duiden. Daarom, om een wederzijds opbouwende vriendschap te hebben, moeten beide partijen in staat zijn lief te hebben.
Opvallend dat ik zei “beide partijen.” Dat is de sleutel tot de AI-vriendschap vraag! Stanford, leg eens uit:
Liefde en vriendschap worden vaak over één kam geschoren; toch zijn er belangrijke verschillen tussen beide. Zoals hier opgevat, is liefde een evaluatieve houding die gericht is op bepaalde personen als zodanig, een houding die we tegenover iemand kunnen aannemen, ongeacht of die liefde al dan niet wederzijds is en of we al dan niet een gevestigde relatie met haar hebben. Vriendschap daarentegen is in wezen een soort relatie die gebaseerd is op een bepaald soort speciale zorg die ieder voor de ander heeft als de persoon die zij is; en terwijl we conceptueel ruimte moeten maken voor het idee van onbeantwoorde liefde, is onbeantwoorde vriendschap zinloos.
Zelfs een dier kan in beperkte mate de genegenheid van een persoon beantwoorden, al zijn ze zich daar misschien niet van bewust. Start Trek: The Next Generation omzeilde dit probleem door Data vriendschap op een wetenschappelijke maar toch menselijke manier te laten uitleggen:
Naarmate ik bepaalde zintuiglijke inputpatronen ervaar, raken mijn mentale paden eraan gewend. De input wordt uiteindelijk geanticipeerd en zelfs gemist als hij afwezig is.
Data’s identiteit als een synthetisch wezen met een persoonlijkheid werd uitgebreid onderzocht in de zeven seizoenen durende serie en de afgeleide films. In de onlangs uitgebrachte Star Trek: Picard show wordt dit thema nog verder uitgediept.
Maar afgezien van Starfleet, zou een machine in de echte wereld ooit zeggen: “Ik heb je gemist”, tenzij hij daartoe geprogrammeerd was? Dit brengt ons tot de kern van het debat.
Kunnen AI & mensen echt vrienden zijn?
Volgens Lost in Space is deze vraag al beantwoord. Niet alle personages kwamen echter gemakkelijk tot die conclusie. Karen Han schrijft hierover voor The Verge:
De AI-verhaallijn van Lost in Space zou iedereen die ook maar een beetje geïnteresseerd is in sciencefiction, bekend in de oren moeten klinken….De manier waarop personages kunstmatige intelligenties behandelen, is vaak een belangrijke indicator van hoe het publiek ze moet zien en hoe hun personages zich zullen ontwikkelen. Will… verwijst onmiddellijk naar de robot als “hem” in plaats van “het”, een persoon in plaats van een object. Alle anderen hebben wat tijd nodig om zich aan te passen. Wills moeder ziet een stuk gereedschap, zijn vader ziet een bedreiging, Dr. Smith ziet een wapen.
In beide seizoenen zijn er meer voorbeelden van hoe de band tussen de jongen en de machine groeit:
- Will redt het leven van de robot terwijl die hem nog steeds kwaad wil doen. Deze daad van vriendelijkheid smeedt hun band.
- Daarna doet de Robot voortdurend dingen om Will, Judy, Penny en hun ouders te redden.
- De Robot vertrouwt Will genoeg om van een klif te lopen, ook al is het tegen zijn beste belang om dat te doen.
- Wanneer het paard waarmee hij een band had sterft, houdt de Robot het hoofdstel van het paard vast als aandenken.
- Net als Will begint de Robot zelfs het woord “vriend” te gebruiken.”
- De Robot geeft zijn band met Will op om een ander van zijn soort te redden – en Will kiest ervoor om hem daarbij te helpen.
Ik ben zo gewend aan de antropomorfisering van het personage van de Robot dat zelfs ik het een “hem” noem, net zoals Judy en Penny dat leren van Will.
Het antropomorfe karakter van het personage is deels en deels een functie van het verhaal als sciencefiction. Maak ik een haarkloverij door onderscheid te maken tussen de werkelijke Strong AI en de fictieve Strong AI in Lost in Space? Misschien, maar narratieve media beïnvloeden vaak maatschappelijke wereldbeelden en verwachtingen, vooral met niet-gerealiseerde technologie.
De geest kan niet alleen uit materie voortkomen.
In een real-life context doet dit denken aan de overpeinzingen van Amin Ebrahimi Afrouzi, een AI-technoloog en promovendus:
AI-agenten denken na over hun acties en proberen hun beloningen te maximaliseren. Maar in welke zin kunnen we zeggen dat ze “nadenken” over hun “motivatie(s)” of “acties”? We kunnen dergelijke concepten niet eenvoudigweg aan AI toeschrijven zonder te antropomorfiseren. Maar antropomorfiseren stelt ons enkel in staat om te praten over wat AI doet, en niet hoe het ertoe komt om het te doen.
Is deze wederkerigheid tussen Will en de Robot aangeleerd, of aangeboren? De Robot lijkt te groeien in zijn opvatting van vriendschap naarmate hij meer tijd doorbrengt met de Robinsons. In seizoen 1, is het een trouwe maar simpele metgezel zoals een hond, terwijl in seizoen 2 het agentschap toont. Penny en Will discussiëren zelfs over de zaak. “Hij is veranderd. Maar dat is niet erg, want ik ben ook veranderd. Duizenden jaren later weerklinken Aristoteles’ woorden in het vacuüm van de ruimte (Ja, ik weet dat niets kan weerklinken in een vacuüm, maar doe me een lol, oké?):
Vrienden houden elkaar een spiegel voor; door die spiegel kunnen ze elkaar zien op manieren die anders niet voor hen toegankelijk zouden zijn, en het is deze spiegeling die hen helpt zichzelf als persoon te verbeteren.
In feite wordt in Lost in Space regelmatig verwezen naar een “telepathische verbinding” tussen Will en de buitenaardse machine. Will ontvangt beelden en gevoelens, maar de Robot zou ook menselijke eigenschappen kunnen krijgen, zoals dit versterkte vermogen tot vriendschap – ervan uitgaande dat dit niet eerder aanwezig was (seizoen 2 maakt dit onwaarschijnlijk).
Met de toevoeging van meer planeten en gigantische killer robots, maakt seizoen 2 duidelijk dat de Robot buitenaardse technologie is. Het is onduidelijk over de aard van de buitenaardse intelligentie die hen heeft gecreëerd, aangezien het Netflix-verhaal de oorsprong van de schijnbaar-intelligente robots nog niet heeft onthuld. (Mijn verklaring veronderstelt dat de robots zijn gemaakt.) Dit type AI zou inherent verschillen van onze opvatting van AI, wat leidt tot een groot aantal nieuwe raadsels. Robotica-professor Murray Shanahan noemt deze buitenwereldse bron van intellect bewustzijn exotica:
Om de ruimte van mogelijke geesten te onderzoeken, moet je de mogelijkheid overwegen van wezens die veel exotischer zijn dan welke aardse soort dan ook. Zou de ruimte van mogelijke geesten wezens kunnen omvatten die zo ondoorgrondelijk zijn dat we niet kunnen zeggen of ze überhaupt bewuste ervaringen hebben? Het ontkennen van deze mogelijkheid riekt naar biocentrisme. …Of een wezen heeft een bewuste ervaring of het heeft er geen, ongeacht of we dat kunnen zeggen.
“Of we dat kunnen zeggen.” Dit is een andere mogelijke ingang naar de noodzaak van wederkerigheid in een ware vriendschap. C.S. Lewis herhaalt deze waarheid van de phileo-vriendschap in zijn meesterlijke werk The Four Loves:
Iedere stap van de gemeenschappelijke reis stelt zijn moed op de proef; en de proeven zijn proeven die we volledig begrijpen omdat we ze zelf ondergaan. Daarom, als hij keer op keer de waarheid spreekt, bloeien ons vertrouwen, ons respect en onze bewondering op tot een waarderende liefde van een bijzonder robuuste en goed geïnformeerde soort. Als wij in het begin meer aandacht hadden besteed aan hem en minder aan datgene waar onze vriendschap over gaat, hadden wij hem niet zo goed leren kennen. Je vindt de krijger, de dichter, de filosoof of de christen niet door in zijn ogen te staren… je kunt beter naast hem vechten, met hem lezen, met hem discussiëren, met hem bidden.
Probeer dat maar eens met een AI te doen. Dat werkt niet zo goed. Een AI kan zoeken op Google of het licht aandoen, maar kan hij met jou redetwisten of bidden?
Zelfs als je de hylomorfe samenstelling van lichaam en ziel ontkent, zal een AI nooit “Sterk” genoeg zijn om vriendschap te cultiveren, omdat een AI geen behoeften of doelen kan ontwikkelen, zoals hoogleraar cognitiewetenschappen Margaret Boden opmerkt:
Zullen we met onze AI-collega’s kunnen delen in de grappen bij de koffie, in het gekibbel tussen rivaliserende voetbalsupporters, in de discussies over de krantenkoppen, in de kleine triomfen van het opstaan tegen een sarcastische of pestende baas? Nee, want computers hebben geen eigen doelen. …Het heeft geen zin om te denken dat toekomstige AI behoeften zou kunnen hebben. Ze hebben geen socialiteit of respect nodig om goed te werken. Een programma werkt, of het werkt niet. …De gebruikers en ontwerpers van AI-systemen – en van een toekomstige samenleving waarin AI welig tiert – moeten het fundamentele verschil tussen menselijke en kunstmatige intelligentie onthouden: de een geeft om de ander niet.
Kun je vrienden zijn met een AI?
Misschien, maar het zal geen vrienden met je zijn.
AI reageert op externe stimuli volgens zijn programmering – het heeft geen intellectuele “ziel”. Vriendschap is relationeel, en algoritmes kunnen alleen rekenen, niet begrijpen. De machine zal niet om je geven zoals jij dat voor hem doet en zal op zijn best onbeantwoorde vriendschap zijn – wat een oxymoron is.
Tenzij je deze robot ontmoet. Dan kun je helemaal beste maatjes worden.
