„Pomoc…příteli.“
Tato dvě záhadná slova, která pronesl robot seriálu Lost in Space od Netflixu, vystihují téma jeho druhé série. První sezóna se točí kolem zkoumání a ochrany nového přátelství, které Will a Robot navážou poté, co záhadně uvíznou na cizí planetě. Druhá sezóna, která vyšla na Netflixu těsně před začátkem roku 2020, ukazuje, jak se oba přátelé našli poté, co byli na konci předchozí sezóny odděleni.
Přátelství a učení ostatních pravé podstatě přátelství jako takového je jádrem seriálu. Častá hláška, kterou pronese několik postav, když nejnovější sezóna vrcholí, zní: „Tohle přátelé nedělají“. S tímto problémem se potýkají spolupracovníci, rodiče a děti i manželské páry v každé z dvaceti dosud natočených epizod.
Jádrem seriálu je však fascinující pouto mezi dospívajícím Willem a jeho obřím mimozemským robotem, jak upozorňuje Paul Tassi pro Forbes:
Druhá série se ponořuje do rasy robotů, která se skládá především z vražedných strojů, nikoliv z „hodného robota“, který se přátelí s Willem Robinsonem, a je jednou z nejpoutavějších dějových linií seriálu, protože stále roste a vyvíjí se a osvojuje si lidské emoce a náklonnost k jiným živým tvorům.
Moje žena stále naříká, že Robot nedostal jméno! Bohužel – jmenuje se pouze Robot. Přesto si získal přízeň fanoušků na obou polokoulích.
Willovo pouto k jednoslabičnému stroji ve vyprávění mě přivádí na tuto myšlenku:
Než přistoupíme k zajímavému konceptu přátelství s umělou inteligencí, musíme definovat umělou inteligenci. Zeptejte se skupiny vědců na definici umělé inteligence a dostanete nepřeberné množství odpovědí. Běžný člověk bude ještě méně přesný, běžný význam bude něco jako „stroj, který myslí“ nebo „počítač, který se chová jako člověk“, a příklady budou sahat od Siri po Optimus Prime.
Ty nám příliš nepomohou.
Známý průkopník informatiky Alan Turing navrhl způsob, jak odhalit umělou inteligenci, dnes známý jako Turingův test: pokud počítač dokáže odpovídat na otázky dostatečně přesvědčivě, aby člověka přesvědčil, že je také člověk, pak je inteligentní. V dnešní době, kdy se objevují chatboti a virtuální asistenti, nastavuje tento test laťku pro skutečnou inteligenci příliš nízko.
Turingův test je stále důležitým prvkem ve výzkumu umělé inteligence, ale v žádném případě to není konečné slovo. Obvykle se v oblasti umělé inteligence rozlišuje mezi slabou a silnou umělou inteligencí, jak vysvětluje Stanfordská encyklopedie filozofie:
„Slabá“ umělá inteligence usiluje o vytvoření strojů zpracovávajících informace, které vypadají, že mají plný mentální repertoár lidských osob. … „Silná“ umělá inteligence naproti tomu usiluje o vytvoření umělých osob: strojů, které mají všechny mentální schopnosti, které máme my, včetně fenomenálního vědomí. Zdaleka nejvíce populárních vyprávění potvrzuje a zkoumá. Nedávný televizní seriál Westworld je toho silným příkladem.
Dr. Timothy Brown podobně tvrdí, že umělá inteligence v dnes běžném „slabém“ pojetí by měla být definována jako „virtuální realita“, což znamená, že software se přibližuje lidské inteligenci, aniž by ji aktualizoval – jako Siri. Skutečnou „Silnou“ umělou inteligencí by byl Dat ze Star Treku nebo stejnojmenný WALL-E.
Ponechme stranou další filozofické důsledky umělé inteligence, jako je osobnost a etika. Definice umělé inteligence nakonec ústí do metafyzické otázky: je inteligence založena na chování, nebo na ontologii?“
Jde o doplněk problému Mysl vs. mozek 21. století, který se zamýšlí nad tím, zda je vědomí pouze chemické povahy, či nikoli. „Mysl“ má nefyzický aspekt, zatímco „mozek“ je čistě fyzický. Pokud je tedy vědomí pouze záležitostí složité neurovědy, pak jsou podle některých nevyhnutelné počítače se stejnou úrovní sofistikovanosti. Pokud však vaše filozofie Mysli obsahuje metafyzickou složku, pak Silná umělá inteligence pravděpodobně není možná.
Například algoritmus lze vycvičit k rozpoznávání a katalogizaci kruhů, ale pouze mysl pak může z konkrétního tvaru abstrahovat pojem kruhovitosti. Středověký myslitel Tomáš Akvinský řekl, že inteligence je činnost intelektu, neboli parafrázovaně řečeno to, co dělá duše, když myslí. Duše zde metafyzicky odkazuje na nehmotnou, vnitřní podstatu člověka, nikoli na oddělenou, moudrou substanci, která opouští tělo při smrti – nebo při vysátí dementem.
Toto hylomorfní (bytí = hmota + forma) chápání existence se týká umělé inteligence, protože bez intelektu podobného duši nemůže robot dosáhnout vědomí. Mysl nemůže vzniknout pouze z hmoty. Vzhledem k tomu, že sebeuvědomění je pro silnou UI základním kamenem, zůstává odsunuto do oblasti science fiction.
Sorry, Data.
Ať už kladné (C-3PO) nebo záporné (HAL 9000), další filmové a televizní příklady umělých inteligentních přátel mají stále onu společnou hranici mezi fikcí a realitou.
Co je přátelství?“
Když už rozumíme umělé inteligenci z filozofického hlediska, můžeme se obrátit k filozofii přátelství. Nebojte se, nebude to tak technické jako UI – uleví se vám?“
Samotný pojem přátelství se zdá být elementární až ignorující. Avšak stejně jako všechny věci v každodenním životě je i přátelství na hlubší úrovni neoddělitelné od filozofie. Co je to tedy přátelství?“
Přátelé jsou z obecného hlediska lidé, s nimiž rádi trávíte čas a zároveň sdílíte společné aktivity a zájmy. Někteří dokonce říkají, že přátelé jsou „rodina, kterou jste si vybrali“. Hluboké úvahy na toto téma sahají až ke starým Řekům. Aristoteles popsal, že přátelství má tři příchutě: potěšení, užitečnost a vzájemné uznání. Jeho názory zkoumá Zat Rana:
Přestože viděl hodnotu v náhodných přátelstvích založených na potěšení a užitečnosti, domníval se, že jejich pomíjivost snižuje jejich potenciál. Chyběla jim hloubka a pevný základ.
Naopak Aristoteles prosazoval jiný druh svazku:
Věci, které způsobují přátelství, jsou: konání laskavostí; jejich konání bez vyzvání; a neprohlašování skutečnosti, když jsou vykonány.
Laskavost. Dobročinnost. Nesobeckost. Přátelství začíná znít hodně podobně jako láska! Tak to viděl i Aristoteles; Aristoteles pro tento typ „bratrské“ lásky používal řecké slovo phileo. Aby tedy mohlo vzniknout oboustranně budující přátelství, musí být obě strany schopny milovat.
Všimněte si, že jsem řekl „obě strany“. To je klíč k otázce přátelství s AI! Stanforde, prosím, vysvětli:
Láska a přátelství bývají často házeny do jednoho pytle jako jedno téma, nicméně jsou mezi nimi značné rozdíly. V tomto pojetí je láska hodnotící postoj zaměřený na konkrétní osoby jako takové, postoj, který můžeme vůči někomu zaujmout bez ohledu na to, zda je tato láska opětována a zda s ní máme navázaný vztah, či nikoli. Naproti tomu přátelství je v podstatě druh vztahu zakotvený ve zvláštním druhu zvláštního zájmu, který má každý o druhého jako o osobu, kterou je; a zatímco pro myšlenku neopětované lásky musíme vytvořit pojmový prostor, neopětované přátelství je nesmyslné.
I zvíře může v omezené míře opětovat náklonnost člověka, i když si nemusí být vědomo sebe sama. Seriál Start Trek: Nová generace tento problém obešel tím, že Data vysvětlil přátelství vědecky, ale zároveň lidsky:
Když zažívám určité smyslové vstupní vzorce, mé duševní dráhy si na ně zvyknou. Tyto vstupy nakonec očekávám, a když chybí, tak je dokonce přehlížím.
Datova identita jako syntetické bytosti s osobností byla hojně zkoumána v průběhu sedmi sezón seriálu a spin-off filmů. Nově uvedený seriál Star Trek: Picard toto téma rozvíjí ještě hlouběji.
Přesto, když pomineme Hvězdnou flotilu, řekl by stroj v reálném světě někdy: „Chyběl jsi mi,“ pokud by k tomu nebyl naprogramován? Tím se dostáváme k jádru debaty.
Může se umělá inteligence & s lidmi skutečně spřátelit?“
Podle seriálu Lost in Space byla tato otázka již zodpovězena. Ne všechny postavy však k tomuto závěru dospěly snadno. V článku pro The Verge na to upozorňuje Karen Han:
Dějová linie UI filmu Ztraceni ve vesmíru by měla být povědomá každému, kdo se alespoň trochu zajímá o sci-fi….Způsob, jakým se postavy rozhodnou chovat k umělým inteligencím, je často hlavním ukazatelem toho, jak je mají diváci vnímat a jak se jejich charaktery budou vyvíjet. Will… o robotovi okamžitě mluví jako o “něm“ místo jako o “něm“, jako o člověku, nikoli jako o předmětu. Všem ostatním chvíli trvá, než si zvyknou. Willova matka v něm vidí nástroj, jeho otec hrozbu, doktor Smith zbraň.
Přihlédneme-li k oběma sezónám, uvádíme další příklady toho, jak v průběhu seriálu roste chlapcův vztah ke stroji:
- Will zachrání robotovi život, když mu ještě hodlá ublížit. Tento akt laskavosti upevní jejich pouto.
- Poté Robot neustále dělá věci, aby zachránil Willa, Judy, Penny a jejich rodiče.
- Robot důvěřuje Willovi natolik, že odejde z útesu, i když je to proti jeho nejlepšímu zájmu.
- Když kůň, s nímž se spojil, zemře, Robot si ponechá jeho uzdu jako památku.
- Stejně jako Will začne Robot dokonce používat slovo „přítel“.
- Robot upřednostní své pouto s Willem, aby zachránil jiného svého druhu – a Will se rozhodne mu v tom pomoci.
Jsem tak zvyklý na antropomorfizaci postavy Robota, že i já mu říkám „on“, stejně jako se to naučily Judy a Penny od Willa.
Antropomorfní povaha postavy je zčásti dána funkcí příběhu jako sci-fi. Trhám si vlasy, když rozlišuji mezi skutečnou Silnou umělou inteligencí a fiktivní Silnou umělou inteligencí ve filmu Ztraceni ve vesmíru? Možná, ale narativní média často ovlivňují společenský pohled na svět a očekávání, zejména v případě nerealizovaných technologií.
Mysl nemůže pocházet pouze z hmoty.
V reálném kontextu to připomíná úvahy Amina Ebrahimiho Afrouziho, technologa a doktoranda v oboru umělé inteligence:
Agenti AI uvažují o svých činech a snaží se maximalizovat své odměny. V jakém smyslu bychom však mohli říci, že „uvažují“ o svých „motivacích“ nebo „činech“? Takové pojmy nemůžeme umělé inteligenci jednoduše přisoudit, aniž bychom antropomorfizovali. Antropomorfizace nám však umožňuje hovořit pouze o tom, co UI dělá, a ne o tom, jak k tomu přichází.
Je tato reciprocita mezi vůlí a robotem naučená, nebo vrozená? Zdá se, že Robot roste ve svém pojetí přátelství tím více, čím více času tráví s Robinsonovými. V první sezóně je jako věrný, ale prostomyslný společník podobný psovi, zatímco ve druhé sezóně se projevuje jako agent. Penny a Will o tom dokonce debatují. „Změnil se. Ale to nevadí, protože já jsem se změnil taky.“
Tisíce let poté se Aristotelova slova odrážejí ve vesmírném vakuu (Jo, já vím, že ve vakuu se nic nemůže odrážet, ale s humorem, jo?):
Přátelé si navzájem drží zrcadlo; skrze toto zrcadlo se mohou vidět způsobem, který by jim jinak nebyl přístupný, a právě toto zrcadlení jim pomáhá zdokonalovat se jako osoby.
Ve filmu Ztraceni ve vesmíru se často zmiňuje „telepatické spojení“ mezi Willem a mimozemským strojem. Will přijímá obrazy a pocity, ale Robot by také mohl získat lidské vlastnosti, jako je tato zvýšená schopnost přátelství – za předpokladu, že nebyla přítomna již dříve (ve 2. sérii se to zdá nepravděpodobné).
S přidáním dalších planet a obřích zabijáckých robotů je ve 2. sérii jasné, že Robot je mimozemská technologie. O povaze mimozemské inteligence, která je vytvořila, není jasno, protože příběh Netflixu zatím původ zdánlivě rozumných robotů neodhalil. (Mé tvrzení předpokládá, že roboti jsou stvořeni.) Tento typ umělé inteligence by byl ze své podstaty odlišný od našeho pojetí umělé inteligence, což by vedlo k řadě nových hádanek. Profesor robotiky Murray Shanahan označuje tento mimozemský zdroj intelektu jako exotické vědomí:
Zkoumat prostor možných myslí znamená zabývat se možností bytostí mnohem exotičtějších než jakýkoli pozemský druh. Mohl by prostor možných myslí zahrnovat bytosti tak nevyzpytatelné, že bychom nedokázali říci, zda vůbec mají vědomé zkušenosti? Popírání této možnosti zavání biocentrismem. … Buď bytost má vědomou zkušenost, nebo nemá, bez ohledu na to, zda to můžeme říci.
„Zda to můžeme říci“. To je další možná cesta k nutnosti vzájemnosti v opravdovém přátelství. C. S. Lewis tuto pravdu o přátelství phileo opakuje ve svém mistrovském díle Čtyři lásky:
Každý krok společné cesty je zkouškou jeho odolnosti; a zkoušky jsou zkouškami, kterým plně rozumíme, protože je sami podstupujeme. Proto, když znovu a znovu vyznívá pravdivě, naše důvěra, naše úcta a náš obdiv rozkvétají v Oceňující lásku neobyčejně pevného a dobře informovaného druhu. Kdybychom se na začátku více věnovali jemu a méně tomu, o čem naše Přátelství „je“, nepoznali bychom… ho tak dobře. Válečníka, básníka, filozofa ani křesťana nenajdeš tak, že se mu budeš dívat do očí… raději vedle něj bojuj, čti si s ním, hádej se s ním, modli se s ním.
Zkus dělat kteroukoli z těchto věcí s umělou inteligencí. Nefunguje to tak dobře. UI dokáže vyhledávat na Googlu nebo rozsvítit světlo, ale dokáže se s vámi pohádat nebo pomodlit?“
I když popřete hylomorfní složení těla a duše, UI nikdy nebude dostatečně „silná“, aby mohla pěstovat přátelství, protože UI si nedokáže vyvinout potřeby nebo cíle, jak upozorňuje profesorka kognitivních věd Margaret Bodenová:
Budeme moci sdílet se svými „kolegy“ z UI vtipy u kávy, při škádlení mezi soupeřícími fotbalovými fanoušky, při hádkách o novinové titulky, při malých triumfech, když se postavíme sarkastickému nebo šikanujícímu šéfovi? Ne – protože počítače nemají vlastní cíle. …Nemá smysl si představovat, že by budoucí umělá inteligence mohla mít nějaké potřeby. Nepotřebují společenskost ani respekt, aby mohly dobře pracovat. Program buď funguje, nebo nefunguje. …Uživatelé a konstruktéři systémů UI – a budoucí společnosti, v níž bude UI řádit – by si měli uvědomit základní rozdíl mezi lidskou a umělou inteligencí: jedna se stará, druhá ne.“
Můžete se s UI přátelit?“
Možná, ale ona se s vámi přátelit nebude.
UI reaguje na vnější podněty podle svého naprogramování – nemá intelektuální „duši“. Přátelství je vztahové a algoritmy mohou pouze počítat, nikoli chápat. Stroj o vás nebude mít takový zájem jako vy o něj a v nejlepším případě půjde o neopětované přátelství – což je oxymóron.
Pokud se s tímto robotem nesetkáte. Pak z vás rozhodně mohou být nejlepší kamarádi.
