« Aide…ami. »
Ces deux mots énigmatiques prononcés par le Robot de la série Lost in Space de Netflix résument le thème de sa deuxième saison. La saison 1 s’articule autour de l’exploration et de la protection de la nouvelle amitié que Will et le Robot forgent après avoir été mystérieusement échoués sur une planète étrangère. Sortie sur Netflix juste avant le début de l’année 2020, la saison 2 montre les deux amis se retrouvant après avoir été séparés à la fin de la saison précédente.
L’amitié, et l’enseignement aux autres de la véritable nature de l’amitié elle-même, est au cœur de la série. Une phrase commune prononcée par plusieurs personnages alors que la dernière saison atteint son apogée est : « Ce n’est pas ce que font les amis. » Les collègues de travail, les parents et les enfants, et les couples mariés se débattent avec cette question dans chacun des vingt épisodes produits jusqu’à présent.
Le cœur de la série, cependant, est le lien fascinant entre l’adolescent Will et son Robot extraterrestre géant, comme le souligne Paul Tassi pour Forbes :
La deuxième saison plonge dans la race des robots qui est principalement composée de machines meurtrières, plutôt que le « gentil robot » qui est ami avec Will Robinson, et est l’une des intrigues les plus fascinantes de la série alors qu’il continue à grandir et à évoluer en adoptant une émotion et une affection de type humain pour les autres êtres vivants.
Ma femme déplore toujours que le Robot n’ait pas reçu de nom ! Hélas – il est simplement appelé le Robot. Il n’en reste pas moins qu’il s’est fait aimer des fans des deux hémisphères.
Le lien de Will avec la machine monosyllabique dans le récit me fait penser à cette réflexion : Peut-on être ami avec une intelligence artificielle ?
Avant d’aborder l’intrigant concept d’amitié entre IA, il faut définir l’intelligence artificielle. Demandez à un groupe de scientifiques la définition de l’intelligence artificielle, et vous obtiendrez une pléthore de réponses. Une personne moyenne sera encore moins précise, avec la signification normale quelque chose de semblable à « une machine qui pense » ou « un ordinateur qui agit comme un humain », et des exemples allant de Siri à Optimus Prime.
Ces derniers ne sont pas d’une grande aide.
Le célèbre pionnier de l’informatique Alan Turing a proposé une façon de découvrir l’IA, connue aujourd’hui sous le nom de test de Turing : si un ordinateur peut répondre à des questions de façon suffisamment convaincante pour tromper une personne en lui faisant croire qu’il est aussi un humain, alors il est intelligent. Aujourd’hui, avec l’essor des chatbots et des assistants virtuels, ce test place la barre trop bas pour l’intelligence réelle.
Le test de Turing reste un élément important dans la recherche sur l’IA, mais ce n’est en aucun cas le dernier mot. Typiquement, il y a une différenciation dans le domaine de l’IA entre l’IA faible et l’IA forte, comme l’explique la Stanford Encyclopedia of Philosophy :
L’IA « faible » cherche à construire des machines de traitement de l’information qui semblent avoir le répertoire mental complet des personnes humaines. … L’IA « forte », en revanche, cherche à créer des personnes artificielles : des machines qui ont tous les pouvoirs mentaux que nous avons, y compris la conscience phénoménale. C’est, de loin, ce que les récits les plus populaires affirment et explorent. La récente série télévisée Westworld est un cas d’école puissant.
Le Dr Timothy Brown pose de même que l’intelligence artificielle à la manière « Faible », aujourd’hui courante, devrait être définie comme une « réalité virtuelle », c’est-à-dire que le logiciel se rapproche de l’intelligence humaine sans l’actualiser – comme Siri. La véritable IA « forte » serait Data de Star Trek ou l’éponyme WALL-E.
Laissons de côté les autres implications philosophiques de l’IA, telles que la personnalité et l’éthique. En fin de compte, la définition de l’IA se résume à une question métaphysique : l’intelligence est-elle basée sur le comportement ou sur l’ontologie ?
C’est un ajout du 21e siècle au problème de l’esprit contre le cerveau qui se demande si la conscience est seulement de nature chimique ou non. Un « Mind » a un aspect non physique, alors qu’un « Brain » est purement physique. Par conséquent, si la conscience n’est qu’une question de neurosciences complexes, alors des ordinateurs ayant le même niveau de sophistication sont inévitables, selon certains. Cependant, si votre philosophie de l’Esprit a une composante métaphysique, alors une IA forte n’est probablement pas possible.
Par exemple, un algorithme peut être entraîné à reconnaître et à cataloguer des cercles, mais seul un esprit peut ensuite abstraire le concept de circularité à partir d’une forme spécifique. Le penseur médiéval Thomas d’Aquin a dit que l’intelligence est l’acte d’un intellect, ou pour paraphraser, ce que fait une âme quand elle pense. L’âme fait ici métaphysiquement référence à la nature immatérielle et intrinsèque d’une personne, et non à une substance séparée et vaporeuse qui quitte le corps à la mort – ou lorsqu’elle est aspirée par un démon.
Cette compréhension hylomorphique (être = matière + forme) de l’existence concerne l’IA car, sans un intellect proche de l’âme, un robot ne peut atteindre la conscience. L’esprit ne peut pas provenir uniquement de la matière. La conscience de soi étant le pivot de l’IA forte, elle reste reléguée à la science-fiction.
Désolé, Data.
Qu’ils soient positifs (C-3PO) ou négatifs (HAL 9000), les autres exemples cinématographiques et télévisuels d’amis intelligents artificiels partagent toujours cette frontière commune entre fiction et réalité.
Qu’est-ce que l’amitié ?
Maintenant que nous comprenons l’IA de manière philosophique, nous pouvons nous tourner vers la philosophie de l’amitié. Ne vous inquiétez pas, ce ne sera pas aussi technique que l’IA – soulagé ?
Le concept même d’amitié semble élémentaire au point de l’ignorer. Cependant, comme toutes les choses de la vie quotidienne, l’amitié à un niveau plus profond est inséparable de la philosophie. Alors, qu’est-ce que l’amitié ?
Colloquement, les amis sont les personnes avec lesquelles vous aimez passer du temps tout en partageant des activités et des intérêts. Certains ont même dit que les amis sont « la famille que l’on choisit ». La réflexion approfondie sur ce sujet remonte aux Grecs anciens. Aristote a décrit l’amitié sous trois aspects : le plaisir, l’utilité et l’appréciation mutuelle. Ses vues sont explorées par Zat Rana:
Tout en voyant la valeur des amitiés accidentelles basées sur le plaisir et l’utilité, il estimait que leur impermanence diminuait leur potentiel. Elles manquaient de profondeur et d’une base solide.
Au lieu de cela, Aristote a plaidé pour un autre type de lien:
Les choses qui provoquent l’amitié sont : faire des bontés ; les faire sans qu’on les demande ; et ne pas proclamer le fait quand elles sont faites.
Bonté. La charité. Désintéressement. L’amitié commence à ressembler beaucoup à l’amour ! C’est ainsi qu’Aristote le voyait aussi ; Aristote utilisait le mot grec phileo pour désigner ce type d’amour » fraternel « . Par conséquent, pour avoir une amitié mutuellement édifiante, les deux parties doivent être capables d’aimer.
Notez que j’ai dit « les deux parties ». C’est la clé de la question de l’amitié AI ! Stanford, s’il vous plaît, expliquez:
L’amour et l’amitié sont souvent mis dans le même sac comme un seul sujet ; néanmoins, il y a des différences significatives entre eux. Tel que compris ici, l’amour est une attitude évaluative dirigée vers des personnes particulières en tant que telles, une attitude que nous pourrions prendre envers quelqu’un, que cet amour soit réciproque ou non et que nous ayons ou non une relation établie avec elle. L’amitié, en revanche, est essentiellement un type de relation fondée sur un type particulier de préoccupation spéciale que chacun a pour l’autre en tant que personne qu’elle est ; et alors que nous devons faire une place conceptuelle pour l’idée d’un amour non réciproque, l’amitié non réciproque est insensée.
Même un animal peut, de manière limitée, rendre l’affection d’une personne, bien qu’il ne soit pas conscient de lui-même. Start Trek : The Next Generation a contourné ce problème en faisant en sorte que Data explique l’amitié d’une manière scientifique mais humanisante :
A mesure que je fais l’expérience de certains modèles d’entrée sensorielle, mes voies mentales s’y habituent. L’entrée est finalement anticipée et même manquée lorsqu’elle est absente.
L’identité de Data en tant qu’être synthétique doté d’une personnalité a été largement explorée tout au long de la série de sept saisons et des films dérivés. La série Star Trek : Picard, qui vient de sortir, approfondit encore ce thème.
Mais, Starfleet mis à part, une machine du monde réel dirait-elle jamais « tu m’as manqué », à moins d’être programmée pour le faire ? Cela nous amène au cœur du débat.
Les IA &Humains peuvent-ils vraiment être amis ?
Selon Perdus dans l’espace, cette question a déjà reçu une réponse. Cependant, tous les personnages ne sont pas arrivés à cette conclusion facilement. Écrivant pour The Verge, Karen Han souligne ceci :
L’intrigue de l’IA de Lost in Space devrait sembler familière à quiconque s’intéresse de près ou de loin à la science-fiction….La façon dont les personnages choisissent de traiter les intelligences artificielles est souvent un indicateur avancé de la façon dont le public est censé les percevoir, et de la façon dont leurs personnages vont évoluer. Will… appelle immédiatement le robot « lui » au lieu de « ça », une personne plutôt qu’un objet. Tous les autres mettent du temps à s’adapter. La mère de Will voit un outil ; son père voit une menace ; le Dr Smith voit une arme.
En tenant compte des deux saisons, voici d’autres exemples de la façon dont le lien entre le garçon et la machine se développe tout au long de la série :
- Will sauve la vie du Robot alors qu’il lui veut encore du mal. Cet acte de gentillesse forge leur lien.
- Par la suite, le Robot fait continuellement des choses pour sauver Will, Judy, Penny et leurs parents.
- Le Robot fait suffisamment confiance à Will pour se jeter d’une falaise même si c’est contre son intérêt de le faire.
- Lorsque le cheval avec lequel il s’était lié meurt, le Robot s’accroche à la bride du cheval comme un souvenir.
- Comme Will, le Robot commence même à utiliser le mot « ami ».
- Le Robot prive son lien avec Will pour sauver un autre de ses semblables – et Will choisit de l’aider à le faire.
Je suis tellement habitué à l’anthropomorphisation du personnage du Robot que même moi je l’appelle un « lui », tout comme Judy et Penny apprennent à le faire de Will.
La nature anthropomorphique du personnage est en partie une fonction de l’histoire en tant que science-fiction. Est-ce que je coupe les cheveux en quatre en faisant la différence entre l’IA forte réelle et l’IA forte fictive dans Perdu dans l’espace ? Peut-être, mais les médias narratifs influencent souvent les visions du monde et les attentes de la société, en particulier en ce qui concerne les technologies non réalisées.
L’esprit ne peut pas provenir uniquement de la matière.
Dans un contexte de vie réelle, cela rappelle les méditations d’Amin Ebrahimi Afrouzi, technologue en IA et candidat au doctorat :
Les agents d’IA réfléchissent à leurs actions et tentent de maximiser leurs récompenses. Mais dans quel sens pourrions-nous dire qu’ils « réfléchissent » à leur(s) « motivation(s) » ou à leurs « actions » ? Nous ne pouvons pas simplement attribuer de tels concepts à l’IA sans anthropomorphiser. Mais l’anthropomorphisation nous permet seulement de parler de ce que l’IA fait, et non de la manière dont elle en vient à le faire.
Cette réciprocité entre Will et le Robot est-elle apprise, ou innée ? Le Robot semble évoluer dans sa conception de l’amitié au fur et à mesure qu’il passe du temps avec les Robinsons. Dans la saison 1, il est comme un compagnon fidèle mais simple d’esprit, comme un chien, alors que dans la saison 2, il fait preuve d’initiative. Penny et Will débattent même de la question. « Il a changé. Mais ce n’est pas grave puisque j’ai changé aussi. »
Des milliers d’années plus tard, les mots d’Aristote se répercutent dans le vide de l’espace (Ouais, je sais que rien ne peut résonner dans le vide, mais faites-moi plaisir, ok ?):
Les amis se tendent un miroir ; à travers ce miroir, ils peuvent se voir d’une manière qui ne leur serait pas accessible autrement, et c’est ce miroir qui les aide à s’améliorer en tant que personnes.
En fait, Perdus dans l’espace fait fréquemment référence à une « connexion télépathique » entre Will et la machine extraterrestre. Will reçoit des images et des sentiments, mais le Robot pourrait également acquérir des caractéristiques humaines telles que cette capacité accrue à l’amitié – en supposant qu’elle n’était pas présente auparavant (la saison 2 fait en sorte que cela semble peu probable).
Avec l’ajout de plus de planètes et de robots tueurs géants, la saison 2 montre clairement que le Robot est une technologie extraterrestre. Il n’est pas clair sur la nature de l’intelligence extraterrestre qui les a créés, car l’histoire de Netflix n’a pas encore révélé l’origine des robots apparemment sensibles. (Ce type d’intelligence artificielle serait fondamentalement différent de notre conception de l’intelligence artificielle, ce qui entraînerait une foule de nouvelles énigmes. Le professeur de robotique Murray Shanahan se réfère à cette source d’intellect d’un autre monde en tant que consciousness exotica :
Explorer l’espace des esprits possibles, c’est envisager la possibilité d’êtres bien plus exotiques que toute espèce terrestre. L’espace des esprits possibles pourrait-il inclure des êtres si impénétrables que nous ne pourrions pas dire s’ils ont des expériences conscientes du tout ? Nier cette possibilité relève du biocentrisme. …Soit un être a une expérience consciente, soit il n’en a pas, peu importe si nous pouvons le dire.
« Si nous pouvons le dire. » Il s’agit d’une autre entrée en matière potentielle sur la nécessité de la mutualité dans une véritable amitié. C.S. Lewis se fait l’écho de cette vérité de l’amitié phileo dans son œuvre magistrale Les Quatre Amours :
Chaque étape du voyage commun met à l’épreuve son courage ; et les épreuves sont des épreuves que nous comprenons pleinement parce que nous les subissons nous-mêmes. Par conséquent, comme il sonne vrai à chaque fois, notre confiance, notre respect et notre admiration s’épanouissent en un amour appréciatif d’un genre singulièrement robuste et bien informé. Si, dès le départ, nous nous étions davantage occupés de lui et moins de ce sur quoi porte notre amitié, nous n’aurions pas appris à le connaître aussi bien…. Vous ne trouverez pas le guerrier, le poète, le philosophe ou le chrétien en fixant ses yeux… mieux vaut combattre à ses côtés, lire avec lui, argumenter avec lui, prier avec lui.
Essayez de faire l’une de ces choses avec une IA. Cela ne fonctionne pas si bien. Une IA peut faire des recherches sur Google ou allumer la lumière, mais peut-elle discuter ou prier avec vous ?
Même si vous niez la composition hylomorphique du corps et de l’âme, une IA ne sera jamais assez « forte » pour cultiver l’amitié parce que l’IA ne peut pas développer de besoins ou de buts, comme le souligne Margaret Boden, professeur de sciences cognitives :
Pourrons-nous partager avec nos « collègues » de l’IA des plaisanteries autour d’un café, des badinages entre supporters de football rivaux, des disputes sur les titres de l’actualité, des petits triomphes pour tenir tête à un patron sarcastique ou tyrannique ? Non, car les ordinateurs n’ont pas de buts propres. …Cela n’a aucun sens d’imaginer que l’IA du futur puisse avoir des besoins. Elles n’ont pas besoin de socialité ou de respect pour bien fonctionner. Soit un programme fonctionne, soit il ne fonctionne pas. …Les utilisateurs et les concepteurs de systèmes d’IA – et d’une société future dans laquelle l’IA sévit – devraient se souvenir de la différence fondamentale entre l’intelligence humaine et l’intelligence artificielle : l’une se soucie, l’autre non.
Peut-on être ami avec une IA ?
Peut-être, mais elle ne sera pas amie avec vous.
L’IA répond aux stimuli externes selon sa programmation – elle n’a pas d' »âme » intellectuelle. L’amitié est relationnelle, et les algorithmes ne peuvent que calculer, pas comprendre. La machine ne se souciera pas de vous comme vous le faites pour elle et sera, au mieux, une amitié non réciproque – ce qui est un oxymore.
Sauf si vous rencontrez ce robot. Dans ce cas, vous pouvez tout à fait être meilleurs amis.
