HAL 9000 est l’un des personnages d’intelligence articifique les plus connus du cinéma moderne. Cette forme supérieure d’ordinateur sensible se lance dans une mission vers Jupiter, avec une équipe humaine, dans le film emblématique de Stanley Kubrick 2001: Une Odyssée de l’espace, qui fête actuellement ses 50 ans depuis sa sortie.
HAL est capable de produire et de comprendre la parole, de reconnaître le visage, de lire sur les lèvres et de jouer aux échecs. Sa capacité de calcul supérieure est également renforcée par des traits humains uniques. Il peut interpréter le comportement émotionnel, raisonner et apprécier l’art.
En donnant des émotions à HAL, l’écrivain Arthur C. Clarke et le cinéaste Stanley Kubrick en ont fait l’une des technologies de fiction les plus humaines jamais créées. Dans l’une des plus belles scènes de l’histoire de la science-fiction, il dit avoir « peur” lorsque le commandant de la mission, le Dr David Bowman, commence à déconnecter ses modules de mémoire à la suite d’une série d’événements meurtriers.
HAL est programmé pour fournir une assistance optimale à l’équipage du vaisseau spatial Discovery. Il a le contrôle sur l’ensemble du navire et des renseignements stupéfiants pour l’aider dans sa tâche. Pourtant, peu de temps après avoir fait connaissance avec HAL, nous ne pouvons nous empêcher de sentir qu’il est inquiet – il prétend même qu’il éprouve de la peur – et qu’il a une capacité d’empathie, aussi petite soit-elle. Mais bien que rien n’empêche l’idée qu’une telle IA émotionnelle puisse voir le jour, si une telle profondeur de sentiments devait être incluse dans la technologie du monde réel, ils devraient être entièrement faux.
Une IA « parfaite”
Lorsque, pendant le film, Bowman commence à remplacer manuellement les fonctions de HAL, il lui demande d’arrêter, et après que nous ayons assisté à une oblitération fascinante des facultés « mentales » de HAL, l’IA tente apparemment de se réconforter en chantant Daisy Bell – qui serait la toute première chanson produite par un ordinateur.
En fait, les téléspectateurs commencent à sentir que Bowman tue HAL. La déconnexion ressemble à une fin vengeresse, après avoir été témoin des événements précédents du film. Mais bien que HAL fasse des déclarations émotionnelles, une IA du monde réel se limiterait certainement à n’avoir que la capacité de raisonner et de prendre des décisions. La vérité froide et dure est que – malgré ce que disent les informaticiens – nous ne pourrons jamais programmer des émotions comme l’ont fait les créateurs fictifs de HAL parce que nous ne les comprenons pas. Les psychologues et les neuroscientifiques essaient certainement d’apprendre comment les émotions interagissent avec la cognition, mais elles restent un mystère.
Prenez par exemple nos propres recherches. Dans une étude menée avec des bilingues chinois-anglais, nous avons exploré comment la valeur émotionnelle des mots peut changer le fonctionnement mental inconscient. Lorsque nous avons présenté à nos participants des mots positifs et neutres, tels que « vacances” ou « arbre”, ils ont inconsciemment récupéré ces formes de mots en chinois. Mais lorsque les mots avaient une signification négative, comme « meurtre” ou « viol”, leur cerveau bloquait l’accès à leur langue maternelle – à leur insu.
Raison et émotion
D’autre part, nous en savons beaucoup sur le raisonnement. Nous pouvons décrire comment nous arrivons à des décisions rationnelles, écrire des règles et transformer ces règles en processus et en code. Pourtant, les émotions sont un héritage évolutif mystérieux. Leur source est la source de tout, et pas simplement un attribut de l’esprit qui peut être mis en œuvre par conception. Pour programmer quelque chose, vous devez non seulement savoir comment cela fonctionne, vous devez savoir quel est l’objectif. La raison a des objectifs, les émotions non.
Lors d’une expérience menée en 2015, nous avons pu mettre cela à l’épreuve. Nous avons demandé à des locuteurs natifs du chinois mandarin étudiant à l’Université de Bangor de jouer à un jeu de hasard pour de l’argent. À chaque tour, ils devaient prendre ou laisser un pari proposé affiché à l’écran – par exemple, 50% de chances de gagner 20 points et 50% de chances de perdre 100 points.
Nous avons émis l’hypothèse que leur donner des commentaires dans leur langue maternelle serait plus émotif pour eux et les conduirait donc à se comporter différemment, par rapport à lorsqu’ils recevaient des commentaires dans leur deuxième langue, l’anglais. En effet, lorsqu’ils ont reçu des commentaires positifs en chinois natif, ils étaient 10% plus susceptibles de parier au tour suivant, quel que soit le risque. Cela montre que les émotions influencent le raisonnement.
Pour en revenir à l’IA, comme les émotions ne peuvent pas être vraiment implémentées dans un programme – aussi sophistiqué soit–il – le raisonnement de l’ordinateur ne peut jamais être modifié par ses sentiments.
Une interprétation possible de l’étrange comportement « émotionnel” de HAL est qu’il a été programmé pour simuler des émotions dans des situations extrêmes, où il aurait besoin de manipuler les humains non pas sur la base du raisonnement mais en faisant appel à leur moi émotionnel, lorsque la raison humaine échoue. C’est la seule façon dont je peux voir que l’IA du monde réel pourrait simuler de manière convaincante des émotions dans de telles circonstances.
À mon avis, nous ne construirons jamais une machine qui se sent, espère, a peur ou est heureuse. Et parce que c’est une condition préalable absolue à toute affirmation selon laquelle nous avons engendré une intelligence générale artificielle, nous ne créerons jamais un esprit artificiel en dehors de la vie.
C’est précisément là que réside la magie de 2001 : L’Odyssée de l’Espace. Pendant un instant, nous sommes amenés à croire à l’impossible, que la science-fiction pure peut l’emporter sur les faits du monde dans lequel nous vivons.