Vers un test de Turing généralisé
Un défi pour les machines et les êtres humains
Sur le modèle du test de Turing, nous proposons un nouveau jeu d’imitation, collectif et accessible à tous qui mettra en œuvre une nouvelle classe d’intelligence artificielle. Cette expérience a pour but d’explorer des questions scientifiques fondamentales sur la nature de l’information, comme des questions critiques sur l’évolution des rapports entre humains et machines.
par Olivier Auber(Center Leo Apostel (CLEA), transdisciplinary research center at the Vrije Universiteit Brussel), Jean-Louis Dessalles & Antoine Saillenfest (Université Paris-Saclay, ParisTech), Glenn Roland (indépendant).
French/English
Au-delà de l’imitation ?
« On peut se demander ce qui restera de l’homme après que l’homme aura tout imité en mieux.»
André Leroi-Gourhan (1965). Le geste et la parole, T. 2, p. 75.
Constatons que l’horizon qui semblait lointain pour André Leroi-Gourhan dans les années 1960 s’est singulièrement rapproché. Cependant, ce qu’il restera de l’homme arrivé à la limite de son jeu d’imitation reste toujours un mystère. Pour tenter d’y voir un peu plus clair, retournons un instant à la source de l’imitation.
Bien entendu, les humains n’ont pas le monopole de l’imitation. Les animaux savent très bien imiter, entre individus de la même espèce et entre espèces différentes. Mais seuls les humains semblent avoir cette capacité — unique à cette échelle — d’imiter leur environnement (y-compris eux-mêmes), en utilisant des objets externes à leur propre corps, ou en créant de toute pièce une grande variété d’artefacts, matériels ou immatériels.
Selon nous, cette forme particulière d’imitation est l’origine même du genre Homo. En effet, pour les premiers homininés, le silex a imité les dents, la massue a imité les poings. Tout porte à croire que ces premières armes ont rendu obsolète le combat à mains nues, et donc la domination physique et le type de hiérarchie sociale qu’elles faisaient régner. Ainsi, cette imitation première a sans doute marqué l’émergence d’une stratégie évolutionnaire propre à l’humain, reposant sur le langage et la technologie.
Après quelques millions d’années d’évolution, les machines imitatives ont surpassé les humains dans la plupart des activités physiques. Depuis seulement quelques décennies, elles tendent à les supplanter dans une gamme toujours plus étendue d’activités intellectuelles. Le schéma de développement de ces machines semble toujours le même : imiter certaines activités et les optimiser en vue d’un certain objectif.
Dans le domaine intellectuel ; gagner aux échecs et au go — c’est fait — ; imiter le style d’un peintre — c’est fait — ; écrire de la musique ou des textes comme des compositeurs ou des auteurs — c’est fait — , etc.
Cette capacité d’imitation se déploie aussi dans le domaine du vivant : des molécules manipulées imitent des molécules du corps pour produire certains effets. Des prothèses, implants et autres organes artificiels imitent des cœurs, des mains, voire des fonctions cérébrales. A son tour, le génome pourrait être imité…
Certains s’inquiètent de la possible domestication des humains par les robots (Elon Musk), doublée d’une scission de l’espèce (Jean-Michel Truong), voire de sa disparition pure et simple au profit d’intelligences artificielles (Stephen Hawking, Nick Bostrom). D’autres imaginent ce grand remplacement comme une singularité inéluctable (Chris Langton, Hans Moravec, Ray Kurzweil, Peter Diamantis). De leur côté, les acteurs industriels qui dépensent des sommes colossales dans la conception d’intelligences artificielles, se veulent rassurants : il ne s’agirait selon eux que d’augmenter l’intelligence humaine avec des “assistants personnels” (Eric Schmidt, Mark Zuckerberg, Yann Le Cun). Quelques voix s’élèvent pour dire que ces grandes peurs masquent les discriminations et l’exclusion que sont déjà en train de vivre des millions de personnes du fait des intelligences artificielles telles qu’elles existent déjà (Kate Crawford, Cathy O’Neil).
Aujourd’hui, le jeu d’imitation semble donc arriver à une limite. Néanmoins, nous faisons ici le pari que l’approche de cette limite va conduire les humains (nous ?) à découvrir qu’ils sont — eux-mêmes, leurs machines et le reste du vivant — , les véhicules d’un flux immatériel que nous appelons le “fil de la vie”.
Dessalles, J.-L., Gaucherel, C. & Gouyon, P.-H. (2016). Le fil de la vie — La face immatérielle du vivant. Paris : Odile Jacob.
L’expérience que nous proposons ici, va tenter de démonter les mécanismes informationnels sous-jacents aux jeux d’imitation. L’imitation ne serait qu’une partie d’un réseau enchevêtré de traces et d’empreintes informationnelles, visibles ou invisibles, matérielles ou immatérielles, déployé dans l’espace et dans le temps tels que nous croyons les connaître, et probablement relié à d’autres dimensions que nous ne faisons que commencer à deviner (Tomas Veloz, Diederik Aerts). Elle obéirait néanmoins à des lois. L’expérience permettra de mettre ces lois à l’épreuve des faits. A l’instar des détecteurs de particules ou des sondes spatiales, elle pourrait permettre d’explorer ce qui nous apparaît comme le nouveau continent pressenti par Leroi-Gourhan, ouvert par un possible changement de stratégie évolutionnaire : l’évolution technique comme substitut et prolongement de l’évolution biologique ; ce que l’un d’entre nous a baptisé l’aethogénèse, le passage d’un monde sans éthique à un monde avec éthique.
Auber O. (2019) : ANOPTIKON, une exploration de l’internet invisible, échapper à main de Darwin. FYP édition.
Une expérience paradoxale.
L’archétype même du jeu d’imitation est le fameux test de Turing (1950), fondé sur la capacité d’une machine à imiter la conversation humaine. Si l’homme n’est pas capable de dire que son interlocuteur est un ordinateur, on considère que le logiciel a passé le test avec succès. Et cela s’est produit il y a peu (bien que cela reste soumis à controverse).
Pour Alan Turing, les questions sous-jacentes étaient les suivantes :
Une machine peut-elle penser ?
Les êtres vivants sont-ils eux-mêmes des machines ?
Le destin tragique de Turing suggère que son interrogation a pris pour lui un tour existentiel. On peut supposer qu’il se soit demandé : “si la vie se résume à un jeu d’imitation (avec son lot de violence sociale), vaut-elle le coup d’être vécue ?”, et qu’il ait finalement conclu en mettant fin à ses jours.
Les questions qui ont survécu à Turing marquent bien l’aporie à laquelle conduit le jeu de l’imitation. Par exemple : alors que beaucoup voient la mise au point d’une véritable Intelligence artificielle comme une fin en soi et qu’ils y emploient des ressources considérables, les mêmes admettent sans trop de difficultés que celle-ci ne deviendra vraiment une réalité que lorsqu’elle sera capable d’envisager la question de sa propre finalité, au point, peut-être, de se réfuter elle-même. Comme un humain en somme ! Dès lors, pourquoi vouloir construire des intelligences artificielles ?
Si tant de paradoxes semblent accabler les êtres humains aujourd’hui, c’est selon nous parce qu’ils ont du mal à admettre, d’une part que si le test de Turing n’a pas déjà été passé, il le sera tôt ou tard, et d’autre part que l’on ne pourra pas en conclure que les machines pensent, pas plus que les hommes sont des machines. En effet, si le jeu de l’imitation reporté sur des objets externes est consubstantiel de l’humain depuis les premières armes des homininés ; alors ni les machines, ni les hommes ne peuvent penser indépendamment.
Les humains pensent avec les machines.
Les machines pensent avec les humains.
Dans le paradigme du “fil de la vie”, les humains, les machines et l’ensemble de l’écosystème ne sont pas “vivants” en tant qu’entités matérielles. Les véritables entités vivantes sont immatérielles, potentiellement éternelles, en lutte pour la survie, elles évoluent. Ces entités vivantes immatérielles sont des informations. Elles existent à travers les humains, dans leurs gènes, dans leur culture et leurs machines, et dans les écosystèmes. La vie produit l’information, lit l’information et se définit par l’information qu’elle porte.
Dans ce paradigme, l’imitation, en particulier via les machines, n’est qu’une modalité par laquelle l’information est véhiculée. Elle consiste à rendre simples des opérations complexes (se déplacer, échanger des informations, guérir des maladies, etc.). Cela a souvent pour conséquence de complexifier le monde par la suite (la circulation automobile, Internet, la génomique, etc.). A son tour, ce monde complexe donne l’occasion d’opérer des simplifications, et ainsi de suite. L’imitation apparaît comme un jeu social évolutif dont la finalité semble échapper aux machines comme aux humains.
Si elle ne peut accéder à cette finalité, l’expérience que nous proposons vise à éclairer une part des mécanismes selon lesquels l’information se transmet et se développe à travers les jeux d’imitation. C’est pourquoi ce nouveau jeu d’imitation n’est pas un “test” au sens de Turing, dans le sens où il ne s’agit pas (ou pas seulement) de distinguer l’homme de la machine, mais bien de mettre en lumière le fil qui les réunit.
Notons que notre cadre conceptuel s’applique à notre propre expérience qui a l’ambition de rendre simple des questions complexes à travers la mise au point de cette “machine” particulière.
Une double imitation
L’expérience met en œuvre deux imitations imbriquées :
1) un dispositif expérimental appelé “le Générateur poïétique” (GP). Ce dispositif est lui-même une imitation simplifiée des réseaux complexes (centralisés, décentralisés ou distribués) sur lesquels les collectifs humains échangent ordinairement de l’information (réseaux sociaux, marchés financiers, moteurs de recherche, réseaux pair-à-pair, blockchains, etc.). Le GP prend la forme d’un automate cellulaire dont chaque entité est activée en temps réel par un humain via ce réseau ; un “jeu de la vie” 100% humain en quelque sorte.
Comme de nombreuses expériences l’ont montré, l’image présentée par cet automate tend à s’auto-organiser. De l’interaction collective émerge de manière imprévisible une succession de formes simples et complexes, géométriques ou figuratives. La situation ainsi réalisée est le théâtre d’actions souvent vues comme créatives par ceux qui participent. Elle donne parfois le sentiment aux joueurs de l’émergence d’une sorte de “conscience collective”.
L’expérience que nous proposons est une variante du GP : toutes les cellules seront manipulées par des humains, sauf une, déterminée au hasard, sera contrôlée par une intelligence artificielle.
2) le deuxième élément mis en œuvre est une nouvelle classe d’intelligence artificielle capable d’accéder à ce qui est nommé couramment la “créativité”, voire la “conscience collective”, ou tout du moins d’imiter certains mécanismes cognitifs que nous croyons impliqués dans l’émergence de cette créativité et cette conscience au sein des collectifs humains. Selon nos hypothèses fondées sur la Théorie de la Simplicité, cette intelligence artificielle doit se comporter de façon à maximiser l’inattendu dans les situations qu’elle rencontre.
Nous avons pu vérifier qu’un modèle simplifié du Générateur poïétique (SPG) où toutes les cellules sont contrôlées par des instances d’une même intelligence artificielle programmée de cette façon, tend en effet à reproduire la même dynamique d’interaction que celle observée sur le GP “réel”.
L’idée est donc de plonger une instance de cette intelligence artificielle dans le contexte d’une interaction entre êtres humains de manière à voir, et à donner à voir, comment ensemble, ils se comportent. Cette expérience appelle une variété de questions qui pourraient se poser suivant cette chronologie :
- Pendant combien de temps l’intelligence artificielle aura-t-elle un comportement si proche de l’humain qu’elle pourra se faire passer pour l’un d’eux ?
- Quels détails de son comportement trahiront son caractère robotique ?
- Les humains sauront-ils produire des comportements qui résisteront à toute forme d’imitation par l’intelligence artificielle ?
- La forme du réseau (centralisé, décentralisé ou distribué) sur lequel est effectuée l’expérience a-t-elle une un influence sur le résultat du test ?
- Comment caractériser les comportements résistant à l’imitation ?
- S’ils sont caractérisables, pourquoi une IA ne peut-elle pas les imiter ?
- Si elle peut définitivement les imiter (test de niveau 1 réussi), le jeu fait-il encore sens pour les humains ?
- Si ce n’est pas le cas, pourrait-on dire que l’intelligence artificielle l’aura détruit ?
- De multiples instances de cette intelligence artificielle de niveau 1 seront-elles capables d’imiter à elles seules les comportements humains (test de niveau 2) ?
- Quelle méta-stratégie les humains déploieront-ils éventuellement pour lui redonner un sens ? Vers un test de niveau 3 ? Etc.
- Dans le paradigme du “fil de la vie”, quelles sont les informations qui se sont transmises dans les étapes précédentes ?
Un double défi
Le défi proposé par cette expérience est double : il concerne à la fois :
- la communauté scientifique (Intelligence artificielle, sciences cognitives, reconnaissance de formes et apprentissage profond) invitée à améliorer l’intelligence artificielle.
- tout-un-chacun, invité à contribuer à cette recherche en jouant au Générateur poïétique via son ordinateur ou son mobile, à débusquer le robot qui tente de se faire passer pour un humain, et surtout à se poser les questions sociétales que cette expérience appelle.
Les résultats attendus seront de nouvelles connaissances scientifiques sur la cognition, à partager dans un esprit de “science ouverte“ (open source, copyleft). Cependant, la finalité de ce nouveau jeu d’imitation entre hommes et machines ne se résume pas à l’obtention et à la diffusion de connaissances. Cette finalité reste une question ouverte que nous souhaitons voir débattue très largement dans ses dimensions éthiques. En particulier, Il se pose la question de l’utilisation de ces connaissances à des fins qui n’apparaissent pas souhaitables, et des moyens à mettre en œuvre pour les éviter.
Notamment, l’un d’entre nous propose à la discussion trois critères de “construction légitime” des systèmes d’information incluant ou non des intelligences artificielles :
A) Tout agent A a-t-il le droit réel d’accéder au réseau s’il en fait la demande? A peut-il quitter le réseau librement ?
AB) Tout agent B (présent ou futur, y compris les agents qui conçoivent, gèrent et développent le réseau) est-il traité comme A ?
ABC) Si trois agents A, B et C (trois étant le début d’une multitude) appartiennent à un réseau qui répond aux deux premiers critères, constituent ils des pairs? Autrement dit, sont-ils en mesure de se reconnaître, de se faire confiance, de se respecter les uns les autres, de construire des représentations communes et du sens commun ?
Le Générateur poïétique comme dispositif expérimental.
Le Générateur poïétique est un jeu, précurseur de nombreux jeux et réseaux sociaux sur Internet, imaginé par Olivier Auber en 1986. Son principe s’inspire de celui du “jeu de la vie” de John Conway et des “cadavres exquis” des surréalistes. Comme dans le go ou les échecs, le jeu se déroule à l’intérieur d’une matrice à deux dimensions. Le Générateur poïétique s’écarte néanmoins de ces de trois modèles sur plusieurs points :
Ce n’est pas un algorithme de type Conway mais bien des joueurs humains qui contrôlent en temps réel les éléments graphiques de la matrice, à raison d’une unité par personne. Contrairement aux cadavres exquis dans lesquels il y a toujours des parties cachées, ici toutes les actions des joueurs sont visibles en permanence par chacun d’eux. Enfin, contrairement à la plupart des jeux, il n’y a pas de notion de gagnant ou de perdant. Le but du jeu est simplement de faire l’expérience d’une sorte de de co-présence, voire de conscience collective en actes, qui peut se traduire par la co-création de des formes inattendues reconnaissables par tous et la possibilité pour chacun d’observer comment elles émergent.
Alors que le test de Turing original met en œuvre une conversation écrite entre deux interlocuteurs, le Générateur poïétique propose une forme de conversation visuelle entre un grand nombre de personnes par l’entremise d’un réseau (le nombre de joueurs simultanés est théoriquement illimité). La situation créée est similaire à celle d’une improvisation telle qu’elle se pratique en musique ou en danse, à la différence près qu’elle ne requiert aucune formation ou préparation (le jeu praticable dès l’âge de trois ans). La situation est aussi analogue à celles qui se développent sur des systèmes d’informations tels les places boursières, les plateformes sociales, les jeux massivement multi-joueurs ou les moteurs de recherche. A la différence de ces systèmes, dans le Générateur poïétique, tout est visible, connu ou connaissable de la part des joueurs. Les règles du jeu sont simples et s’appliquent à tous de manière transparente. En particulier, dans sa version de base, le Générateur poïétique est “100% humain” ; il n’existe aucun algorithme secret, ni aucun agent robotisé qui serait favorisé par ses capacités de calcul.
Les intelligences artificielles ont eu raison des échecs et du go parce que ces jeux sont essentiellement combinatoires et à finalité déterminée (gagner). Au contraire, le Générateur poïétique n’est pas réductible à un espace combinatoire et sa finalité est ouverte. C’est pourquoi, la conception d’une intelligence artificielle capable d’y jouer doit obéir à une logique totalement différente de celles qui se sont confrontées aux échecs et au go..
L’appellation « Générateur poïétique » dérive du concept d’autopoïèse en sciences du vivant et de celui de poïétique en philosophie de l’art. Elle traduit le processus d’auto-organisation à l’œuvre dans l’émergence continue de l’image collective.
Liens
Générateur poïétique “humain”
Jouer sur mobile ou sur ordinateur : http://poietic.net/
Site de référence : http://poietic-generator.net/
Aperçu de l’historique du projet : https://en.wikipedia.org/wiki/Poietic_Generator
Code source, GNU Affero General Public License
https://github.com/poietic-generator/poietic-generatorGénérateur poïétique “artificiel” :
http://spg.simplicitytheory.science/Test de Turing (1ère tentative selon le principe décrit dans le présent papier) :
https://poietic.telecom-paris.fr/
