vendredi 12 février 2016

Le chat, AlphaGo et Zhuangzi

Cela ressemble au titre d'une fable, et à vrai dire ce pourrait en être une si je savais l'écrire sous cette forme. Mais n'est pas Monsieur de la Fontaine qui veut, donc vous ferez avec ma prose habituelle. Commençons donc par le chat. Vous savez ce qu'est un chat, bien sûr, en tout cas vous savez le reconnaître quand vous en croisez un, et agir en conséquence, le nourrir, le caresser puis le chasser parce qu'il est insupportable, photo en ligne à l'appui bien sûr comme tout le monde.


Vous pouvez décider de voir un chat dans cette photo parce qu'elle illustre mes propos sur le chat, et de fait cela ressemble à un gros chat, même si vous lui trouvez un air pas très orthodoxe, mais bon il y a tant de races de chat et puis on ne le voit que de dos. Si vous connaissez un tant soit peu les chats, quelque chose vous dit que cet animal n'en est pas un, mais tous les arguments logiques que vous allez trouver à l'appui de ce point de vue seront difficiles à tenir et peu probants. Et puis tout dépend de comment on définit un chat, mais est-ce qu'une définition va vraiment vous aider à trancher dans ce cas? Les définitions du chat vont concerner son squelette, sa dentition, son régime alimentaire et autres paramètres dont justement vous ne pouvez pas juger ici. Donc la logique de la définition ne vous servira à rien, et vous finirez par dire que ce n'est pas un chat parce qu'on voit bien que ce n'en est pas un, point final, et vous me demanderez de prouver le contraire si je ne suis pas d'accord, et je serai dans le même embarras.

Cet exemple pour dire que pour savoir reconnaître (ou pas) un chat (ou à peu près n'importe quoi d'autre) quand on en voit un, et savoir quoi faire avec, on a rarement besoin de définition. D'ailleurs un enfant de deux ans, voire moins, sait bien ce qu'est un chat, et sait quoi faire et surtout ne pas faire avec, bien avant l'acquisition du langage nécessaire à l'utilisation de définitions, et largement avant l'apprentissage du raisonnement logique via les incontournables règles de l'accord du participe passé des verbes pronominaux et autres cas d'égalité des triangles. Et cette connaissance pragmatique du chat est opérationnelle la plupart du temps, les coups de griffes résiduels étant souvent plus liés au caractère notoirement fantasque du dit félin qu'à une erreur sémantique de l'enfant.

Il y a là une leçon importante. On construit du savoir opérationnel, puis le langage pour nommer ce qu'on sait et pouvoir en parler, puis la logique et le méta-langage pour pouvoir argumenter avec ses petits camarades, quand ils ne comprennent pas les choses qui devraient pourtant la plupart du temps aller sans dire. L'intelligence humaine se construit dans cet ordre, la logique est construite sur le langage, le langage sur la compréhension des choses, et pas le contraire. Et, nous explique entre autres experts +Monica Anderson, par exemple dans cette présentation, 99,999% de l'activité de notre cerveau, y compris celle qui engage notre intelligence (comme la reconnaissance des chats) n'utilise pas la couche logique du raisonnement conscient à base de règles. Donc, si nous devons construire une véritable intelligence artificielle à l'image de l'intelligence humaine, elle doit fonctionner, et donc se construire de la même façon par apprentissage à partir de l'expérience, et non par des algorithmes posés a priori. C'est la voie suivie par les méthodes dites apprentissage profond, implémentées dans des architectures de type réseaux neuronaux. Parmi les succès remportés par ces méthodes, on peut noter la reconnaissance de formes, le classement automatique d'images, la génération de légendes pour les dites images, et bien sûr celui qui a fait l'actualité dernièrement, la victoire du système AlphaGo contre un joueur de Go professionnel. 

Une caractéristique importante de ces systèmes de nouvelle génération est qu'ils sont faillibles comme l'intelligence naturelle qu'ils cherchent à copier, contrairement aux systèmes à base de logique formelle. Par exemple un tel système classerait peut-être la photo ci-dessus parmi les photos de chat (ou pas). La qualité du système ne se mesure pas en tout ou rien. Il s'améliore avec l'apprentissage, il fait de moins en moins d'erreurs, comme l'enfant avec les chats. Un système intelligent est un système qui intègre ses erreurs dans sa base de connaissances.

Une autre caractéristique plus dérangeante est que le système ne peut en général pas communiquer sous une forme lisible par des humains la justification de ses décisions. Il dira comme vous devant la photo plus haut ceci est (ou n'est pas) un chat parce que depuis le temps que je vois des chats, j'ai appris à les reconnaître. Et pour le jeu de Go il répondra comme les maîtres à qui on demande pourquoi ils ont joué tel coup, parce que c'était un bon coup

Et c'est là que nous retrouvons Zhuangzi, qui dénonce cruellement la vanité des débats logiques de son temps, et nous dit qu'un chat est un chat (ou un cheval) parce que c'est comme ça, mais dès que les logiciens se mettent à en discuter, cela ne mène à rien qu'à un peu plus de discorde dans le monde. Zhuangzi a certes des positions assez radicales sur le langage et son usage, mais il partage avec l'ensemble de la pensée chinoise ancienne un point de vue pragmatique sur la connaissance. Savoir, ce n'est pas savoir des définitions et raisonner dessus, mais c'est savoir faire, savoir être et agir de façon correcte. L'explication, la justification par des arguments logiques est souvent une perte de temps. Dans son indispensable Histoire de la pensée chinoise, Anne Cheng met en parallèle la démarche philosophique et celle de la peinture, dont nous avons déjà parlé.
De la même façon qu'en peinture le regard est toujours "en situation", l'intellect qui tente de discerner des repères est lui aussi en situation, il décide et fait la part des choses au fur et à mesure qu'il progresse dans le discours, sans chercher à établir des règles absolues et définitives (tel le syllogisme). C'est peut-être l'une des raisons pour lesquelles la pensée logique chinoise ne s'est jamais dotée d'un dispositif systématique de règles formelles.
Les recherches les plus modernes en intelligence artificielle rejoindraient donc le pragmatisme de la philosophie chinoise, et nous libéreraient de deux millénaires de tyrannie du Logos? Voilà une perspective plutôt réjouissante. Mais sommes-nous prêts à l'accepter? C'est une révolution culturelle majeure de faire confiance aux machines comme nous faisons confiance aux humains, sans savoir exactement pourquoi et sans qu'elles puissent nous donner des explications lisibles. Un choix trop important pour le laisser se décider dans les états-majors de Google, IBM, Microsoft et Facebook, qui investissent déjà des fortunes dans ce secteur stratégique. Car le jeu de Go et la reconnaissance de chats sont juste une vitrine, les enjeux dans le monde réel de tels systèmes s'appellent aide à la décision, régulation des systèmes de transports ou des réseaux d'énergie, etc. C'est pourquoi on ne peut que saluer une initiative comme OpenAI, dont le but est de favoriser toute la transparence possible sur la recherche en ce domaine.