Quand l’IA sera capable de nous tromper

Faut-il avoir peur des machines ? Voilà bien un sujet sur lequel auraient pu plancher les lycéens lors de l’épreuve de philosophie au baccalauréat. En soi, la question n’est pas plus nouvelle que la peur : après tout, la machine n’est pas beaucoup plus que l’autre qu’on craint parce qu’on ne le connaît que trop peu, ses capacités et ses intentions. Mais voilà, les progrès technologiques récents manifestés par la victoire, hier de DeepMind au jeu de go, et aujourd’hui d’Open AI aux jeux vidéos, n’est pas sans aiguiser les inquiétudes, tant auprès des experts que du grand public. Face à une IA qui semble gagner du terrain sur ce qui fait de l’homme un homme, le doute s’installe et les suppositions vont bon train. Après la créativité invoquée à tout bout de champs dans les médias, et si la ruse (métis) était finalement la ligne de démarcation entre intelligence naturelle et intelligence artificielle ?


La guerre des intelligences


Nous sommes entrés dans une ère où nos
intelligences se font la guerre. A cet état de fait, on rencontre plusieurs réponses. Celle des transhumanistes : l’homme doit prendre acte du dépassement prochain de l’intelligence de l’homme par une AI générale, et se hacker lui-même pour faire face à la toute puissance intellectuelle des machines. Une autre consiste à se comparer perpétuellement et philosophiquement à la machine comme l’homme le faisait autrefois avec l’animal. Et dans la presse, ce questionnement philosophique, nouveau “match du siècle” tourne à l’obsession médiatique.

Rien d’étonnant à cela. L’amélioration continue des IA spécifiques, en particulier dans les domaines créatifs et émotionnels, fait peser leur lots d’inquiétude sur la place de l’individu au travail. Pour rappel d’ici 2030, 15% des  métiers pourraient être touchés par l’automatisation. Si bien qu’on s’interroge sur ce qui dans l’entreprise et, plus largement dans la société, pourrait faire notre plus value par rapport aux bots. Quand on sait que le traitement de l’information d’une IA est 1000 fois plus rapide que la vitesse de pointe d’Usain Bolt, et que depuis peu, les machines, grâce au deep learning, peuvent apprendre d’elles-mêmes, les angoisses parraissent tout à coup beaucoup moins injustifiées.

 

L’intelligence, mère de tous les ruses ?

 

Ainsi battu à plate couture sur le terrain des mathématiques, de la « raison calculante », comme l’appelait Heidegger, l’individu se cherche de nouvelles chasses gardées, à l’abri de l’a féroce concurrence des IA. La dernière en date : les facultés artistiques et créatives de l’homme semblaient former la ligne de démarcation entre intelligence artificielle et naturelle. La créativité est devenu le nouveau buzzword à la mode. Face aux nouvelles technologies, l’homme sera créatif ou périra, seul et humilié. Mais voilà, l’intelligence artificielle a également investi le champs créatif. Elle est entrée en littérature. Elle peut diriger un orchestre.  

 

Si le critère de la créativité n’est pas assez déterminant, la ruse l’est bien plus. En effet, la civilisation grecque définissait la métis comme une forme d’intelligence des plus singulières, qui dépasse les capacités de nos machines calculantes. D’une intelligence faite d’astuces, de stratagèmes, et même de dissimulation, voire purement et simplement de mensonges. A mi-chemin entre tactique, esprit de finesse et ingéniosité, la métis est par excellence la vertu du renard — comme elle elle est celle d’Ulysse. Sans elle, ce dernier n’aurait jamais pu contourner mille obstacles avant de rentrer chez lui : un robot, s’il aurait pu trouver la faille du cylope, n’aurait certainement pas succombé aux charmes de Circé. En fait, parce qu’elle requiert une grande polyvalence, elle est pour le chercheur Jean-Pierre Vernant « la seule force capable de vaincre toutes sortes de forces. »  


Quand l’IA deviendra Ulysse


Or, encore aujourd’hui, l’IA n’a rien d’un maître Renard. La chercheuse américaine Janelle Shane, auteur du blog Ai Weirdness, s’amusait du fait que l’IA, pourtant gavée aux algorithmes de reconnaissance, ne savait pas toujours distinguer sensiblement un mouton : « Les performances des intelligences artificielles sont fragiles, explique-t-elle. Elles ne comprennent pas les problèmes qu’on leur demande résoudre. » Ainsi, ne devrait-on pas abandonner le test de Turing et faire de l’aptitude à la ruse, voire au mensonge, la mesure de l’évolution d’une IA générale ? Car pour mentir, ou ruser, il ne suffit pas seulement d’avoir une conscience ou une volonté propre. Il faut quelque chose de plus : la capacité à mettre momentanément à distance notre propre conscience, la suspension du jugement moral au nom d’une cause érigée pour un intervalle de temps en cause universelle.

Pour ceux qui rêveraient d’un monde à la sauce Terminator, le passage d’une IA faible à une IA forte passera par la feinte. L’intelligence artificielle devra se faire Ulysse, l’homme de toutes les ruses, de tous les tours et de toutes les feintes, à l’instar du film Ex Machina où, dans un huis-clos bien ficelé, l’IA se défait du piège que les humains lui ont dressé. Mais avant le Graal, encore faudrait-il que la machine se dote d’une conscience. Car selon Yann le Cun : « Un rat a plus de conscience que les meilleurs systèmes d’intelligence artificielle (IA) qu’on est capable de construire. »  Que Pinocchio devienne enfin un vrai petit garçon !