Ni technophile ou technophobe, mais technocritique !

À l’heure où les discussions enflammées autour de l’intelligence artificielle vont bon train, Thierry Viéville, Directeur de Recherche de l’Inria en Neurosciences, s’impose en tant que lanceur d’alerte. Spécialisé en Neurosciences Computationnelles, Thierry entend éviter les écueils des faux problèmes pour recentrer débat et réflexions autour des véritables enjeux.  En ligne de mire : les géants de la tech.

Commençons par les bases. Quelles sont selon vous les principales idées reçues au sujet de l’IA qu’il est bon de corriger ?

Tout d’abord, il existe deux facettes à l’IA. Une technique, ancrée dans le réel, et qui regroupe des algorithmes devenus super puissants, et une fantasmée, qui s’est construite autour de croyances, de mythes, souvent très anciens, qui prennent racine bien avant la naissance officielle de l’IA dans les années 50. L’un de ces mythes, c’est celui du robot qui va travailler pour nous. Ce dernier peut prendre plusieurs formes : un esclave qu’on a déshumanisé pour mieux l’instrumentaliser, le Golem de la mythologie juive, sans compter sur les zombies ou monstre de Frankenstein. Le point commun de ces créatures, au-delà des esclaves : un mécanisme magique va leur donner vie, sous une forme monstrueuse. Dès que nous les percevons comme complexes, nous allons prêter à ces systèmes des intentionnalités dont ils sont en fait complètement dépourvus.

 

Ces mythes naissent-ils d’une tendance des hommes à anthropomorphiser ce qui les entoure ?

Vous avez raison de parler des hommes, il me semble que c’est un fantasme plutôt masculin… En psychanalyse, l’un des successeurs de Sigmund Freud, Georg Groddeck, avait analysé cette question. En simplifiant, il pensait que cette envie de vouloir fabriquer une vie artificielle provenait d’un complexe à ne pas pouvoir l’engendrer biologiquement.

 

Vers quelles dérives peut nous conduire cette tendance à projeter des intentions sur les machines ?

Elle peut avoir plusieurs effets. Le premier, c’est que l’on peut se laisser plus facilement manipuler. Certains n’ont pas hésité à faire recette dans les médias en puisant dans cette fantasmagorie. Et pendant ce temps-là, l’IA, la vraie, se développe à une allure folle, sans que l’on n’y prête trop attention. On peut soupçonner les géants de la tech de nous faire indéfiniment discuter du « sexe des anges » pour que l’on ne se pose pas les vraies questions sur un certain nombre d’algorithmes devenus ultra-performants, dans des domaines très précis.

 

Selon vous, les géants de la tech chercheraient donc à distraire notre attention ?

Entre autres, oui. Jean-Gabriel Ganascia, à la fois informaticien et philosophe, a très bien étudié la question et l’explique dans son dernier livre, Le mythe de la Singularité : faut-il craindre l’intelligence artificielle ?

 

Quels sont ces algorithmes sur lesquels travaillent les géants de la tech ?

Il est par exemple aujourd’hui possible de détecter des personnes souffrant de maladies mentales à partir de leur profils Facebook ! Très simplement, un laboratoire a comparé un ensemble de données offertes à ce réseau social par deux larges populations : l’une, composée d’individus souffrants de tels troubles, l’autre pas. Il s’avère que l’algorithme utilisé pour différencier ces deux catégories de personnes, qui est un algorithme « aveugle », ni réfléchi ni raisonné, a permis de dessiner une frontière entre les données des personnes souffrant de maladie mentale et les autres. Personne derrière n’a réfléchi aux caractéristiques des profils de personnes atteintes de schizophrénie : l’algorithme ressemble plutôt à un gros rouleau compresseur qui a vérifié et calculé que les données analysées sont assez riches pour pouvoir faire cette différence. Ces IA sont d’autant plus performantes qu’on les utilise dans un domaine très spécifique. Comme le spécifie le « no free lunch theorem », si l’on cherche un algorithme qui résolve un problème de la façon la plus performante possible, il faut lui soumettre le problème le plus spécifique possible. Cette notion contredit le fantasme selon lequel une IA générale résoudrait toutes sortes de problèmes.

 

Que pensez-vous de cet algorithme qui permet par exemple d’identifier la schizophrénie ?

Quel monde merveilleux, que celui dans lequel il est possible de diagnostiquer les schizophrènes précoces : cela leur permet de recevoir au plus tôt le meilleur traitement ? Ou pas ! Avant les juifs et les homosexuels, ce sont les schizophrènes qui ont été passés aux chambres à gaz, dans un monde qui voulait trier les humains. Ces deux visions, angélique ou diabolisée, sont volontairement sur-caricaturées. Ne soyons ni l’un ni l’autre ! Soyons critique ! Mais moi je ne veux être ni l’un ni l’autre, je veux être critique ! Je ne sais pas quelle est la bonne réponse, mais je veux qu’elle soit décidée par la société, et non définie par défaut ! Avant de discuter du pouvoir illusoire des IA, il vaudrait mieux discuter des mains entre lesquelles elles se développent.  Aujourd’hui, on laisse les géants de la tech prendre le pouvoir… Ce sont pour beaucoup des gentils qui portent des t-shirts, admettons. Mais dans notre démocratie, les pouvoirs régaliens, l’éducation, la justice sont des questions d’état. On en est plus ou moins satisfaits, certes, néanmoins, je ne comprendrais pas un monde tout cela serait pris en charge par une société privée. C’est comme si l’armée américaine avait délégué à d’autre structures le droit de tuer avec des drones… Avec un « comme si » tristement ironique…

 

Quel est votre rôle, et plus largement celui la communauté scientifique dans tout ça ?

Je veux pouvoir expliquer aux gens ce qu’est l’IA. La vraie, pas la fantasmagorique, de façon à ce que les gens se disent : « Ah oui d’accord, cela marche comme cela, donc… ». Et dès qu’un citoyen ou citoyenne se dit « donc », notre travail de vulgarisation scientifique est réussi.