Les Chiefs Ethics Officers : la fausse nouveauté

Credit : GettyImages

Garant de l’ethics by design ? Epouvantail à scandales ? Chef d’équipe transdisciplinaire ? La tech doit se préparer à l’arrivée de nouveaux « directeurs de l’éthique » — moitié gendarmes, moitié philosophes. Pourtant, il se pourrait qu’ils ne soient que les rejetons de la bonne vieille « compliance ».


Face aux enjeux du développement technologique est venu le temps de la prise de conscience. 
Google Deepmind a créé fin 2017 une division dédiée à la recherche en éthique. Facebook a mis en place cette année son comité d’éthique. Le mouvement de l’« éthique » se répand comme une trainée de poudre sur le monde de la tech — le « chief ethic officer » en est le chef de file. 

Certains prédisent que ces questions nous mèneront à la multiplication de nouveaux « CEO » dans les entreprises. « Notre conviction est que les opérationnels ne pourront répondre seuls à ces questions. Nous allons donc voir apparaître, au niveau des comités exécutifs dans les années qui viennent une nouvelle fonction : celle de chief ethics officer. Ils devront comprendre les mathématiques et être de bons philosophes », déclarait en avril Sylvain Duranton, directeur de l’entité IA du Boston Consulting Group.

 

Avant l’éthique, la « compliance »

Née aux Etats-Unis au début des années 90, la fonction s’est développée rapidement à partir des années 2000 après les scandales Enron et Worldcom et la loi Sarbanes-Oxley sur la comptabilité et la transparence financière.

En France, la fédération professionnelle du secteur, le Cercle de la compliance, compte 172 membres issus des grandes entreprises françaises. On trouve un directeur de l’éthique chez L’Oréal ou à la RATP. La Poste et Aéroports de Paris ont créé des postes de déontologue, et chez Thalès, la fonction est nommée Ethique et responsabilité. Pour une fois, c’est la vieille économie qui est en avance.

Si on peut comparer la vieille « éthique » corporate et la nouvelle, il n’empêche que les enjeux sont aujourd’hui bien différents. La vieille éthique travaille sur des sujets bien encadrés par la loi, et l’objectif est justement pour l’entreprise de réussir à s’y tenir. « Les directions de l’éthique ont pour mission de sortir du catalogue de bonnes intentions pour rentrer dans des aspects très opérationnels », nous explique Catherine Delhaye, présidente du Cercle de la Compliance. Or, sans cadre réglementaire, l’éthique seule est bien relative…

Catherine Delhaye imagine que dans l’IA, « cela se mettra en place même sans loi ni réglementation, parce qu’il faut rassurer les gens, qui l’envisagent à la fois avec fascination et terreur. Il faudra montrer que les entreprises sont capables de s’auto-discipliner.» Si au Cercle ce n’est pas le sujet du moment, « c’est le prochain », anticipe-t-elle. « Dans la tech, je pense que cela va devenir indispensable, d’autant que l’IA est la croisée de tous les domaines juridiques.»

 

Entre risk manager et évangélisateur de l’IA

Quel rôle attribuer exactement à ces CEO ? « Dans les comités d’éthique en entreprise, toutes les fonctions sont représentées pour faire vivre les sujets. Le chief ethics officer en est l’inspirateur, le coordinateur et le chef d’orchestre, décrit Catherine Delhaye. Mais l’impulsion part des comités de direction. » Pour elle, dans le domaine de l’IA, « il s’agit d’examiner les zones de risques, et de déterminer les limites. »

Mais comment éviter que la création d’un tel poste ne soit pas juste de l’éthique washing ? L’expérience de Tristan Harris, ancien de l’éthique chez Google, désormais contempteur des dérives de la Silicon Valley et fondateur de l’ONG Time Well Spent, qui a pour but d’éduquer aux technologies moralement acceptables, semble indiquer qu’il est illusoire d’espérer changer le système de l’intérieur.

Thomas Solignac, DG et cofondateur de Golem.ai, une start-up française qui développe des solutions d’analyse du langage humain et organise chaque mois les conférences « AI & Society », n’est pas non plus convaincu. « Quels seraient leurs leviers d’action ? Il faut avant tout une responsabilisation. A ce stade, il faut éclairer. C’est ce que fait la Déclaration de Montréal par exemple, qui est très intéressante. Car on est dans une époque où il n’y a pas de bonnes pratiques. Il n’y a que des pratiques émergentes », nous explique t-il.

Ce qui le conduit toutefois à relativiser : « Un chief ethics officer pourrait avoir cette position d’éclairer, de comprendre les différents aspects de l’IA. Car c’est un domaine dont seule une lecture pluridisciplinaire permet de comprendre les problématiques », estime le jeune patron, qui a également étudié la philosophie.

 

« Ils faut que d’autres s’impliquent»

Rien ne dit que ces chief ethics officers ne soient pas amenés, à l’avenir, à rendre des comptes. L’UE planche notamment sur des principes généraux pour encadrer l’intelligence artificielle. Pour Paul Nemitz par exemple, conseiller principal à la direction générale de la justice de la Commission européenne, les codes d’éthique ne sont pas suffisants pour encadrer l’IA. « Il faut des lois », déclare-t-il au Guardian.

In fine, les CEO — du moins les comités d’éthique — deviendront peut-être obligatoires dans les entreprises d’IA. Après tout, c’est ce qui s’est passé dans la santé. Dans les hôpitaux, en France les comités d’éthique sont une obligation légale depuis 2002, nous rappelant à nouveau que la problématique n’est pas nouvelle. 

Comme le résume Thomas Solignac, « l’intelligence collective, c’est peut-être ce qu’il y a de mieux pour s’assurer de l’éthique. Ma conviction, c’est qu’il ne faut pas laisser cette question dans les mains des entrepreneurs et des ingénieurs. Il faut que d’autres personnes s’impliquent. »