Pourquoi nos IA sont-elles encore sexistes ?

Credit : Burst

Il y a quelques mois, l’agence Reuters révélait qu’Amazon avait mit fin à son projet de recrutement par une intelligence artificielle empreinte du sexisme de ses concepteurs. Il y a quelques semaines, Google devait rattraper les gaffes de son outil de traduction qui assignait des genres de manière automatique à des métiers, réservant les moins valorisants pour les femmes. Quand nous débarrasserons-nous enfin des biais sexistes de nos IA ?

C’était la question posée à la chercheuse et informaticienne Isabelle Collet, à l’entrepreneur public Frédéric Bardolle, et au responsable juridique de la legaltech Doctrine.fr, Hugo Ruggieri. Une table-ronde organisée à Paris à l’occasion de la seconde journée nationale « Ensemble contre le sexisme ». Retour sur un débat animé qui fait le point sur la situation.

Quand l’IA nous met face au mur

« Si nos IA sont sexistes, c’est d’abord à cause des jeux de données » explique Frédéric Bardolle, membre de Data For Good et AlgoTransparency. Les données témoignant du passé, nos IA sont naturellement « conservatrices ». L’enjeu est alors pour les concepteurs de rectifier le tir, en allant gommer les tendances discriminatoires ainsi révélées. Le problème, c’est que l’IA nous met face à nos propres contradictions, des noeuds à dimension politique : « Les questions sociétales sont exacerbées » souligne Isabelle Collet, spécialiste des questions de genre et de discrimination des femmes dans l’informatique et les sciences. « Même un outil comme Google Translate fini par poser des questions éthiques » rebondit l’avocat Hugo Ruggieri. Et si la responsabilité est grande, les réponses sont encore insuffisantes : les grands acteurs du numérique continuent de faire l’actualité au sujet des diverses dérives discriminatoires de leurs algorithmes d’apprentissage automatisés. Le songe de la neutralité de la technologie est encore (très) loin.

Nos assistant(e)s intelligent(e)s

Selon Isabelle Collet, une grande part du problème réside dans le fait que nous ayons beaucoup de mal à penser en dehors de nos propres codes. Nous avons pourtant essayé : un exemple d’avatar non-genré par excellence était le petit outil trombone du traitement de texte de Microsoft, ancêtre de nos chatbots, aujourd’hui incarnés en grande majorité par des femmes ou des hommes. « A travers les incarnations genrées des assistants personnels, on surtype un monde déjà stéréotypé » proteste la chercheuse. Et voilà que le film HER présente une assistante intelligente incarnée par la voix sensuelle de l’actrice Scarlett Johansson, dont (spoiler) le protagoniste tombera évidemment amoureux. De quoi renforcer sérieusement le stéréotype de la femme au service de l’homme, toujours disponible, serviable et aimante… Alors pour éviter de « surtyper » notre monde déjà empreint de codes, soyons inventifs quant aux profils de nos futurs compagnons numériques !

Le vilain petit canard

Si le sexisme de nos outils technologiques révèle une chose, c’est bien l’homogénéité des profils sociologiques de ceux qui les créent et les manipulent. La lutte contre le sexisme dans l’IA ne se fera pas sans les femmes, et sans une plus grande diversité dans les profils des concepteurs. Mathilde Groazil de Social Builder, startup sociale organisatrice de l’évènement le souligne : « Il faut plus d’égalité et de mixité dans la conception des produits de demain ». Fini l’illettrisme, la chercheuse Isabelle Collet évoque quand à elle la notion d’innumérisme. « Quand on parle d’usage, on estime volontiers que c’est pour tout le monde, mais quand il s’agit de la conception, la discussion se passe encore entre une poignée d’hommes ». Des hommes, blancs, de plus de quarante ans. Car si la cause des femmes mobilise, c’est surtout la question de la diversité au sens large qui se pose. « C’est cette diversité de parcours, de regards, de culture, qui permet de créer des choses nouvelles » nous confiait l’entrepreneur Anthony Babkine, à l’origine du projet Diversidays.

Pour une IA responsable et représentative de la diversité de ceux qu’elle impacte, il faudra être patients. Néanmoins, leurs violons s’accordent sur un même constat : l’IA est avant tout ce qu’on en fait.