Démystifier les algorithmes

Le CNRS fêtait ses 80 ans en 2019. Dans ce cadre, des chercheurs, artistes, professionnels de la communication et hommes politiques ont répondu à l’invitation du comité de rédaction de la revue Hermès pour discuter, entre autres, du rôle des algorithmes dans la société.

Nous reproduisons ici un extrait de l’article de Gilles Rouet, Université de Versailles Saint-Quentin-en-Yvelines, « Démystifier les algorithmes”, Hermès, n° 85, 2019, p. 23-31.

Retrouvez l’intégralité de cette analyse dans le numéro 85 de la revue Hermès (CNRS éditions et cairn.info). 

 

La question de la qualité des données est à la fois essentielle et assez peu discutée. Par rapport, en premier lieu, aux algorithmes eux-mêmes : les dispositifs actuels ont souvent besoin d’une quantité énorme de données, par exemple les systèmes de reconnaissance et de définition de catégories à partir d’images. Sur ce plan, la performance humaine est (toujours) bien plus importante, en particulier en tenant compte de l’énergie dépensée !

De plus, les données elles-mêmes peuvent être sujettes à caution, en particulier quand il s’agit de les utiliser par rapport à un objectif précis, alors que leur construction a été élaborée avec une autre démarche. L’analyse simultanée de différentes données peut aussi donner lieu à la création de « faux » positifs. Par exemple, une carte bancaire utilisée dans un pays étranger signalé comme risqué peut être bloquée par la banque quand l’algorithme prédit une fraude probable, alors que le titulaire est en voyage pour la première fois dans le pays. Plus dramatiquement, des demandeurs de crédits peuvent voir leur demande rejetée, car les données analysées relatives à leur compte en banque les classent dans une catégorie à risque de mauvais payeurs.

La composition des corpus de données peut induire des résultats biaisés : par exemple, un déséquilibre entre hommes et femmes dans une base de données relative à des embauches passées dans une entreprise, utilisée comme références d’un algorithme d’aide au recrutement, peut aboutir à la discrimination de candidates qualifiées.

 

Biais de sélection

Si les données de références utilisées pour l’apprentissage d’un algorithme, pour classer ou prédire, sont inexactes ou partielles, alors les résultats obtenus ne correspondront certainement pas à l’objectif. Il en est de même si certaines données essentielles pour le problème posé ne sont pas disponibles, ou bien sont difficiles, voire impossibles à obtenir, faute, par exemple, de méthodologie de recueil. Les biais de sélection, dans le cas d’échantillons tronqués ou non représentatifs, sont également courants, par exemple dans le cas d’entreprises qui ne disposent que des données de leur clientèle.

Les impacts discriminatoires sont au centre de l’analyse de Cathy O’Neil pour qui les algorithmes incriminés sont des « armes de destruction mathématique » qui « promettent efficience et équité, mais pervertissent en réalité l’enseignement supérieur, aggravent l’endettement, favorisent une incarcération massive, oppriment en toutes occasions les plus pauvres, et sapent la démocratie » (2018, p. 297).

 

Erreur et correction

D’autres biais cognitifs peuvent aussi être identifiés, car les algorithmes sont composés par des programmeurs humains, avec leurs stéréotypes et leurs représentations. De plus, le programmeur peut ne pas chercher à vérifier l’exactitude des mises en relations proposées. Des corrélations, même illusoires, peuvent ainsi être utilisées alors même que les événements mesurés sont indépendants. La manière de formuler les questions ou de présenter des informations peut aussi influencer le programmeur (« framing ») (Bertail et al., 2019).

Les biais sont reproductibles, tout comme, très généralement, les erreurs : mauvaise saisie, problème d’acquisition, etc. Il est en effet très difficile, même après correction dans une base de données particulière, et étant donnée l’architecture des centres d’archivage, de définitivement corriger ou effacer, comme il est difficile d’envisager qu’un algorithme, de lui-même, puisse réguler certains biais, en particulier ceux induits par les données elles-mêmes : certaines variables peuvent en influencer d’autres, cachées, ou bien ne devant pas être prises en compte comme le sexe ou le quartier d’habitation par exemple.

 

Biais ou intention ?

Les algorithmes (dans le secteur privé) sont aussi souvent conçus pour prendre en compte des considérations économiques particulières, par exemple chercher à favoriser les produits les plus rentables d’une entreprise au détriment de l’intérêt du consommateur. Dans un tel cas, il ne s’agit pas de biais algorithmique, mais de stratégie particulière de la part de l’entreprise, pouvant s’analyser comme une tromperie pour le consommateur, ce qui justifie les poursuites diligent.es dans le cadre de la régulation du commerce électronique.

Les biais qui provoquent certains effets indésirables, comme des discriminations, ne sont cependant pas intentionnels, mais souvent induits par la qualité des données, une défaillance dans l’analyse préalable du corpus ou encore la construction même de l’algorithme. Il reste cependant difficile d’établir une stricte frontière entre biais et intentions. Par exemple, une recommandation sur Amazon peut être envisagée comme résultant d’un algorithme prédictif, à partir de l’historique d’un internaute, ou bien d’une stratégie de mise en avant de certains auteurs ou éditeurs. Il est probable que ces deux démarches s’articulent dans la réalité.

 

L’article d’origine « Démystifier les algorithmes » comprend quatre parties :

– Les algorithmes, des objectifs et des résultats

– Données et usages des algorithmes

– Neutralité et biais des algorithmes

– Critique de la « décision algorithmique »

 

Photos : TheDigitalArtist (1) ; Markus Spiske (2)


Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.