{"id":10068,"date":"2020-12-17T19:37:13","date_gmt":"2020-12-17T18:37:13","guid":{"rendered":"http:\/\/www.villes-internet.net\/site\/?p=10068"},"modified":"2021-07-16T10:39:22","modified_gmt":"2021-07-16T08:39:22","slug":"les-biais-algorithmiques-un-defi-majeur-dans-nos-societes-numerisees","status":"publish","type":"post","link":"https:\/\/www.villes-internet.net\/site\/les-biais-algorithmiques-un-defi-majeur-dans-nos-societes-numerisees\/","title":{"rendered":"Les biais algorithmiques : un d\u00e9fi majeur dans nos soci\u00e9t\u00e9s num\u00e9ris\u00e9es"},"content":{"rendered":"

Notre quotidien est gouvern\u00e9 par des algorithmes. Ils s\u2019immiscent dans notre vie, quels que soient notre place et notre \u00e2ge dans la soci\u00e9t\u00e9. L\u2019algorithme omnipotent nous semble paradoxalement invisible. Les r\u00e9sultats du sondage men\u00e9 par l\u2019IFOP pour la CNIL en janvier 2017 sont \u00e9loquents : \u00ab\u2009si 83 % des Fran\u00e7ais ont d\u00e9j\u00e0 entendu parler des algorithmes, ils sont plus de la moiti\u00e9 \u00e0 ne pas savoir pr\u00e9cis\u00e9ment de quoi il s\u2019agit (52 %). Leur pr\u00e9sence est d\u00e9j\u00e0 appr\u00e9hend\u00e9e comme massive dans la vie de tous les jours par 80 % des Fran\u00e7ais qui consid\u00e8rent, \u00e0 65 %, que cette dynamique va encore s\u2019accentuer dans les ann\u00e9es qui viennent.\u2009\u00bb<\/span>[1]<\/span><\/p>\n

\u00c9pisode 1 : L\u2019algorithme, la nouvelle main puissante et invisible<\/b><\/p>\n

Les gestes du \u00ab\u2009clic\u2009\u00bb sur la toile, de recherches d\u2019emploi, d\u2019achats sur le web, de t\u00e9l\u00e9chargement d\u2019applications, de r\u00e9servation d\u2019une chambre d\u2019h\u00f4tel, d\u2019acc\u00e8s aux services publics num\u00e9riques s\u2019habillent d\u2019une apparente neutralit\u00e9. Parce qu\u2019un algorithme est le produit de technologie et de superposition de strates informationnelles complexes, il \u00e9chapperait \u00e0 la ma\u00eetrise et \u00e0 la r\u00e9gulation, y compris de ses concepteurs. Or, l\u2019algorithme est le r\u00e9sultat d\u2019interventions humaines successives qui brouillent le principe de responsabilit\u00e9 dans nos soci\u00e9t\u00e9s num\u00e9ris\u00e9es.<\/span><\/p>\n

L\u2019algorithme existe depuis des d\u00e9cennies, notamment dans le secteur bancaire, comme le rappelle le rapport intitul\u00e9 <\/span> \u00ab\u2009Algorithmes : pr\u00e9venir l\u2019automatisation des discriminations\u2009\u00bb<\/span><\/a> publi\u00e9 en 2020 par le D\u00e9fenseur des droits. En effet, afin d\u2019\u00e9valuer le risque financier par les banques, des algorithmes ont \u00e9t\u00e9 mis en place visant \u00e0 combiner diff\u00e9rents crit\u00e8res tir\u00e9s des renseignements fournis par les demandeurs de pr\u00eats. Un algorithme est donc un ensemble de r\u00e8gles et d\u2019instructions \u00e9crites en vue d\u2019obtenir un r\u00e9sultat.<\/span><\/p>\n

L\u2019utilisation intensive des algorithmes permise par la \u00ab\u2009puissance de calcul des ordinateurs et \u00e0 l\u2019exploitation massive de donn\u00e9es\u2009\u00bb a entra\u00een\u00e9 une r\u00e9volution dans les usages impliquant aussi bien le secteur priv\u00e9 que les administrations publiques, tous secteurs confondus : justice, police, collectivit\u00e9s locales, sant\u00e9, loisirs, culture, emploi, \u00e9ducation\u2026 Les algorithmes, coupl\u00e9s \u00e0 l\u2019intelligence artificielle, ont donn\u00e9 naissance au \u00ab\u2009machine learning\u2009\u00bb, technologie de l\u2019apprentissage automatique. Ces avanc\u00e9es technologiques engendrent des progr\u00e8s incontestables. Dans le rapport parlementaire du d\u00e9put\u00e9 et math\u00e9maticien C\u00e9dric Villani, intitul\u00e9 <\/span> \u00ab\u2009Donner un sens \u00e0 l\u2019intelligence artificielle\u2009\u00bb<\/span><\/a>, sont mis en exergue quelques performances en mati\u00e8re de sant\u00e9 : \u00ab\u2009l\u2019outil DeepMind de Google s\u2019appuie sur une technologie de lecture labiale automatique pour permettre aux personnes malentendantes de mieux comprendre et de restituer une discussion. Salesforce a lanc\u00e9 un algorithme de r\u00e9sum\u00e9 et de production automatique de texte pour les personnes souffrant de troubles de l\u2019attention.\u2009\u00bb<\/span><\/p>\n

Certes, les algorithmes cr\u00e9ent les conditions n\u00e9cessaires \u00e0 des \u00e9volutions spectaculaires, de la voiture autonome au d\u00e9veloppement des villes intelligentes, plus commun\u00e9ment appel\u00e9es \u00ab\u2009smart cities\u2009\u00bb. Ils d\u00e9montrent ainsi une efficacit\u00e9 dans le traitement r\u00e9p\u00e9titif \u00e0 grande \u00e9chelle, dans le tri de millions de r\u00e9sultats et de proposer la solution la plus optimale possible.<\/span><\/p>\n

Mais cet agr\u00e9gat d\u2019informations draine de nombreuses inqui\u00e9tudes. L\u2019\u00e9tude <\/span> \u00ab\u00a0 Algorithmes : biais, discriminations et \u00e9quit\u00e9\u2009\u00bb<\/span><\/a> publi\u00e9e en 2019 par Telecom Paris Tech, en collaboration avec la fondation Aebona, indique que les algorithmes d\u2019apprentissage statistique ont besoin d\u2019une massification de donn\u00e9es pour produire des r\u00e9sultats, et la qualit\u00e9 des donn\u00e9es d\u00e9termine la qualit\u00e9 des r\u00e9sultats. Les chercheurs posent ainsi la question : \u00ab\u2009que se passe-t-il si les donn\u00e9es sont erron\u00e9es ou fauss\u00e9es\u2009?\u2009\u00bb Par ailleurs, la quantit\u00e9 de data exploit\u00e9es ne sp\u00e9cifie pas les conditions de collecte de ces donn\u00e9es. Aussi, il semble compliqu\u00e9 d\u2019apporter un regard homog\u00e8ne sur l\u2019exploitation des r\u00e9sultats.<\/span><\/p>\n

La main de l\u2019homme, cr\u00e9ateur du biais algorithmique<\/b><\/p>\n

Les r\u00e9sultats des algorithmes d\u00e9pendent de la mani\u00e8re dont les programmeurs les ont \u00e9crits. \u00ab\u2009Un algorithme n\u2019est en r\u00e9alit\u00e9 qu\u2019une opinion int\u00e9gr\u00e9e aux programmes\u2009\u00bb, selon l\u2019expression de la math\u00e9maticienne Cathy O\u2019Neil. Le concept de neutralit\u00e9 technologique n\u2019est pas pertinent pour les chercheurs qui lui pr\u00e9f\u00e8rent celui de loyaut\u00e9, \u00ab\u2009impliquant que les r\u00e9sultats produits soient conformes aux attentes des utilisateurs et des consommateurs.\u2009\u00bb<\/span><\/p>\n

Le D\u00e9fenseur des droits pointe que l\u2019abondance des data n\u2019emp\u00eache pas le manque de repr\u00e9sentativit\u00e9 des donn\u00e9es mobilis\u00e9es. Le rapport fait appel \u00e0 une \u00e9tude r\u00e9alis\u00e9e en 2018 expliquant en quoi les syst\u00e8mes de reconnaissance faciale attestent de grandes difficult\u00e9s \u00ab\u2009pour identifier les femmes, les personnes non blanches et davantage encore les femmes de couleur, en produisant un taux d\u2019erreur significatif pour ces populations : le stock de donn\u00e9es sur lesquelles le mod\u00e8le s\u2019appuyait \u00e9tait marqu\u00e9 par une tr\u00e8s forte pr\u00e9dominance des visages masculins et blancs.\u2009\u00bb Les algorithmes sont une traduction math\u00e9matique d\u2019un logiciel qui est dat\u00e9, entra\u00eenant des discriminations syst\u00e9miques.<\/span><\/p>\n

[1]<\/span> Sondage extrait du rapport de la CNIL, <\/span> \u00ab Comment permettre \u00e0 l\u2019homme de garder la main : les enjeux \u00e9thiques des algorithmes et de l\u2019intelligence artificielle \u00bb<\/span><\/a>, 2017<\/span><\/p>\n\n\n\n
Dossier sp\u00e9cial : les biais algorithmiques<\/b><\/p>\n