Notre quotidien est gouvern\u00e9 par des algorithmes. Ils s\u2019immiscent dans notre vie, quels que soient notre place et notre \u00e2ge dans la soci\u00e9t\u00e9. L\u2019algorithme omnipotent nous semble paradoxalement invisible. Les r\u00e9sultats du sondage men\u00e9 par l\u2019IFOP pour la CNIL en janvier 2017 sont \u00e9loquents : \u00ab\u2009si 83 % des Fran\u00e7ais ont d\u00e9j\u00e0 entendu parler des algorithmes, ils sont plus de la moiti\u00e9 \u00e0 ne pas savoir pr\u00e9cis\u00e9ment de quoi il s\u2019agit (52 %). Leur pr\u00e9sence est d\u00e9j\u00e0 appr\u00e9hend\u00e9e comme massive dans la vie de tous les jours par 80 % des Fran\u00e7ais qui consid\u00e8rent, \u00e0 65 %, que cette dynamique va encore s\u2019accentuer dans les ann\u00e9es qui viennent.\u2009\u00bb[1]<\/p>\n
\u00c9pisode 2 : Les algorithmes : un p\u00eale-m\u00eale discriminant<\/b><\/p>\n
L\u2019\u00e9tude <\/span> \u00ab\u00a0 Algorithmes : biais, discriminations et \u00e9quit\u00e9\u2009\u00bb<\/span><\/a> rappelle le cas d\u2019Amazon, qui avait mis en place un algorithme pour recruter ses futurs employ\u00e9s. L\u2019algorithme utilisait des donn\u00e9es de centaines de milliers de CV re\u00e7us au cours des dix derni\u00e8res ann\u00e9es pour attribuer aux candidats une note allant de 1 \u00e0 5 \u00e9toiles, \u00e0 l\u2019image de l\u2019\u00e9valuation de produits. Ce mode op\u00e9ratoire de recrutement a \u00e9t\u00e9 suspendu : \u00ab\u2009il attribuait de mauvaises notes en particulier aux CV contenant les mots women\u2019s et d\u00e9favorisait les dipl\u00f4m\u00e9es de coll\u00e8ges am\u00e9ricains uniquement r\u00e9serv\u00e9s aux femmes.\u2009\u00bb<\/span><\/p>\n Une enqu\u00eate r\u00e9alis\u00e9e dans le cadre du d\u00e9bat public par la CFE-CGC aupr\u00e8s de ses adh\u00e9rents conforte cette crainte de voir les algorithmes comme des outils discriminants : \u00ab\u200972 % des r\u00e9pondants envisagent comme une menace la possibilit\u00e9 d\u2019\u00eatre recrut\u00e9 par des algorithmes, sur la base d\u2019une analyse de leur profil et de sa compatibilit\u00e9 \u00e0 un poste d\u00e9fini. 71 % d\u2019entre eux affirment ainsi que la d\u00e9finition d\u2019une charte \u00e9thique autour de l\u2019usage des algorithmes constitue une r\u00e9elle priorit\u00e9.\u2009\u00bb<\/span><\/p>\n L\u2019\u00e9tude de Telecom Paris Tech relaie l\u2019\u00e9valuation men\u00e9e outre-Atlantique par ProPublica, organisation ind\u00e9pendante \u00e0 but non lucratif, de la soci\u00e9t\u00e9 Northpoint dans le cadre de l\u2019analyse COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Apr\u00e8s avoir \u00e9tudi\u00e9 pendant deux ans un outil algorithmique sur le risque de r\u00e9cidive de d\u00e9linquance, les chercheurs ont r\u00e9v\u00e9l\u00e9 des r\u00e9sultats in\u00e9galitaires quant au traitement des donn\u00e9es entre les Afro-Am\u00e9ricains et les blancs. \u00ab\u2009Les accus\u00e9s blancs sont souvent pr\u00e9dits moins risqu\u00e9s qu\u2019ils ne le sont et <\/span>a contrario<\/span><\/i>, les accus\u00e9s noirs sont souvent pr\u00e9dits plus risqu\u00e9s qu\u2019ils ne le sont.\u2009\u00bb<\/span><\/p>\n Le cas \u00ab\u2009Parcoursup\u2009\u00bb : l\u2019opacit\u00e9 des algorithmes point\u00e9e du doigt<\/b><\/p>\n En France, dans un tout autre domaine, l\u2019usage des algorithmes dans la s\u00e9lection des \u00e9tudiants a \u00e9t\u00e9 vivement critiqu\u00e9. \u00c0 ce titre, la <\/span> d\u00e9cision<\/span><\/a> du D\u00e9fenseur des droits en date du 18 janvier 2019 donne son avis au sujet de la plateforme Parcoursup. Elle rappelle \u00ab\u2009que le recours au crit\u00e8re du lyc\u00e9e d\u2019origine pour d\u00e9partager les candidats en favorisant certains candidats ou en d\u00e9favorisant d\u2019autres en fonction du lieu g\u00e9ographique dans lequel l\u2019\u00e9tablissement est situ\u00e9 peut \u00eatre assimil\u00e9 \u00e0 une pratique discriminatoire, s\u2019il aboutit \u00e0 exclure des candidats sur ce fondement.\u2009\u00bb. De m\u00eame, elle invite \u00e0 \u00ab\u2009prendre les mesures n\u00e9cessaires, sur le plan l\u00e9gislatif et r\u00e9glementaire, afin de rendre publiques toutes les informations relatives au traitement, y compris algorithmique, et \u00e0 l\u2019\u00e9valuation des dossiers des candidats par les commissions locales des \u00e9tablissements d\u2019enseignement sup\u00e9rieur en amont du processus de leur affectation\u2009\u00bb. En janvier 2020, le Conseil constitutionnel a \u00e9t\u00e9 saisi par le Conseil d\u2019\u00c9tat d\u2019une <\/span> question prioritaire de constitutionnalit\u00e9<\/span><\/a> d\u00e9pos\u00e9e par l\u2019Unef, le syndicat \u00e9tudiant. Dans sa <\/span> d\u00e9cision<\/span><\/a> en date du 3 avril 2020, le Conseil Constitutionnel \u00ab\u2009a estim\u00e9 que le fait de ne pas d\u00e9voiler les algorithmes locaux apr\u00e8s l\u2019appr\u00e9ciation des commissions d\u2019examen portait effectivement atteinte au droit \u00e0 l\u2019acc\u00e8s aux documents administratifs garanti par l\u2019article 15 de la D\u00e9claration des droits de l\u2019homme.\u2009\u00bb Tout en garantissant la protection du secret des d\u00e9lib\u00e9rations, le Conseil Constitutionnel recommande aux \u00e9tablissements d\u2019enseignement sup\u00e9rieur \u00ab\u2009de publier leurs crit\u00e8res de s\u00e9lection sous la forme d\u2019un rapport une fois la proc\u00e9dure Parcoursup termin\u00e9e, lesquels devront pr\u00e9ciser dans quelle mesure des traitements algorithmiques ont \u00e9t\u00e9 utilis\u00e9s pour proc\u00e9der \u00e0 l\u2019examen des candidatures\u2009\u00bb.<\/span><\/p>\n Un cha\u00eenage de la donn\u00e9e complexe<\/b><\/p>\n Ces exemples diff\u00e9rents montrent combien le cha\u00eenage de la donn\u00e9e a \u00e9norm\u00e9ment d\u2019importance et n\u2019\u00e9pargne aucun domaine. Nous avons en souvenir le scandale \u00ab\u2009Cambridge Analytica\u2009\u00bb, soci\u00e9t\u00e9 qui a exploit\u00e9 des donn\u00e9es de dizaines de millions d\u2019utilisateurs \u00e0 des fins politiques lors de la campagne pr\u00e9sidentielle am\u00e9ricaine de 2016. L\u2019algorithme peut \u00eatre aussi un outil \u00e9conomique d\u00e9loyal, \u00ab\u2009le <\/span>self preferencing<\/span><\/i>\u2009<\/span>\u00bb,<\/span><\/i> utilis\u00e9 pour favoriser ses propres produits : la Commission europ\u00e9enne a condamn\u00e9 pour ce motif Google en 2017 \u00e0 payer une amende de 2,4 milliards d\u2019euros. La commissaire europ\u00e9enne \u00e0 la Concurrence, <\/span> Margrethe Vestager<\/span><\/a> a engag\u00e9 r\u00e9cemment une proc\u00e9dure contre Amazon dans le cadre d\u2019une enqu\u00eate sur cette \u00e9ventuelle pratique anticoncurrentielle.<\/span><\/p>\n Les biais algorithmiques ne sont cependant pas tous le fruit d\u2019une opacit\u00e9 intentionnelle, comme le souligne Benoit Rottembourg, pilote du projet Regalia<\/span>[2]<\/span>, conduit par l\u2019Institut national de recherche en sciences et technologies du num\u00e9rique (Inria)<\/span>[3]<\/span>. \u00ab\u2009Il y a des couches de logiciels qui peuvent s\u2019empiler d\u2019ann\u00e9e en ann\u00e9e dans une entreprise ou une administration, et qui r\u00e9sultent en une r\u00e9ponse algorithmique inexplicable tant elle est noy\u00e9e d\u2019informations pass\u00e9es et pr\u00e9sentes.\u2009\u00bb Mais selon lui, \u00ab\u2009l\u2019\u00c9tat a un devoir d\u2019irr\u00e9prochabilit\u00e9\u2009\u00bb en mati\u00e8re de r\u00e9gulation algorithmique.<\/span><\/p>\n [1]<\/span> Sondage extrait du rapport de la CNIL, <\/span> \u00ab Comment permettre \u00e0 l\u2019homme de garder la main : les enjeux \u00e9thiques des algorithmes et de l\u2019intelligence artificielle \u00bb<\/span><\/a>, 2017<\/span><\/p>\n [2]<\/span> Projet conduit par l\u2019Inria et qui a pour ambition de construire un environnement logiciel de test et d’aide \u00e0 la r\u00e9gulation pour faire face aux risques de biais et de d\u00e9loyaut\u00e9s engendr\u00e9s par les algorithmes des plates-formes num\u00e9riques.<\/span><\/p>\n [3]<\/span>\u00a0 https:\/\/www.inria.fr\/fr\/pour-une-regulation-des-algorithmes<\/span><\/p>\n <\/p>\n