La reconnaissance faciale : un pas biométrique vers la société de la surveillance ?

iStock-851960058-e1572449406157

 

Les dispositifs biométriques d’identification et de surveillance sont en train de s’imposer progressivement dans nos sociétés. La reconnaissance faciale, que l’on croyait réservée à des sociétés illibérales comme la Chine, s’invite de plus en plus dans nos pays, comme en Royaume-Uni, bien sûr, mais aussi en France. La CNIL vient de rendre un avis où elle s’oppose à la mise en œuvre de la reconnaissance faciale dans deux lycées de la région Sud (Nice et Marseille) où des tests avaient commencé en début d’année. Ces dispositifs s’avèrent illégaux au regard du droit européen sur les données personnelles. D’autres expérimentations sont en cours, que ce soit au niveau privé, local ou public, comme l’application d’authentification en ligne Alicem.

Alicem : l’authentification certifiée par reconnaissance faciale

La France va être le premier pays européen  à mettre en œuvre un outil d’authentification basé sur la reconnaissance faciale. Alicem (Authentification en ligne certifié sur mobile) en test depuis juin 2019, devrait être opérationnelle dès le mois de novembre. Cette application pour smartphone, développée par le ministère de l’intérieur et l’Agence nationale des titres sécurisés doit permettre d’accéder à plus de 500 services publics en ligne (via France Connect) de façon sécurisée en s’identifiant grâce à une technologie de reconnaissance faciale. Pour atteindre le niveau ‘élevé’ de l’identification électronique de eIDAS (règlement européen), Alicem va se baser sur les informations contenues dans la puce électronique d’un titre biométrique (passeport ou titre de séjour). Lors de la création du compte, Alicem vérifie par reconnaissance faciale que la personne qui utilise le smartphone est bien le détenteur du titre. » C’est un moyen de lutter contre l’usurpation d’identité. ». L’administration désire créer ainsi « une identité numérique régalienne sécurisée ». Alicem-la-premiere-solution-d-identite-numerique-regalienne-securisee_largeur_760-1

Malgré les assurances données par l’administration sur le respect des données personnelles (les informations restent sur l’appareil de l’utilisateur, elles ne sont partagées que par les services en ligne), le RGPD (Règlement général sur la protection des données) UE exige le consentement de la personne pour l’utilisation de données biométriques : la CNIL reproche donc au ministère de l’intérieur de ne pas recourir à des ‘dispositifs alternatifs de vérification ». La Quadrature du Net a aussi déposé un recours contre le décret de création d’Alicem devant le Conseil d’Etat. Pour l’association, » Alicem viole le RGPD car il ne peut exister de consentement libre si l’administré n’a pas d’autre choix que d’utiliser la biométrie pour accéder aux services en ligne ».

Alors que des chercheurs et des juristes comme Felix Tréguier et Martin Drago s’inquiètent dans une tribune au Monde de la  ‘banalisation’ de cette technologie, l’authentification biométrique aurait pour conséquence « un contrôle permanent et généralisé » au nom du ‘solutionnisme technologique », les députés Didier Bachère (LREM) et Stéphane Séjourné (Renew Europe), appellent eux à un ‘usage éthique’ de cette technologie. « Entre rejet en bloc de la reconnaissance faciale et usage débridé, il y a un chemin à définir dont la responsabilité incombe à la puissance publique ». Après avoir reconnu l’existence de biais dans cette « technologie qui n’est pas entièrement fiable sur le plan technique, son efficacité diffère selon les conditions d’utilisation mais également selon les populations (sexes, ethnies) », les élus appellent à une consultation citoyenne et à la création d’un comité d’éthique sur la question.  Ils reconnaissent néanmoins « les opportunités commerciales multiples de cette technologie et le fait que les utilisateurs de smartphones récents en font déjà usage » … Les opportunités commerciales retiennent aussi l’attention de F.Tréguier et M. Drago comme ils l’expriment  dans leur article : « permettre à des industriel comme Thales ou Idemia [entreprise de sécurité numérique] de se positionner face à la concurrence chinoise, américaine ou israélienne ». « Depuis des années, des entreprises développent ou testent ces technologies grâce à l’accompagnement de L’État et l’argent du contribuable ». Et si le Secrétaire D’État au numérique Cédric O, propose de créer une instance de supervision en coordination avec la CNIL sur la reconnaissance faciale, il reconnaît aussi que « Expérimenter est nécessaire pour que nos industriels progressent ».

Le CREOGN (Centre de recherche de l’Ecole des officiers de la gendarmerie nationale) a une position assez semblable : dans une note de septembre 2019, le Colonel Dominique Schoener examine « l’enjeu de l’’acceptabilité’ de la reconnaissance faciale et des contrôles préventifs sur la voie publique ». Il reconnaît que si cette technologie est banalisée dans ses usages commerciaux, la population française n’est pas prête à en accepter l’exploitation par les forces de l’ordre dans n’importe quelles conditions. « Traumatisée par le régime de Vichy et son système d’enregistrement de l’identité, la société française conserve dans son ADN collectif des marqueurs de rejet du fichage étatique ». Comme la reconnaissance faciale ne peut pas être ‘désinventée’, il préconise « le consentement préalable du citoyen, et pas seulement son information, comme préalable à son usage légitime et légal sur la voie publique ». Pour cela, une technologie fiable et sûre doit pouvoir s’appuyer sur un cadre juridique consolidé avec un contrôle éthique et scientifique. Mais » la peur ou le principe de précaution ne doivent pas empêcher l’expérimentation qui seule permet de se rendre compte des biais et des apports d’une innovation ». Et d’évoquer la dernière expérimentation de la société chinoise Watrix : un logiciel de reconnaissance de la démarche, permettant d’identifier une personne de dos ou dissimulant son visage … reconnaissance-faciale

Or, c’est contre la privatisation de la sécurité que Mireille Delmas-Marty s’insurge dans une tribune au Monde contre la ‘société de vigilance’ appelée de ses vœux par le Président de la République. « Au motif de combattre le terrorisme, le gouvernement risque de donner un coup d’accélérateur au glissement de l’Etat de droit à l’Etat de surveillance ». Dans son article, la juriste évoque ses craintes de « l’extension de la répression à la prévention, puis à une prédiction de plus en plus précoce. » Ce programme appellerait une autre dérive, « la privatisation de l’ordre public », « le glissement de l’Etat de surveillance à la surveillance sans Etat. ». Des entreprises comme Thales sont effet associées à des mairies (Nice) pour exploiter les ‘signaux faibles » à partir de données personnelles au sein d’un « centre d’hypervision et de commandement ».

Cet état de « vigilance sous surveillance » alerte aussi Simon Blin dans Libération. Car « cultiver, comme principe de société, la vigilance pour tout un chacun et à tout moment, c’est le contraire du sentiment de sécurité ». Citant la philosophe et psychanalyste Hélène Lhuilliet « Plus fort encore que la surveillance, la vigilance est une sensation de danger presqu’artificielle ». La vigilance ne s’inscrit pas dans la continuité, elle est un état précaire. « Il y a dans l’idée de ‘société de vigilance’, celle d’une justice prédictive. Or il est impossible de tout prévoir ». Quant à la question des repérages de ‘signaux faibles’ (par ex. dans les cas de radicalisation), autant « elle est légitime dans les institutions chargées de la sécurité publique (police, armée, prison), elle n’a pas grand sens dès lors qu’on l’élargit à l’ensemble de la société ». Le risque est de créer une « armée de faux positifs » sur la base du ressentiment personnel ou de l’interprétation de chacun du concept de laïcité, comme l’évoque le sociologue Gérald Bronner.

De nombreuses autres utilisations et expérimentations de la reconnaissance faciale sont en cours en France, comme l’explique Martin Untersinger dans son article du Monde : à Nice sur la voie publique, aux Aéroports de Paris, Valérie Pecresse voudrait aussi l’expérimenter dans les transports d’Ile de France. Air France compte bientôt remplacer les cartes d’embarquement par un dispositif de reconnaissance faciale. Sans oublier les fichiers de police pour retrouver un suspect à partir d’une photo ou des caméras de surveillance …

Bilans mitigés

chappatte_surveillance_internetMais si en France, on en est encore dans l’enthousiasme de l’expérimentation, dans d’autres pays les bilans sont plutôt négatifs. Aux Etats-Unis, L’État de Californie, San Francisco et plusieurs villes ont interdit la reconnaissance faciale et à New York, la police a triché avec cette technologie pour arrêter des suspects … Et le candidat Bernie Sanders promet l’interdiction de cette technologie sur tout le territoire. En Angleterre une expérience de vidéosurveillance « intelligente » lors du carnaval de Notting Hill à Londres en 2017 a abouti à 35 cas de ‘faux positifs’ et à l’arrestation d’un innocent !

Aux États-Unis le groupe de chercheurs AINow, comprenant des employés de Google et de Microsoft appellent dans leur rapport 2018 à la réglementation de la technologie « oppressive » de reconnaissance faciale. Ce groupe de recherche de la New York University a pour objectif de surveiller l’application sure de cette technologie. « La reconnaissance faciale et la reconnaissance des émotions (comme la détection des traits de personnalité) nécessite une réglementation très stricte pour protéger l’intérêt public ». Malheureusement, les GAFAM ne sont pas de cet avis : Amazon avait la possibilité de refuser de vendre sa technologie de reconnaissance faciale aux autorités policières et gouvernementales, mais ses actionnaires ont rejeté cette proposition. Quant à Google, Bloomberg News relate que des employés de la compagnie l’accusent de les espionner à travers une extension du navigateur Chrome utilisé au sein de l’intranet de l’entreprise. L’outil signalerait automatiquement tout évènement programmé dans l’agenda qui concernerait plus de 10 bureaux ou 100 employés, d’après le rapport des salariés. La société se défend en invoquant un souci de limiter le spam dans les agendas, et soutient ne pas recueillir de données personnelles des employés. Cet épisode traduit les tensions existant dans la multinationale depuis que certains salariés veulent implanter un syndicat dans la société. 1536505721

Au Royaume Uni, le thinktank Doteveryone vient de publier un rapport sur la question de la reconnaissance faciale, cité par Hubert Guillaud dans InternetActu. Il demande au Conseil consultatif de la biométrie britannique d’organiser un débat public sur le sujet et exige « une interdiction tant que les individus exposés à cette technologie n’ont pas la capacité à ne pas être soumis à ces techniques et tant que les conditions de réparations n’ont pas été décidées ».

Sommes-nous parvenus au « capitalisme de surveillance », la dystopie cauchemardesque décrite dans l’ouvrage de l’universitaire américaine Shoshana Zuboff, analysé dans l’article de Frédéric Joignot ? Pour la psychologue sociale, « les GAFAM veulent notre âme, nous avons signé avec eux un contrat faustien ». Ces entreprises « ne se contentent pas de collecter des données d’usages et de services, elles intègrent dans les pages en réseaux et les machines intelligentes des dispositifs d’espionnage invisible. Ils repèrent ainsi, grâce aux algorithmes, nos habitudes les plus intimes. Ils reconnaissent nos voix et nos visages, décryptent nos émotions et étudient leur diffusion grâce à l’’affecting computing’ afin de capter la « totalité de l’expérience humaine comme matière première gratuite ». Pour Evgeni Morozov, S. Zuboff insiste trop sur la surveillance et pas assez sur le capitalisme : « En considérant le capitalisme de surveillance comme notre nouveau Léviathan invisible, elle rate la manière dont le pouvoir fonctionne depuis plusieurs siècles : le Léviathan invisible est avec nous depuis longtemps. ». Mais la chercheuse ne perd pas espoir : si elle applaudit au RGPD et défend les moteurs de recherche cryptés comme Tor, la résistance viendra des usagers et travailleurs du numérique qui feront comme les classes pauvres du 19e siècle qui se sont organisés en syndicats et association pour combattre le capitalisme industriel pour imposer des lois sociales et exiger un système démocratique et représentatif. Verrons-nous un jour cette révolution 3.0 ?

Untersinger, Martin. – Marseille, Nice, Saint-Etienne : les semonces de la CNIL face à de nouveaux projets sécuritaires. – Le Monde, 29/10/19

Lycées Nice Marseille : première victoire contre la reconnaissance faciale.La Quadrature du Net, 28/10/19

Tréguier, Félix ; Drago, Martin. – La reconnaissance faciale s’avère inéfficace pour enrayer la violence. – Le Monde, 24/10/19

Bachère, Didier ; Séjourné, Stéphane. – Pour une reconnaissance faciale éthique.  – Le Monde, 24/10/19

Delmas-Marty, Mireille. – La ‘société de la vigilance’ risque de faire oublier la devise républicaine. – Le Monde, 24/10/19

Gallagher, Ryan. – Google accused of creating spy tool to squelch worker dissent. – Bloomberg News, 24/10/19

Blin, Simon. – La ‘vigilance sous surveillance. – Libération, 22/10/19

Untersinger, Martin. - La reconnaissance faciale progresse, sous la pression des industriels et des forces de l’ordre. – Le Monde, 14/10/19

O, Cédric ; Untersinger, Martin. – « Expérimenter la reconnaissance faciale est nécessaire pour que nos industriels progressent : entretien. – Le Monde, 14/10/19

Ministère de l’intérieur. – Alicem, la première solution d’identité numérique régalienne sécurisée. – L’actu du ministère – Interieur.gouv.fr, 30/07/19

Schoenner, Dominique. – Reconnaissance faciale et contrôles préventifs sur la voie publique : l’enjeu de l’acceptabilité. – Notes du CREOGN, septembre 2019

Joignot, Frédéric. – La surveillance, stade suprême du capitalisme. – Le Monde, 14/06/10

Ohrvik-Scott, Jacob ; Miller, Catherine. – Responsible facial recognition technologies. – Doteveryone perspective, June 2019

Cimino, Valentin. – Les actionnaires d’Amazon décident de ne pas limiter la reconnaissance faciale. – Siècle digital, 26/05/19

Guillaud, Hubert. – La généralisation de la reconnaissance faciale est-elle inévitable ? – InternetActu.net, 13/03/19

AINow report 2018 – AINow Institute – New York University, Dec. 2018

 

Staypressed theme by Themocracy