Le Big data et la société qui vient

Le Big data et la société qui vient :

de nouveaux défis à relever.

N'en déplaise à ceux qui continuent d'ânonner les vieux mantras, le monde change à une vitesse qui nous impose de réactualiser sans cesse nos réponses.

Ainsi, j'ai été très sensible à deux contributions des pages "Débats et analyses" du "Monde" daté 26-10-17, sur le thème "Les libertés à l'heure du Big data".

La première, signée par Renate SAMSON, directrice de l'ONG britannique https://bigbrotherwatch.org.uk/

nous alerte sur le fait que "Nous sommes tous devenus des citoyens numériques".

Après avoir rappelé que la généralisation de la vidéosurveillance au Royaume-Uni date déjà de 20 ans (avec l'arrivée au pouvoir de Tony Blair...), et que cette généralisation s'étend depuis à la plupart des pays qui en ont les moyens (dont le nôtre), elle nous fait remarquer que celle-ci connaît aujourd'hui un tournant majeur avec la mise en place de la "reconnaissance faciale biométrique".

Celle-ci s'appuie sur l'accumulation d'images enregistrées nominatives permettant la création de l'algorithme unique d'un visage.

Cette nouvelle technologie permettant d'identifier, grâce aux caméras de vidéosurveillance, une personne dans une foule, est en phase d'expérimentation avancée.

Elle repose, comme on l'a dit, sur des images nominatives. Celles-ci sont celles, pour le Royaume Uni, des 20 millions de personnes placées un jour ou l'autre en garde à vue. Mais elle peut être étendue à toute image nominative publiée sur Internet, donc aujourd'hui à pratiquement toute la population du pays, et au-delà en fonction des publics choisis.

De fait, c'est un recul sans précédent du droit à la vie privée qui se profile.

Or ce recul est gros d'effets pervers. En effet, la technologie de "reconnaissance faciale" est loin d'être sûre.

Imaginons en plus les conditions réelles de sa mise en oeuvre. Un moment d'extrême tension, allié à l'usage croissant des drones armés évitant le contact physique avec les cibles potentielles. Et une erreur sur la personne visée (s'en apercevrait-on seulement ?).

Ce scénario de science-fiction est déjà à l'oeuvre dans les opérations militaires menées par l'armée américaine contre le jihadisme armé, avec de nombreuses "bavures", dont quelques unes ont fini par filtrer... Cela sur des théâtres d'opération lointains.

Mais la liquidation du territoire tenu par Daech va disséminer le risque terroriste chez nous. Et la tentation d'utiliser ces méthodes, de mieux en mieux éprouvées, risque donc de s'étendre...

En attendant, les expérimentations en cours de "reconnaissance faciale" ne semblent pour le moment guère probantes. Ainsi, l'expérience menée à Londres en 2017 lors du Carnaval de Notting Hill a donné 35 erreurs d'identification.

Mais à partir de quel niveau d'erreur la technologie sera-t-elle décrétée "suffisamment sûre" pour être mise en oeuvre ?

Nous savons tous que le "risque zéro" n'existe pas. Ainsi, celui d'être pris à tort pour cible par nos propres forces de sécurité, censées nous protéger, va-t-il se renforcer encore...Si nous n'y prenons garde, et ne nous saisissons pas du problème.

Ce sentiment glaçant d'insécurité renforcée, de dépossession et d'impuissance se renforce encore par la lecture de la contribution de Séverine ARSÈNE, politologue à l'Asia Global Institute de la Hong-Kong University. Sous le titre La Chine, nouveau laboratoire du contrôle social d ela population, elle nous présente le nouveau projet du gouvernement chinois pour 2020 de "système de crédit social".

Ce système, lui aussi basé sur le Big data, consiste à compiler toutes les informations disponibles sur un individu ou une entreprise, pour leur attribuer une note "représentant la confiance dont ils sont dignes". Cette note servirait notamment à attribuer ou retirer des droits sociaux.

Ce projet, qui date de 2014, repose sur l'interopérabilité de données encore dispersées. Et notamment des données privées générées sur Internet, auquel encore seulement 50% des Chinois ont accès. Mais ce sont justement ces 50% là qui sont le plus susceptibles de développer des formes d'opposition organisée au gouvernement de parti unique.

Fondamentalement, et au-delà du cas chinois, un tel système pose le problème des critères de la "confiance sociale" : qui les détermine, et comment ? Et cela concerne tout autant les démocraties que les dictatures comme la Chine. Car cela exige, dans tous les cas, ainsi que le rappelle l'auteure, "transparence", "débat pluraliste sur les choix politiques" et "contre-pouvoirs".

C'est donc à la réunion de ces trois conditions que nous sommes impérativement appelés à travailler pour reprendre le contrôle sur nos vies à l'heure du Big data, aujourd'hui quasiment monopolisé en Occident par les Gafam (Google, Apple, Facebook, Amazon et Microsoft).