• .la rédac

Souriez, vous-êtes filmés!



Dans la perspective des élections municipales du 15 et 22 mars, nous avions publié un numéro spécial de La Coopérative: "En 2020 changeons nos villes !". A l'occasion du report du second tour, chaque jour jusqu'au 28 juin, nous vous proposons de retrouver sur Culture-G des articles pour mieux comprendre les enjeux de cette élection primordiale pour le monde d'après !

L'augmentation de la puissance de calcul et le développement du réseau mobile (5G) offrent aux autorités de nouvelles possibilités, comme celles de reconnaître un individu, son humeur, ses comportements...mais quelles en seront les conséquences ? La surveillance généralisée va-t-elle transformer nos vies et nos villes?


Personne ne peut prédire ce que sera “la ville de demain”. L’évolution technologique amène à repenser la manière de vivre et de gérer une municipalité. Certains promettent une ville “smart”, débarrassée des congestions, de l’insécurité ou des comportements déviants. Cette utopie serait même à portée de main grâce aux nouvelles technologies en liens avec le numérique.


Pour offrir un cadre sécurisé aux citoyens.nes, les défenseurs de cette utopie souhaitent développer le réseaux de surveillance grâce à l’installation de capteurs connectés. Nous avons déjà vu fleurir les caméras dans certaines villes, essentiellement à des fins sécuritaires, même si l'efficacité de ces dispositifs est encore à prouver. Mais la principale différence entre un système de vidéosurveillance “classique” et celui “intelligent” se trouve dans la manière de traiter les vidéos. Aujourd'hui ce sont des agents.tes qui analysent les vidéos, demain, un algorithme s'en chargera...


Vers la généralisation du phénomène


L’expérimentation récente décidée dans deux lycées de la Région PACA a mis cette question en lumière. La ville de Nice lors du carnaval de 2019 a également expérimenté ce type de dispositif. De manière plus générale, ces installations, couplées aux évolutions des smartphones (déverrouillage par reconnaissance faciale) et demain au système ALICEM (identification faciale pour accéder aux services publics) banalisent l'utilisation de cette technologie, la rendant plus acceptable aux yeux de la population.


De plus la vidéosurveillance intelligente tend à se généraliser car elle permet de faire des économies. En effet, les agents.tes humains.nes ont une capacité d’analyse limitée alors que l'algorithme est infatigable. Une fois en place, l’IA peut absorber la multiplication des caméras sans augmentation automatique des coûts de traitement. De plus, nul besoin d’acheter de nouveaux équipements, l’ancien parc de caméras est déjà compatible. Ainsi, si la dépense initiale est plus importante, l’économie d'échelle possible a de quoi attirer les mairies.


Les villes de Nice, Saint-Etienne et Valenciennes font partie des premières à utiliser des dispositifs “intelligents” dans la surveillance, notamment lors de grandes manifestations. Ces expérimentations doivent nous amener à analyser le phénomène pour apporter une réponse politique.


Une question juridique


La première question à se poser est celle du cadre légal dans lesquels ces expérimentations se placent. Tout ce qui n’est pas interdit est autorisé, c’est sur cette ligne de crête qu’elles se sont construites. Expérimentations vues d’un bon oeil par le gouvernement, notamment avec le rapport Villani sur l’Intelligence Artificielle qui préconise “un allègement temporaire, de certaines contraintes réglementaires pour laisser le champ libre à l’innovation” et “des moyens d’expérimentation en situation réelle.


Concrètement, le maire de Nice a par exemple outrepassé ses compétences définies par l'article ​L2212-1 du code général des collectivités territoriales lorsqu’il a signé une convention avec un consortium d’entreprise, Thales en tête. Dedans, on trouve le point suivant : « la solution répond au besoin de sécurité dans tous les sens du terme et en particulier face aux risques croissants de terrorisme ». Si à la prétendue lutte contre le terrorisme on ajoute l’armement des policiers municipaux et la mise en place d’un système de surveillance généralisé des habitants.tes, on peut se demander si Christian Estrosi ne souhaite pas devenir Premier Ministre ! La CNIL (commission nationale de l'informatique et des libertés) semble dépassée par une évolution très rapide des technologies et par la multiplications des tâches qu’on lui confie.


La reconnaissance faciale et ses conséquences


En implémentant l'Intelligence Artificielle, il est possible de reconnaître chaque individu en s'appuyant sur des fichiers photos nationaux. Il en existe 2 types : le TAJ (traitement des identités judiciaires) composé des individus ayant dû faire face à la justice - déjà utilisé à Nice - et le TES (fichier des titres électroniques sécurisés), composé des citoyens.nes ayant fait un renouvellement de leur carte d'identité ou de leur passeport. Nous sommes donc tous.tes potentiellement concernés.es, même s’il est pour l'instant illégal d'exploiter de tels fichiers dans ce but.


Plus que la reconnaissance des individus pour “eux-mêmes”, l’IA peut détecter des comportements. La Chine a déjà mis en place ce système afin de noter ses citoyens.nes ce qui a suscité une vague d'indignation. Sans aller aussi loin, Valenciennes, via un partenariat avec l'entreprise Huawei, possède un logiciel similaire. Saint-Etienne a quant à elle installé un système de même nature composé de microphones, capables d'alerter en cas de “bruits suspects”. Ce qui est recherché ce sont des signaux faibles (humeur, cri, mouvement de foule) qui pourraient signaler un risque. La CNIL (Commission nationale de l'informatique et des libertés) alerte sur la fin de l'anonymisation des déplacements urbains provoqué par la généralisation de la surveillance.


Les changements de comportements


L’étude de Jathan Sadowski et Frank Pasquale, chercheurs à l’université du Maryland, publiée en 2015, montre que des individus placés dans un contexte de surveillance généralisée peuvent être intimidés et que leurs comportements changent. Des chercheurs d'Oxford ont eux démontré que suite aux révélations de surveillance généralisée de l’affaire Snowden, les consultations de certaines pages Wikipedia “sensibles” avaient drastiquement chutées. Ainsi, plus que d'interdire des comportements, les caméras agissent subtilement et inhibent, rendant certaines actions impossibles. En effet, personne ne souhaite sortir de la norme par peur de paraître suspect. C'est le même phénomène qui poussent les gens à se laisser fouiller par un vigile à l'entrée d'un magasin alors que c’est illégal.


Le business de la peur et la question du consentement


Si l’on vend du sécuritaire, c’est que nous avons besoin de sécurité, ou pas… Les discours anxiogènes ne manquent pas dans un contexte marqué par les différentes attaques terroristes des dernières années. Mais ce besoin naturel est le théâtre d'obsessions irraisonnées. Irraisonnables aussi, car pour vendre leurs dispositifs, les entreprises doivent entretenir un climat délétère pour contraindre les individus à accepter des restrictions de liberté même s'ils n’ont rien à cacher. L’exemple est une nouvelle fois dans la convention Niçoise : page 42, il est mentionné comme menace au projet “un changement de paradigme et des politiques qui placeraient la Sécurité sur un second plan” et “des restrictions budgétaires qui pourraient mettre fin au projet”. Du côté efficacité, l'argument de la guerre contre le terrorisme est utilisé alors qu’il n’existe pas de preuve le corroborant. En France, 58 des 59 attentats déjoués depuis 6 ans l'ont été grâce aux moyens humains.


La généralisation de la surveillance pose également sérieusement la question du consentement. Pour être valide, celui-ci doit être libre et éclairé. La personne doit savoir à quel moment elle risque de se faire identifier. Or, il n’y a pas de différences visibles entre une caméra classique et une caméra intelligente. Pire, les drones équipés de caméras intelligentes se multiplient, par exemple à Istres où 51 heures sur les 81 heures totales de vol sont dédiées à la surveillance de manifestations. Dans un monde surveillé en permanence, vouloir se protéger en se coupant de toutes technologies est très difficile. Le risque est de compliquer sa vie et d’être vu comme un paria.


La généralisation de la surveillance va de pair avec le développement des projets de smart city. Il est plus que nécessaire de légiférer et de donner des moyens de contrôle en amont à nos institutions. Il est aussi nécessaire de repenser les échelles de sanctions en cas de non-respect des règlements ou des lois. Dès 2018, la CNIL appelait à l’organisation de grands débats sur le sujet, malheureusement, ces intentions sont restées au point mort. Les recours juridiques se multiplient, portés par des associations (quadrature du net, ligue des droits de l’Homme…) mais elles ne font pas le poids face aux consortium d’entreprises et à un marché se chiffrant en milliard d’euros. Le rôle du politique est de rééquilibrer la balance entre les intérêts des différentes parties, afin de créer un cadre de vie sécurisé pour les citoyens.nes. Les arguments des entrepreneurs.euses français.ses peuvent s’entendre : il vaut mieux être surveillé par un géant Français que par un géant Américain ou Chinois. Il ne faut pas oublier que c'est aux entreprises de s’adapter aux cadres juridiques et non l’inverse.


Charles Busnel

SUIVEZ-NOUS

  • Noir Icône Instagram

©2019 - Culture G / Les Jeunes Génération·s