Souriez, vous êtes fichés

Dans le quartier de Futian à Shenzhen, les écrans géants de l’un des principaux carrefours ne diffusent pas de la publicité, mais les photos et les identités des piétons indisciplinés. ©rv doc

Avec un demi-milliard de caméras de surveillance reliées à un système sophistiqué de reconnaissance faciale, la Chine est entrée dans l’ère du contrôle généralisé. Plus rien n’échappe à l’œil de Pékin. Reportage dans l’empire de Big Brother.

C’est à deux mille kilomètres de Pékin qu’il faut aller pour trouver le laboratoire de la cyber-surveillance "Made in China". Au cœur du delta de la rivière des perles, à Shenzhen. À une encablure de Hong Kong cet ancien village de pêcheurs est aujourd’hui surnommé la Silicon Valley chinoise. Mais elle est bien plus qu’une start-up géante. Shenzhen sert en effet de laboratoire aux travaux chinois sur l’intelligence artificielle. Plusieurs milliers de start-up y sont installées et la ville compte la plus grande concentration d’ingénieurs et de chercheurs en informatique du pays.

La première étape d’une visite à Shenzhen passe nécessairement par Huaqianbei. Il s’agit du plus grand marché d’électronique du monde: trois kilomètres carrés d’une caverne d’Alibaba où l’on trouve tous les composants nécessaires pour miner du bitcoin ou inventer l’application de demain. Mais ce sont surtout les étalages consacrés aux caméras de surveillance qui surprennent. Il faut dire que la Chine a fait de la reconnaissance faciale le pilier de ses investissements dans le domaine de l’intelligence artificielle.

"Toutes les grandes entreprises chinoises aujourd’hui ont des programmes en matière d’intelligence artificielle. ça peut être sur la santé, la mobilité, la finance, les assurances, l’environnement. Tout un tas de problématiques qui contribuent à améliorer – ou non la vie des citoyens et des consommateurs", explique Ludovic Bodin, fondateur de Kalibrio Capital. Et parmi ces applications, la reconnaissance faciale est l’une des plus utilisées, que ce soit dans le cadre de la surveillance comme dans les provinces musulmanes du Xinjiang où chaque habitant est poursuivi s’il s’éloigne à plus de cent mètres de sa résidence, du paiement d’un restaurant ou pour entrer dans son immeuble. Même les émotions des étudiants peuvent être analysées par l’intelligence artificielle afin de savoir s’ils sont attentifs. Et dans ces domaines, les entreprises étrangères et chinoises travaillent main dans la main.

Toutes les grandes entreprises chinoises aujourd’hui ont des programmes en matière d’intelligence artificielle.
Ludovic Bodin

Il n’est pas si courant que la Chine ouvre ainsi grand les bras aux étrangers, mais à Shenzhen tout est fait pour leur faciliter la vie et contribuer ainsi à recevoir l’équivalent de la moitié des investissements mondiaux dans le domaine de l’intelligence artificielle. L’État chinois prévoit à lui seul d’investir dans ce domaine 22 milliards de dollars d’ici 2020.

Fantasme orwellien

Mais cette débauche de moyen et d’énergie cache également la volonté de faire du pays un fantasme orwellien. Le quartier de Futian à Shenzhen est traversé de routes à quatre voies et bordé de gratte-ciel étincelants. Mais en y regardant de plus près, les écrans géants de l’un des principaux carrefours ne diffusent pas de la publicité comme c’est généralement le cas, mais les photos et les identités des piétons indisciplinés. Le long de chaque avenue, des dizaines de caméras de sept millions de pixels, bardées d’électronique, identifient tous les passants qui traversent au rouge ou en dehors des passages pour piétons...

La reconnaissance faciale fait ensuite le reste. Leur visage s’affiche immédiatement sur les écrans avec le nom de famille du contrevenant, une partie de son numéro de carte d’identité, et le reste est envoyé à la police. C’est la société Intellifusion qui a mis en place ce système. Le meilleur client de cette start-up spécialisée dans l’intelligence artificielle est la police, qui affirme avoir identifié quinze mille contrevenants en moins d’un an. Depuis quelques semaines, ils reçoivent directement sur leur messagerie électronique un rappel à l’ordre, et bientôt ce sera une amende. D’ici 2020, plus grave encore, leur "note sociale" sera abaissée!

C’est comme un permis à point pour la vie quotidienne.
Intellifusion

Car loin d’être un gadget, la reconnaissance faciale fait partie d’un vaste plan orwellien de contrôle de la population. Au-delà d’un certain nombre de contraventions, nous explique un porte-parole d’Intellifusion, les passants verront leur crédit baisser. Des informations auxquelles les banques ou les compagnies de transport auront accès. Traverser en dehors des clous et vous n’aurez plus droit à un crédit! "C’est comme un permis à point pour la vie quotidienne", justifie la société qui fait partie de la dizaine d’entreprises privées sélectionnées par l’État pour mettre en place ce système de notation sociale individuelle.

Imaginez un monde où toutes vos activités quotidiennes sont constamment enregistrées, contrôlées par une myriade d’entreprises au service du régime communiste. Voilà Pékin, où la notion de vie privée, où le contrôle de vos données personnelles ne pèsent pas grand-chose face au poids de l’État.

En Chine, le commerce électronique est aussi répandu qu’aux Etats-Unis, le paiement se fait par téléphone portable et plus d’un milliard de personnes utilisent la messagerie WeChat qui permet de dialoguer, de s’informer, de payer… Bref, de tout faire sous le contrôle strict de l’État, qui a mis en place une police du net chargée de faire le ménage et surtout de collecter toutes les informations concernant ses citoyens. Facebook ou Google le font également, mais des organismes de contrôle existent. En Chine, c’est le régime communiste qui digère ces informations et les utilise pour noter, récompenser ou punir les citoyens.

Le système ne fait pas juste surveiller la population, il lui accorde des bons et des mauvais points en fonction de ses achats, de ses actions quotidiennes, de son travail.
Li Yingyun
Sesame Technology Director

Le cerveau central

En 2020, tout le pays sera ainsi relié à un cerveau central. La "notation sociale" sera alors généralisée et un demi-milliard de caméras de surveillance pourront épier vos faits et gestes. Le KGB ou la Stasi à l’époque du régime soviétique étaient connus pour avoir des dossiers sur tout le monde. En Chine aussi le système appelé "dang’an" suivait chaque citoyen jusqu’à sa mort. Aujourd’hui, il est électronique et va beaucoup plus loin que la simple surveillance politique.

"Quelqu’un qui joue, par exemple, à des jeux vidéo en ligne dix heures par jour sera mal noté par le système, explique Li Yingyun, directeur de Sesame Technology Director. À l’inverse, quelqu’un qui achète des couches sur internet sera considéré comme un père de famille responsable et donc bien noté. Le système ne fait pas juste surveiller la population, il lui accorde des bons et des mauvais points en fonction de ses achats, de ses actions quotidiennes, de son travail."

Un système auquel collaborent activement les entreprises. Le gouvernement a déjà accordé huit licences à des sociétés privées pour créer les algorithmes qui permettent de faire fonctionner ce système géant de surveillance. Parmi elles, Tencent, le géant chinois de l’internet, basé évidemment à Shenzhen et qui gère déjà le réseau WeChat. L’autre société est Sesame, de l’autre géant du web, Alibaba. Les deux sociétés ont le monopole du paiement en ligne en Chine. De votre ticket de cinéma à vos déplacements en taxi et au restaurant, ils savent tout de vous, et le gouvernement aussi.

D’un côté, il y a un usage privé et de l’autre, un usage sécuritaire contrôlé par la police.
Xie Yinan

Pour que le système fonctionne, Pékin a numérisé l’intégralité des données de ses habitants de plus de 16 ans. Leur photo est entrée dans une gigantesque base de données, ce qui explique qu’à Shenzhen, l’identité des piétons est immédiatement reconnue.

"Nous appelons cela le cerveau de la ville. D’un côté, il y a un usage privé et de l’autre, un usage sécuritaire contrôlé par la police. Nous travaillons déjà avec 27 provinces chinoises pour assurer leur sécurité. Et notre technologie a permis d’arrêter plus de 3.000 délinquants", explique sans détour Xie Yinan, vice-président de Face++, en organisant une démonstration de son système en temps réel.

Leurs algorithmes créés par une armée d’ingénieurs en tee-shirt dans un open space géant peuvent identifier en temps réel le sexe et l’âge d’un passant. Quand il s’agit d’une personne recherchée, l’alarme se déclenche. Cette entreprise a vendu cette technologie à la police et assure ne pas conserver les données collectées dans ses serveurs. Le gouvernement en est très fier, et surnomme ce système "Réseau céleste", le plus grand réseau de vidéosurveillance au monde.

En dix secondes, le système appelé Parage prend plusieurs images de votre visage, et les compare à la photographie contenue dans la puce de votre passeport biométrique.

Des coups de canifs dans nos démocraties

Big Brother n’est pas l’apanage de la Chine. Le "grand frère" promène également son œil furtif – la reconnaissance faciale – dans les zones publiques de nos contrées. Le 10 mai, en Bavière (land de la CSU – l’Union chrétienne sociale – parti frère de la chancelière Angela Merkel), des dizaines de milliers de personnes ont manifesté pour dénoncer une loi, non encore effective, qui permettrait à la police de surveiller  les téléphones et ordinateurs de suspects, à titre préventif. Cette même loi promettait l’utilisation de la reconnaissance faciale dans la vidéosurveillance. Une clause retirée sous la pression populaire.

L’initiative de l’Aéroport de Paris (ADP) passe plus facilement. L’entreprise est en train de mettre en place un dispositif de reconnaissance faciale dans ses zones d’embarquement. En dix secondes, le système appelé Parage prend plusieurs images de votre visage, et les compare à la photographie contenue dans la puce de votre passeport biométrique. Installation programmée cet été (finalement reportée) pour l’aéroport de Roissy et celui de Lyon–Saint-Exupéry. Un gain de temps énorme pour les voyageurs. Davantage si besoin…

La société Amazon l’a bien compris: elle est l’une des nombreuses entreprises qui, aux Etats-Unis et dans d’autres pays, offrent la reconnaissance faciale aux services de sécurité et autres autorités policières.

Amazon rekognize you

La technologie est clairement là. Tout autant que les contrats potentiels pour ceux qui la détiennent et la vendent aux autorités intéressées. La société Amazon l’a bien compris: elle est l’une des nombreuses entreprises qui, aux Etats-Unis et dans d’autres pays, offrent la reconnaissance faciale aux services de sécurité et autres autorités policières. En toute discrétion. Une association américaine de protection des libertés, l’ACLU, a révélé la semaine passée qu’Amazon avait négocié son service, appelé Rekognition, auprès des départements de la police de Floride, de l’Arizona et d’autres États. En Oregon, le bureau du shérif du comté de Washington en a profité pour comparer des suspects potentiels à 300.000 photos issues d’une base de données de sa prison. La police de département d’Orlando veut aller plus loin: elle veut être capable de détecter la présence éventuelle de certains individus recherchés dans l’espace public, et d’en avertir les brigades de rue.

92% d’erreur

C’est cette dernière technique qu’utilise, avec quelques difficultés, la police de Galles du Sud, au Royaume-Uni. Lors de la finale de la Ligue des champions de football à Cardiff en 2017, entre le Real Madrid et la Juventus, elle a braqué ses caméras sur la foule, soit 170.000 personnes. 2.470 potentielles menaces ont été identifiées. 2.297 d’entre elles l’ont été à tort. L’erreur (92%) est passée inaperçue jusqu’à début mai, lorsque le journal The Guardian a levé le lièvre. La police ne désarme pas: "Aucune reconnaissance faciale n’est précise à 100%", a-t-elle déclaré, ajoutant que depuis l’introduction du dispositif, elle avait pu procéder à 450 arrestations.

Mis entre les mains des gouvernements, Amazon Rekognition se prête à tous les abus.
Différentes organisations citoyennes

Remontées, les associations civiles commencent à la trouver mauvaise. Le Big Brother Watch a déclaré sur Twitter: "Non seulement la reconnaissance faciale est une menace pour nos libertés individuelles, mais elle est aussi un outil dangereusement inexact." Aux Etats-Unis, échaudée par sa découverte sur les multiples contacts entre Amazon et la police, l’ACLU a rassemblé autour d’elle 30 organisations citoyennes. Ensemble, elles exhortent l’entreprise à cesser de fournir ce "dangereux pouvoir de surveillance" à la police. Dans une lettre à son dirigeant, Jeff Bezos, les associations pointent les défaillances du système, singulièrement auprès des personnes de couleurs et les immigrés. "Mis entre les mains des gouvernements, Amazon Rekognition se prête à tous les abus", écrivent-elles.

Les associations affûtent aussi leur programme de surveillance, celui à l’égard des autorités. Mais le "grand frère" n’entend pas abandonner: son pied-de-biche est dans la brèche.

Lire également

Publicité
Publicité
Publicité
Publicité

Contenu sponsorisé

Partner content