carte blanche

Combien de temps allons-nous encore céder à la toute puissance des algorithmes?

Les entreprises de la technologie dominent aujourd’hui nos vies, de façons dont nous n’avons souvent pas conscience. Elles ne sont ni élues ni responsables politiquement, et elles remplacent l’autodétermination et la prise de décision démocratique par des procédures algorithmiques. En tant que citoyens, nous devons exiger de nos gouvernements qu’ils les fassent rentrer dans le rang, tant qu’ils en ont encore le pouvoir.

Nous commençons tout juste à comprendre les dommages à la santé, à notre vie privée et à la concurrence causés par les plateformes Internet. Et nous allons très vite être confrontés à une menace plus radicale encore de la part des géants de la technologie. Alors que les institutions démocratiques sont déjà affaiblies, Google, Facebook, Amazon et Microsoft défient désormais les gouvernements élus en offrant de leur substituer leurs propres services.

Roger McNamee

Cofondateur de la société de capital-investissement Elevation Partners et l'un des premiers investisseurs dans le capital de Facebook, Google et Amazon

Il s’agit d’une rupture importante avec le passé. Voici seulement vingt ans, les rapports des entreprises technologiques américaines avec l’État fédéral consistaient surtout à payer des impôts. Les ingénieurs inventaient des produits qui donnaient aux consommateurs plus de moyens d’action et le gouvernement les encourageait.

Mais après les attentats terroristes du 11 septembre 2001, l’attitude à l’égard de la surveillance a changé. Les services du renseignement américains se sont mis à travailler avec les grandes plateformes numériques, à commencer par Google, pour rassembler d’énormes quantités de données personnelles, afin de prévenir de nouveaux attentats.

Capitalisme de surveillance

En outre, à partir de 2008, Google, Facebook et les autres sont devenus des outils indispensables pour les politiques. Les bonnes relations qu’entretenait le président Barack Obama avec l’industrie technologique ont protégé celle-ci des regards trop indiscrets pendant qu’elle perfectionnait ce que Shoshana Zuboff, de la Harvard Business School, nomme le "capitalisme de surveillance".

Si la technologie déployée par le capitalisme industriel manipule l’environnement, le capitalisme de surveillance manipule, quant à lui, les comportements humains.

Si la technologie déployée par le capitalisme industriel manipule l’environnement, le capitalisme de surveillance manipule, quant à lui, les comportements humains. Ses professionnels convertissent l’expérience humaine en données, créent des poupées vaudou numériques (des dossiers) représentant chacun d’entre nous, puis utilisent ces représentations virtuelles pour modéliser et vendre des produits qui prédisent les comportements.

Ces produits ont transformé les habitudes de commercialisation et de publicité en complétant les cibles démographiques par des prévisions précises, applicables à chaque consommateur potentiel. Et les principaux acteurs de ce capitalisme de surveillance – Google, Facebook, Amazon et Microsoft – utilisent parallèlement les données qu’ils collectent pour orienter les résultats des recherches effectuées en ligne par leurs usagers. Ce faisant, ils limitent ainsi les choix de consommation de ces derniers et augmentant la probabilité qu’ils se comportent comme l’ont prévu les algorithmes. Le capitalisme de surveillance, affirme Zuboff, menace non seulement l’autonomie des individus mais aussi la viabilité des sociétés ouvertes.

Ingérences

C’est en 2016 qu’on a commencé à comprendre que les plateformes Internet pouvaient avoir un impact sur le monde réel à l’échelle d’un pays entier – et non plus seulement des individus –, lorsque des campagnes de désinformation ont perturbé le référendum sur le Brexit au Royaume-Uni et l’élection présidentielle américaine.

Depuis lors, les plateformes Internet ont permis des ingérences dans les processus électoraux de nombreux pays et involontairement contribué à un génocide en Birmanie, au terrorisme en Nouvelle-Zélande, aux crimes de masse qui ont endeuillé les États-Unis et l’Europe, ainsi qu’à l’épidémie de rougeole, une maladie qui avait pourtant disparu. Elles sont désormais régulièrement utilisées pour diffuser la désinformation, inciter aux violences extrémistes et polariser l’électorat.

Je ne pense pas que les plateformes Internet aient réellement voulu permettre ces dommages. Mais leur modèle économique, leurs algorithmes, leur culture d’entreprise rendaient inévitables de tels dommages.

En tant que citoyens, nous devons tous comprendre que les plateformes Internet ont aujourd’hui plus d’impact sur nos vies que n’en ont nos gouvernements.

En tant que citoyens, nous devons tous comprendre que les plateformes Internet ont aujourd’hui plus d’impact sur nos vies que n’en ont nos gouvernements.

Lorsque Facebook interdit les images d’allaitement, ses usagers ne peuvent contester sa décision, même s’ils vivent dans un pays dont la constitution protège la liberté d’expression. Et lorsque cette entreprise adapte ses procédures pour autoriser la diffusion de messages délibérément mensongers en période de campagne électorale, elle crée un appel d’air pour de nouvelles agressions contre nos institutions politiques, et par conséquent contre la démocratie elle-même.

Pire, les sociétés ouvertes ne sont pas encore parvenues à endiguer la première vague de dommages causés par les plateformes Internet. Les initiatives les plus conséquentes à ce jour – le Règlement général sur la protection des données mis en place par l’Union européenne et la loi californienne sur la protection de la vie privée des consommateurs – ne s’attaquent qu’à une partie du problème.

Les responsables politiques commencent seulement à comprendre comment fonctionne le capitalisme de surveillance. Il n’y a pas même de consensus sur le fait que ce nouveau modèle économique constitue une menace, et encore moins de projet concerté pour mettre un terme à ses effets néfastes.

L’étape suivante est déjà franchie…

©REUTERS

Pendant ce temps, Google, Facebook, Amazon et Microsoft sont déjà passés à l’étape suivante. Après avoir perfectionné le capitalisme de surveillance, ils sont en position de lancer des initiatives conçues pour se substituer aux services traditionnellement fournis par la puissance publique.

Ce ne sont pas les seules entreprises à le faire, mais leurs ambitions et les moyens dont elles disposent sont très nettement supérieurs aux autres sous-traitants privés du service public, comme l’industrie pénitentiaire.

Chacune de ces plateformes poursuit un objectif clair. Il est parfois même tout à fait explicite. Ainsi la mission que s’est fixée Google d’"organiser les informations à l’échelle mondiale" et le souhait formulé par Facebook est de réunir le monde en un seul et unique réseau.

Il peut sinon se déduire du comportement. Amazon veut à l’évidence devenir la colonne vertébrale de l’économie, et Microsoft, le partenaire technologique des entreprises et des États.

Chaque fois, l’objectif inexprimé est de prendre les commandes. Insatisfaites des bénéfices qu’elles tirent du capitalisme de surveillance, aujourd’hui entravé par le volume du marché publicitaire, les sociétés de plateforme s’avancent sans scrupule – mais parfois avec quelque méfiance – vers de nouveaux marchés.

Sidewalk Labs, une filiale de la société mère de Google, Alphabet, propose de prendre à sa charge des services publics locaux en échange de la maîtrise des données publiques et d’un pouvoir de décision.
.
.

Ainsi Sidewalk Labs, une filiale de la société mère de Google, Alphabet, propose de prendre à sa charge des services publics locaux en échange de la maîtrise des données publiques et d’un pouvoir de décision. Intentionnellement ou non, ce modèle économique pourrait déplacer graduellement les choix personnels et remplacer la démocratie locale par des algorithmes.

De même, avec le lancement prévu de la cryptomonnaie Libra, Facebook tente de rivaliser avec les monnaies de réserve comme le dollar ou l’euro. Si Libra a d’abord été soutenue par les grandes firmes de services financiers, l’annonce de sa prochaine mise en service a suscité un tollé mondial et beaucoup de ses premiers partenaires ont jeté l’éponge.

Mark Zuckerberg, CEO de Facebook ©Photo News

Mais quoi qu’il arrive avec Libra, Facebook continuera à jouer un rôle considérable dans le sapement de la démocratie. Sa complaisance assumée concernant la diffusion de fausses nouvelles avérées ainsi que les critiques de son CEO à l’encontre de la principale candidate démocrate (Elizabeth Warren) aux primaires de l’élection présidentielle laisse penser que l’entreprise n’hésitera pas à faire passer ses intérêts avant ceux du pays.

De son côté, Amazon ne ménage pas ses efforts pour signer des marchés avec les pouvoirs publics, offrant tout une gamme de services d’information aux agences locales et fédérales. L’entreprise a, par exemple, proposé des produits de reconnaissance faciale aux agences chargées du maintien de l’ordre, notamment aux services de contrôles de l’immigration, alors même que le logiciel utilisé présente des biais implicites à l’encontre des gens de couleur.

Le système Ring de Amazon ©EPA

Amazon utilise aussi Ring, sa ligne de sonnettes et de caméras de surveillance "intelligentes", pour négocier des contrats de coopération avec les services de police locaux. Avec l’accord des propriétaires du logement, les agents de la force publique peuvent accéder aux contenus vidéos de Ring en l’absence de toute garantie. Des défenseurs des libertés civiles et des experts se sont, on le comprend, inquiétés que les réseaux de sonnettes Ring, combinés à des technologies de reconnaissance faciale, autorisent de nouvelles formes de surveillance, potentiellement anticonstitutionnelles. Des journalistes ont aussi découvert que les accords conclus avec Ring fournissent à l’entreprise des moyens de pression inappropriés sur la communication des forces de l’ordre avec les justiciables.

Enfin, les nouvelles initiatives de Microsoft, pour être moins éhontées n’en sont pas moins problématiques. Ses travaux sur l’intelligence artificielle comprennent par exemple des applications d’automation de la surveillance policière.

Comme avec la reconnaissance faciale, les applications de surveillance fondées sur l’intelligence artificielle souffrent de biais implicites. Que la cause en soit un défaut de conception ou tienne aux préférences exprimées par le client, le fait est que personne n’a encore résolu le problème. Un vaste éventail d’applications, utilisées notamment dans les demandes de prêts hypothécaires ou dans la lecture des CV, présente des biais algorithmiques.

Le temps presse

Au cours des deux dernières décennies, les principales plateformes Internet ont tiré parti de la dérégulation et de vides juridiques pour construire des entreprises étendues au monde entier et accumuler un patrimoine énorme.

Leurs succès ont nourri leur arrogance, ce qu’illustrent particulièrement Facebook et Google, qui ont toutes deux défié ouvertement les responsables politiques dans des contextes où d’autres entreprises n’auraient pas osé.
.
.

Leurs succès ont nourri leur arrogance, ce qu’illustrent particulièrement Facebook et Google, qui ont toutes deux défié ouvertement les responsables politiques dans des contextes où d’autres entreprises n’auraient pas osé.

Ces sociétés ont refusé d’envoyer leur CEO aux premières auditions publiques du Congrès sur les ingérences lors de l’élection présidentielle. Et Mark Zuckerberg, le patron de Facebook, a régulièrement esquivé les commissions parlementaires au Canada et au Royaume-Uni. Ces deux pays comptent parmi les marchés les plus importants de son entreprise. Lorsque les patrons de Facebook et de Google se sont présentés devant des organes de surveillance, ils se sont souvent montrés méfiants et évasifs.

Ces entreprises dominent aujourd’hui nos vies, de façons dont nous n’avons souvent pas conscience. Elles ne sont ni élues ni responsables politiquement, et elles remplacent l’autodétermination et la prise de décision démocratique par des procédures algorithmiques. Les sociétés ouvertes ne peuvent permettre à des entreprises de se comporter ainsi. En tant que citoyens, nous devons exiger de nos gouvernements qu’ils les fassent rentrer dans le rang, tant qu’ils en ont encore le pouvoir.

Copyright: Project Syndicate, 2019.



Lire également

Messages sponsorisés