Publicité
Publicité
interview

Alex Pentland: "Avec nos données, nous pourrions contrôler les gouvernements et les banques"

©M. Scott Brauer

Le scientifique des données Alex Pentland nous explique l’érosion du monde humain, noyé par la marée montante des données.

Son nom ne vous dit peut-être rien. Le magazine Forbes place pourtant Alex Pentland dans son classement des "7 voix les plus puissantes au monde" dans le domaine des data. Il y côtoie Larry Page, fondateur de Google, et la candidate démocrate américaine Elizabeth Warren.

Alex Pentland ©Twitter

Il faut dire que le scientifique des données est partout. Il a participé à la création du prestigieux MIT Media Lab – où il travaille toujours – conseille le secrétaire-général des Nations unies dans ses objectifs pour un développement durable, a lancé au Forum économique de Davos les réflexions qui ont servi de fondements, en Europe, au Règlement général sur la protection des données, le fameux RGPD. Son dernier livre, "Social physics" (paru en 2015), étudie les comportements sociaux à l’aide des données, "les effets de ces millions de gens apprenant l’un de l’autre et influençant les opinions des uns et des autres". Des réflexions qui nous aident à mieux comprendre les mouvements moutonniers sur les réseaux sociaux.

Et le voilà, affalé sur son divan de bureau, une barbe poivre et sel dévorant son visage souriant, à nous expliquer via Skype l’érosion du monde humain, noyé par la marée montante des données.

Où en sommes-nous avec le monde des data?

Ce monde est en train d’évoluer dans beaucoup de domaines: la régulation, l’opinion publique, etc. Il y a cette tendance qui veut que les choses soient plus performantes mais aussi plus inclusives. De plus en plus de nos activités vont donc être digitalisées. Ce qui veut dire plus de données, ce qui veut dire aussi plus de problèmes dans leur gestion, plus de cyberattaques, ce qui est très inquiétant. Il y a aussi les médias sociaux qui ont des effets perturbants sur la gouvernance de nos sociétés. C’est à peu près où nous nous trouvons aujourd’hui. C’est pour cela que votre dossier sur les données est vraiment important.

Les données sont un outil puissant. Comment les utiliser à bon escient?

La plupart de nos institutions sont basées sur cette notion que nous sommes la somme d’individus rationnels. Nous le sommes en partie. C’est pour cela que nous avons développé la démocratie directe et nos mécanismes de marché, et nous les utilisons pour nous définir. Mais nous avons aussi une autre dimension, notre côté social. Nombre de nos comportements proviennent de ce que nous copions chez les autres. La clé, elle est là.

The Age of Data

Les réseaux invisibles derrière vos données personnelles. Découvrez notre dossier >

Le problème avec nos raisonnements actuels – les données économiques par exemple – c’est qu’ils ne prennent pas en compte cet aspect mouvant de l’être humain et qu’ils estiment que les choses restent égales par ailleurs, que rien ne change. C’est sur cette base qu’on établit des politiques publiques. Et bien souvent, elles aboutissent à des mauvaises décisions.

Quelles sont les données à votre disposition pour évaluer cela?

Les gouvernements fournissent énormément de données qu’ils utilisent au même titre que les recensements. Vous avez aussi accès à des données agrégées qui montrent le nombre de gens circulant d’un endroit à un autre. Pour autant qu’elles ne donnent pas accès aux données privées des individus, elles sont un bon moyen d’évaluer comment les sociétés évoluent. Par exemple, nous avons un site internet sur l’inégalité. Il montre combien les commerces et les bâtiments publics sont inégalement situés, ségrégués à Boston. Il est intéressant de voir qu’une bonne partie de la ségrégation dans nos sociétés est due à des choix individuels.

Les entreprises traquent de plus en plus les données de leurs clients pour voir où ils sont, à quel moment, pour les attirer dans les commerces, etc.

Ce que vous décrivez, c’est l’utilisation de données privées, c’est illégal. Elles ne devraient pas être autorisées à le faire. Nous avons réalisé une grosse étude avec les Nations unies, qui visait à montrer que les données individuelles ne sont pas plus utiles que les données agrégées, c’est-à-dire les données par quartier. Les entreprises n’ont pas besoin de données individuelles! Point. Qu’on les rende illégales, qu’on s’en débarrasse! Vous pouvez faire beaucoup de choses avec les informations concernant les habitudes de shopping d’un groupe d’habitants, d’un certain quartier. De manière générale, et pas au niveau individuel. Ça vous dit déjà où vous devez mettre les lignes de bus et les magasins.

"Nous avons montré que les données individuelles ne sont pas plus utiles que les données agrégées. Les entreprises n’ont pas besoin de données individuelles! Point."

Par contre, si vous devez rechercher un enfant disparu, alerter quelqu’un au sujet d’une catastrophe naturelle ou, plus récemment, pour traquer les victimes du virus Ebola au Congo, vous devez savoir où ces personnes se trouvent. Et là, vous avez besoin du niveau plus intrusif. Pour Ebola, vous avez besoin d’une autorisation pour savoir quelle personne est allée où, pour pouvoir aller lui parler. Il y a aussi la question des meurtres: pouvez-vous identifier toutes les voitures qui se trouvaient sur le lieu d’un crime? La plupart des gens seront d’accord. Mais les propriétaires de ces voitures ne sont pas tous des meurtriers (rires). C’est là qu’il y a la frontière grise. Vous devez motiver le besoin de franchir cette frontière, avoir l’appui d’un juge, d’une structure légale.

Comment les données peuvent-elles aider les gouvernements dans leurs décisions politiques?

Je suis au conseil du Global Partnership for Sustainable Development Data des Nations unies. C’est exactement ce que nous essayons de faire. Nous produisons des données agrégées pour aider la gouvernance publique. Ce qu’on a découvert par exemple, c’est que les quartiers pauvres sont ceux qui n’ont pas un accès aisé aux transports, ils ne peuvent donc pas rencontrer d’autres gens, échanger avec eux. Ça paraît évident, mais les décideurs ne connaissent pas ce genre de frontières cachées au sein de leur population. Du coup, lorsque les gouvernements décident de leurs investissements en infrastructure, ils le font souvent de la mauvaise manière. À Paris, par exemple, lorsqu’ils ont développé leurs banlieues, et qu’ils y ont placé tous les immigrants, on aurait pu facilement prédire les problèmes qu’ils ont eus.

"Dans nos sociétés, on se préoccupe trop de ce que les gens pensent, et pas assez de la manière dont ils interagissent."

Prenez le flux d’idées: il n’y a aucun échange avec le reste de la société parisienne. Cela veut dire quoi? Que ceux des banlieues développent une vision de la vie radicalement différente, et qu’elles seront structurellement pauvres, quel que soit l’argent que vous investirez dans ces endroits. La même chose est vraie pour la qualification: dans les données que nous récoltons sur la mobilité du travail, la plus importante compétence est la compétence sociale, l’habilité à travailler avec d’autres personnes. Dans nos sociétés, on se préoccupe trop de ce que les gens pensent, et pas assez de la manière dont ils interagissent.

L’historien Yuval Noah Harari met en garde contre l’intrusion de l’intelligence artificielle et la toute-puissance des data dans la prise de décision des gouvernements. Êtes-vous d’accord avec ce constat?

C’est une vision très réductrice. Les gens parlent de l’IA comme d’une boîte noire sans émotion. Mais puisque vous savez ce qui entre dans l’intelligence artificielle, et ce qui en sort, vous pouvez toujours vous poser la question: est-ce que ce qu’elle me propose a un sens ou non? Un juge est aussi une boîte noire, je ne sais pas ce qui se passe dans sa tête. Regardez les lois et les régulations: ce sont aussi des formes d’algorithmes. En résumé, il nous faut des données ouvertes, transparentes, agrégées, et il faut un audit pour juger de leur pertinence, un audit réalisé par les parties prenantes, le gouvernement, les ONG, etc. Quand les gens parlent des données, ils pensent tout de suite à la surveillance; moi, je voudrais surveiller le gouvernement.

Certaines études montrent que l’intelligence artificielle provoque des biais raciaux. Ça ne donne pas confiance…

Je me souviens, je donnais une conférence à Oxford. L’une des membres du panel parlait de ces biais. Dans le public, le ministre kenyan de la Justice s’est levé, et il a dit: "Vous avez peut-être raison, mais regardez notre système actuel…"

Oui, mais les données vous donnent l’impression d’être des faits inaltérables et peuvent nous pousser dans une mauvaise direction…

C’est aussi vrai pour la publicité: elle a énormément d’influence sur les comportements. Les politiques aussi essaient d’influencer leur population. Lorsque Facebook a démarré, tout le monde se réjouissait d’interagir avec ses amis, de créer une sorte de société plus informelle, avec des discussions, etc. Mais ce que nous n’avions pas vu, c’est l’effet "caisse de résonance": nous regardions les utilisateurs de Facebook comme des individus et non comme des êtres sociaux. Si nous l’avions fait, nous aurions davantage pu comprendre que ces êtres sociaux renforcent cette caisse de résonance, cette ségrégation des idées, etc. Nous ne l’avons pas analysé suffisamment et maintenant, nous en subissons les conséquences.

Quelles applications font fuiter vos données personnelles?

Nous avons passé au crible les 120 applications les plus téléchargées en Belgique. Faites le test sur lecho.be/ageofdata

Est-ce que tout cela ne va pas empirer avec la création annoncée du libra, la devise de Facebook?

Ce qui a poussé le raisonnement autour du libra, c’est le constat que les banquiers centraux étaient hors contrôle. Le libra sert en fait à contrebalancer le pouvoir de la Réserve fédérale américaine (Fed). L’idée est intéressante, mais le fait de la laisser entre les mains de sociétés comme Facebook qui s’est allié avec PayPal, MasterCard, etc., est complètement irresponsable. Ce n’est pas le projet ni son architecture qui sont mauvais, ce sont les gens entre les mains desquelles se trouve son avenir, ils ont un agenda différent du nôtre. Ce serait comme mettre un fou à la tête de la Fed!

"Le libra de Facebook? Ce serait comme mettre un fou à la tête de la Réserve fédérale américaine!"

Ces sociétés font ce qu’elles veulent. Quel pouvoir avons-nous?

Les gens disposent de trois actifs inaliénables: leur travail, leur argent et maintenant leurs données. Ils ont réussi à lancer des actions collectives autour de leur travail et de leur argent: cela a donné les syndicats et les coopératives de crédit. Pourquoi n’avons-nous pas de syndicats des données? Le RGPD nous donne le droit d’avoir une copie de nos données. Mais ça ne nous aide pas beaucoup.

"Avec un syndicat de 200.000 citoyens, vous pourriez par exemple contrôler l’efficacité de votre système de santé."

Imaginez par contre que vous soyez membre à Bruxelles d’un syndicat de 200.000 citoyens qui peuvent, comme vous, obtenir une copie de leurs données. Vous pourriez, en tant que groupe et grâce à vos données mises ensemble, étudier l’efficacité de votre système de santé. Vous pourriez ainsi monitorer toutes les activités du gouvernement, celles des banques, etc. En tant que groupe, vous pouvez repousser les monopoles. C’est ce qu’ont fait les syndicats et les coopératives de crédit au XIXe siècle. Je ne dis pas que les entreprises sont des diables, mais elles ont leurs propres intérêts. Les gouvernements sont élus par les électeurs, mais ils ne travaillent pas toujours dans leur intérêt. Nous avons besoin de contrebalancer tout ça.

En existe-t-il déjà dans le monde?

Oui, bien sûr. Regardez les syndicats de musiciens qui se sont unis pour demander à être davantage rémunérés sur internet.

Vous avez aussi quelques projets qui pallient les inconvénients du web, et qui permettent de contrôler à la source les diffusions de nos données. Est-ce la solution?

Les cyberattaques et les problèmes de vie privée n’étaient pas une préoccupation dans les années 1960-1970. Donc l’architecture du web n’est pas adaptée à notre monde d’aujourd’hui.

Ce que je mets en place ressemble à ce que l’Estonie a réalisé. Lorsque le pays a quitté le giron soviétique, il s’est retrouvé avec ces ordinateurs complètement obsolètes. Les autorités ont pourtant réussi à développer tout un niveau de transactions, encrypté, qui fonctionne comme une blockchain. Cela leur a permis d’offrir aux citoyens un système beaucoup plus transparent autour de leurs données, et beaucoup plus solide face aux risques de cyberattaque. Notre projet Enigma va dans le même sens: vous pouvez l’utiliser à l’écart de toute intrusion, même celle des services de renseignement d’un État.

Cela veut-il dire qu’il faut remplacer entièrement le protocole du World Wide Web?

Notre autre système, Opal (poussé notamment chez Orange par le Belge Nicolas de Cordes, NDLR), peut le remplacer en grande partie. Vous pourriez garder vos données sur votre propre serveur; et si quelqu’un vous adresse une demande pour être ami, il vous envoie un message, et vous pourriez lui donner ou non la permission d’y accéder. Pensez à ce que cela pourrait signifier pour Facebook… Ce qui se passe avec le web aujourd’hui, c’est que les gens l’ont laissé aux mains des grands détenteurs de données qui nous ont dit: "Donnez-moi vos données, je vais les gérer pour vous." Non! Il faut que les données restent la propriété des utilisateurs.

N’est-ce pas toute l’infrastructure web qu’il faut remplacer?

Tim Berners-Lee (le créateur du World Wide Web, NDLR) répondrait par l’affirmative! (rires) Mais non, je ne crois pas qu’il faille tout remplacer. La structure de base doit rester une infrastructure qui partage des données, des informations. C’est tout. Le web est composé de différentes couches. Les entreprises en ont simplement rajouté une, la leur, et elles ont tout centralisé. La seule solution qu’il nous reste, c’est de changer la manière avec laquelle les entreprises et les gouvernements ont accès aux autres couches. Vous ne devez pas tout reconstruire. Il faut juste retravailler les services qui se sont greffés au web: Facebook, Google, mais aussi le fisc, etc. Ce qui est intéressant, c’est que le fait de décentraliser l’accès d’un gouvernement, c’est le renforcer contre les cyberattaques. Et aussi le rendre plus transparent.

Lire également

Publicité
Publicité
Publicité

Messages sponsorisés

Messages sponsorisés