"On va vers une société automatique peuplée d'hommes automatiques"

Mark Hunyadi est un penseur des avancées technologiques. Professeur de philosophie à l’UCL, il est l’auteur de plusieurs ouvrages dont "Le défi politique du posthumanisme" ou "La tyrannie des modes de vie" dans lequel il incite à un regard critique sur nos choix de société ou plutôt sur l’absence de choix conscient. Loin d’être technophobe ou même de vouloir freiner les avancées technoscientifiques, il alerte sur les dangers de l’iceberg numérique: alors que son utilisation est formidablement efficace, utile et confortable, sa partie immergée vit de l’extraction de nos données à des fins commerciales et transhumanistes. Sous-jacent, ce processus n’est que peu débattu alors qu’il conduit nos sociétés vers une automatisation, non seulement de leur fonctionnement, mais aussi des individus.

Qu’ont de nouveau les innovations technoscientifiques d’aujourd’hui par rapport aux avancées technologiques d’hier?
Les technologies qui touchent à la génétique et les nanotechnologies sont dans le prolongement d’une recherche pluricentenaire: on veut aller toujours plus au cœur du vivant. On disséquait les corps pour voir ce qu’il y avait dedans, aujourd’hui on veut savoir ce qu’il y a dans la cellule. Mais cela reste un approfondissement. Pour moi, la véritable nouveauté, tout à fait radicale, c’est le numérique.

Il y a du bon et du moins bon dans l’utilisation des technologies numériques. Commençons par le bon.
Nous utilisons, vous et moi, notre smartphone, internet et c’est extraordinaire comme cela nous a facilité l’existence. Comme utilisateur du numérique, on a tout lieu d’être satisfait car ce sont des outils formidablement efficaces et plaisants qui nous apportent un confort supplémentaire, de la maniabilité, de la fluidité, une accessibilité à la connaissance. Et tout cela est souhaitable.

Et du côté du moins bon, que pointez-vous?
Si pour l’utilisateur c’est formidable, il ne faut pas perdre de vue que tout cela alimente un système. La technologie numérique et tout objet connecté génèrent des données, données qui sont extraites pour créer et affiner des profils et les utiliser à des fins commerciales ou autres. Prenez le système d’appel d’urgence automatique que le parlement européen rend obligatoire sur chaque nouvelle voiture à partir de mars 2018. Ce dispositif permet d’améliorer la rapidité et la réaction des secours, mais cette puce d’identification, de GPS et de géolocalisation va nous espionner. Des données que les assureurs voudront exploiter: prétextant notre bien, ils pourront proposer des primes plus basses si on conduit prudemment, et inversement. C’est un moyen de discipliner notre façon de conduire. Cela s’inscrit dans une tendance à automatiser nos comportements, à amener à des comportements standards. Vous me direz que pour la conduite automobile, tant mieux, il y aura moins d’accidents. C’est vrai, mais c’est dans tous les domaines que cette automatisation de nos comportements se fait, dans tous les domaines on cherche à nous faire faire ceci plutôt que cela. Et il y a toujours un versant positif de la chose: la sécurité, la facilité, l’efficacité, etc.

Ce n’est donc pas simplement du donnant-donnant?
Cela y ressemble. Mais l’extraction de données dessine un horizon de société où on aimerait automatiser nos comportements. Le point fondamental est là. Ce système ne s’adresse pas à nous en tant qu’individus rationnels et autonomes. On veut nous inciter à faire ceci ou cela. Ce système contourne nos capacités de choix pour s’adresser à nos affects. Il veut faire de nous des machines qui réagissent, qui fonctionnent par réflexes, qui soient guidées par des incitants auxquels on doit répondre le plus rapidement possible. C’est la vie de l’esprit – son épaisseur, sa temporalité, son cheminement – qui est annihilée. On a de quoi être effrayé par l’ampleur de la révolution anthropologique dont ce système est porteur.

Le risque en balance serait de perdre notre capacité de réflexion?
Oui. Réfléchir, ce n’est pas juste réagir à des stimuli, dire "j’aime/je n’aime pas". Or, c’est ce à quoi incite sans cesse le système numérique. Il y a un mouvement important apparu il y a 10 ou 15 ans qu’on appelle "l’économie de l’attention". L’idée étant que le bien le plus précieux dans notre société c’est notre attention. Rappelez-vous la phrase de Patrick Le Lay, patron de TF1 qui disait "ce que nous vendons à Coca-Cola, c’est du temps de cerveau humain disponible". Le but de cette économie c’est de capter l’attention. C’est ce que fait le moteur de recherches Google avec son fameux algorithme PageRank qui hiérarchise les réponses données à vos recherches. Le principe de PageRank c’est de hiérarchiser les résultats en fonction de ce qui a déjà intéressé les autres. Ainsi, plus un site est visité, plus il apparaît en premier dans la liste de vos résultats. Ce qui veut dire qu’on vous rend attentif à ce à quoi les gens ont déjà été attentifs. Et donc, tout le monde finit par être attentif aux mêmes choses. On automatise l’attention des gens. Or l’attention caractérise formidablement l’être humain, c’est la vie de l’esprit qui s’exprime là. Ca aussi on veut l’automatiser, comme le désir. Par son fonctionnement, ce système porte en lui ce projet d’une société automatique qui sera peuplée d’hommes automatiques.

La machine est en marche, l’extraction de données a cours. Et avec la multiplication des objets connectés, elle ne va faire qu’augmenter. Le processus n’est-il pas inéluctable?
Non car l’extraction de données n’est pas inéluctable. L’extraction de données est une entreprise commerciale. C’est le projet des Google, Apple, Facebook, Amazon, Microsoft (dites GAFAM): numériser intégralement le monde. L’un des représentants de Google a dit que le but de Google est d’organiser l’entièreté de l’information du cosmos. Du cosmos! Il n’a pas dit l’information marketing, commerciale. Mais organiser l’information, cela veut dire la maîtriser. Il ne faut jamais oublier que ces entreprises-là – qui extraient nos données – ne visent pas le bien de l’humanité, elles visent leur bien à elles. Le bien de l’humanité n’est pour elles que le moyen de nous appâter. Tous ces dispositifs qu’ils inventent sont utiles, confortables, plaisants à utiliser. C’est là la pierre d’achoppement. La pensée critique fait face à une vraie difficulté car comment convaincre les gens que tous ces outils ultra pratiques mènent le monde à un enfer numérique?

Ces entreprises ont déjà la main sur les données numériques. En quoi, alors, l’aspiration de nos données et l’automatisation de nos comportements ne sont pas inéluctables?
Parce qu’on peut faire un internet sans extraction de données avec un internet public. Par exemple, l’Union Européenne pourrait proposer un grand projet de numérique non privatisé, aussi performant que l’actuel mais sans but commercial. Le retard par rapport à la Silicon Valley peut se rattraper en quelques années. Aujourd’hui, l’UE court après les GAFAM pour avoir accès à des informations touchant à la lutte contre le terrorisme. Cela veut dire que cette fonction régalienne de l’État, la sécurité, est, pour une part, aux mains d’entreprises, elle est privatisée. On marche sur la tête.

Lire aussi : Google X, le laboratoire qui imagine le futur

Cela vous paraît-il faisable de sensibiliser l’opinion publique à l’intérêt de sortir du numérique privatisé?
C’est difficile. À cause de ce que j’ai déjà évoqué: l’aspect apparemment inoffensif de ces outils. Le nœud est là, on est victime d’une illusion. Je suis toutefois convaincu qu’on peut l’expliquer aux gens. Je le vois avec mon auditoire de 400 étudiants quand je donne mon cours de philosophie de la technique. On ne leur a jamais dit, cela leur dessille le regard. Et ils accrochent parce qu’ils baignent dans le numérique. Je crois sincèrement que c’est faisable, d’autant que plus on avance, plus les gens sont confrontés à ces situations dans leur quotidien. Avec, par exemple, la notification des cookies, nos coordonnées qu’on doit laisser sur les sites, la pub sur notre mur Facebook pour les chaussures qu’on est allé voir sur un autre site quelques heures auparavant, etc.

Difficile de ne pas être séduit voire fasciné par ces innovations et ces objets connectés qui améliorent notre sécurité (comme l’appel d’urgence automatique des voitures) et notre santé (telle la montre qui surveille le rythme cardiaque)…
L’exemple de la médecine est un très bon exemple. Google est en train de mettre sur le marché des machines à diagnostic avec, ensuite, la médication pour votre profil qui est unique. Cela veut dire la suppression des médecins et des pharmaciens. Ce n’est pas la suppression de la médecine et de la pharmacie car ils en auront besoin pour programmer leurs machines, mais ils veulent leurs médecins, leurs pharmaciens. C’est tellement vrai qu’ils ont leur université, la Singularity University [université de la Silicon Valley soutenue par Google, NDLR]. Ils veulent former leurs gens. La prochaine profession qui va être supprimée ce sera les chauffeurs, puis les juristes – il y a déjà des logiciels juridiques aux Etats-Unis – et viendront les médecins et les pharmaciens. On dira que pour la santé tant mieux car j’aurai précisément ce qu’il me faut. Cela dit, la médecine n’est pas que de la chimie, il y a toute une dimension relationnelle. Est-ce qu’on veut sa disparition? Ne peut-on pas trouver un mix entre les deux?

C’est bien là tout l’enjeu: parvenir à bénéficier des avancées tout en gardant la maîtrise…
Tout à fait. Il faut prendre les choses en main. Et à un niveau institutionnel et au minimum à un niveau continental. Car ce n’est pas vous et moi qui allons pouvoir peser. Renoncer à son smartphone ou à l’usage des réseaux sociaux, ça ne sert à rien. Les actes individuels n’ont aucun impact, si ce n’est pour vous comme acte moralement héroïque. C’est à un niveau puissant, européen que cela doit être fait et vite car Google ne va pas nous demander notre avis, il va nous placer devant le fait accompli.

A-t-on déjà été confronté à ce genre de situation dans l’histoire?
Pas dans cette ampleur. C’est la première fois dans l’histoire de l’humanité qu’on est confronté à une technologie qui veut étendre son emprise sur l’intégralité de la vie humaine. C’est l’ensemble de nos comportements vitaux qui sont siphonnés par le numérique. Le capitaliste s’étendait jusque-là aux marchandises qu’on échange, mais là, il s’étend à notre existence même. C’est la première fois qu’une technologie veut envelopper notre existence et surtout se substituer à notre esprit. Ce n’est pas qu’une prolongation de nos compétences, mais quelque chose qui va s’immiscer dans notre individualité et dans la manière d’éprouver l’existence. Les Google Glass, par exemple, se substituent à notre vision. Tout cela est absolument inédit.