"Le système ne va plus hacker votre compte Facebook, mais bien votre cerveau"

  • Yuval Noah Harari
©ISOPIX

Auteur de deux best-sellers mondiaux, "Sapiens, une brève histoire de l’humanité" et "Homo Deus, une brève histoire de demain", Yuval Noah Harari questionne notre rapport à l’intelligence artificielle. "Le pouvoir pourrait bientôt se concentrer dans les mains d’une élite non humaine", prévient-il.

Auteur de deux best-sellers mondiaux, "Sapiens, une brève histoire de l’humanité" et "Homo Deus, une brève histoire de demain", Yuval Noah Harari est l’un des plus grands intellectuels contemporains. Certains le décrivent comme un "penseur sur pattes", capable de donner du sens et de mettre en perspective n’importe quelle problématique contemporaine.

Les visionnaires ont-ils toujours raison?

Découvrez leurs prédictions pour les dix années à venir dans notre dossier spécial.

Dans son premier ouvrage, "Sapiens", écrit en 2011, Harari narre dans le détail les trois grandes révolutions de l’histoire de l’humanité: la révolution cognitive, la révolution agricole et la révolution scientifique.

Il y envisage un basculement, imminent, dans lequel l’humain va s’affranchir de ses limites naturelles, pour le meilleur et pour le pire. Jusqu’à présent, écrit-il, les humains ont été "assujettis aux mêmes forces physiques, relations chimiques et processus de sélection naturelle qui gouvernent tous les êtres humains. Sans doute la sélection naturelle a donné à l’Homo sapiens un terrain de jeu bien plus grand qu’à tout autre organisme, mais le terrain de jeu a tout de même ses limites. Autrement dit, quoi qu’il en soit de leurs efforts et de leurs réalisations, les Sapiens ont été incapables de se libérer de leurs limites biologiques. À l’aube du 21e siècle, ce n’est plus vrai: Homo sapiens dépasse ses limites. Le voici qui commence à briser les lois de la sélection naturelle, pour les remplacer par les lois du dessein intelligent". "Dans les laboratoires du monde entier, poursuit-il, les chercheurs manipulent des êtres vivants. Ils brisent en toute impunité les lois de la sélection naturelle. Rien ne les arrête, pas même les caractéristiques originelles d’un organisme (…). Paradoxalement, l’avenir pourrait bien donner raison au mouvement du dessein intelligent."

Dans Homo Deus, Harari parle d’"un grand découplage". "Les libéraux soutiennent le libre-échange et les élections démocratiques car ils croient que chaque humain a une valeur individuelle unique, dont les choix libres constituent la source ultime d’autorité. Au 21e siècle, trois développements concrets pourraient rendre cette croyance obsolète:

- Les humains vont perdre leur pouvoir économique et militaire, par conséquent les systèmes économiques et militaires vont cesser de leur accorder de la valeur.

- Le système va continuer de trouver de la valeur dans les humains en tant que collectif, mais plus en tant qu’individus.

- Le système trouvera encore de la valeur dans certains individus uniques, mais ceux-ci constitueront une nouvelle élite de superhumains augmentés, plutôt que la masse de la population."

CV

Yuval Noah Harari 42 ans. Né en 1976 dans la ville israélienne d’Haïfa.

Yuval Noah Harari est historien. Il se spécialise dans l’histoire médiévale et militaire à l’université hébraïque de Jérusalem, et obtient en 2002 son doctorat à l’université d’Oxford. Son livre "Sapiens - Une brève histoire de l’humanité", d’abord publié en 2011 en Israël, devient un best-seller international grâce à sa publication en anglais trois ans plus tard. En en faisant leur livre de chevet, Bill Gates, Mark Zuckerberg et Barack Obama ont particulièrement contribué à son succès. Ouvertement homosexuel, Harari se marie à Toronto. Il est également végétalien et vit aujourd’hui avec son compagnon dans un moshav, une communauté agricole coopérative associant plusieurs fermes. Aujourd’hui, il est maître de conférence au département d’Histoire de l’université hébraïque de Jérusalem.

Pour Harari, "les nouvelles religions n’émergeront pas des caves d’Afghanistan ou de madrasas du Moyen-Orient, mais de laboratoires de recherche. De la même façon que le socialisme a influé sur le cours du monde en promettant le bonheur avec la vapeur et l’électricité, les nouvelles techno-religions vont conquérir le monde dans les décennies à venir en promettant le bonheur avec des algorithmes et des gènes."

Dans un entretien accordé à "L’Echo" lors d’un passage à Londres, cet historien de l’Université hébraïque de Jérusalem, diplômé de l’Université d’Oxford, approfondit ses réflexions sur la dualité entre intelligence artificielle et intelligence humaine, sur l’illusion du libre arbitre et sur la capacité à être et rester humain au 21e siècle.

Dans votre récent ouvrage, "Homo Deus", une brève histoire de demain, vous écrivez que "les humains ont accepté d’abandonner le sens en échange de la puissance." Est-il possible qu’en définitive, l’intelligence artificielle finisse par leur ôter tout pouvoir?

Personne ne peut le savoir. Nous n’en sommes qu’au stade des conjectures. Mais il est en effet possible que la plupart des citoyens perdent leur pouvoir économique et politique. Celui-ci sera concentré dans les mains d’une petite élite, voire dans les mains d’une élite non humaine, à savoir des algorithmes. De plus en plus de décisions seront prises par ces algorithmes. Actuellement, au sommet des entreprises, ou au sommet du gouvernement belge, ou du gouvernement allemand, vous avez toujours un être humain. Si le Premier ministre veut une nouvelle politique économique pour le pays, il peut toujours compter sur une équipe d’êtres humains au sein du département financier ou économique pour préparer quelques options. Dans 20 ou 30 ans, ce seront peut-être des algorithmes.

©ISOPIX

Les systèmes financier et économique deviennent si complexes qu’aucun être humain ne sera plus en mesure de tirer du sens de ce qui se passe en temps réel. Le Premier ministre définira encore le menu d’options, les critères lui permettant de prendre une décision, mais ce menu reflète de plus en plus le travail et l’analyse des algorithmes. Oui, il choisit encore le menu, mais les choix réels sont ceux qui lui sont proposés dans le menu. Et cela, ce ne sera plus la décision d’êtres humains, mais celles des algorithmes.

En dehors de sa capacité à prendre des décisions de plus en plus pertinentes, et souvent meilleures que l’être humain, l’intelligence artificielle permet également d’explorer de plus en plus finement la psychologie humaine et ses mécanismes de décision. La majorité des citoyens croit encore dans le libre arbitre. Pourquoi estimez-vous que ce n’est qu’une illusion?

Il n’y a pas de libre arbitre. D’un point de vue philosophique, cela fait des milliers d’années qu’on se pose cette question. Sans grandes conséquences parce que, même si les êtres humains n’ont en fait pas de libre arbitre et qu’ils ne prennent des décisions que par tout un processus biochimique dans leur cerveau, dont ils ne sont pas conscients, cela ne fait pas beaucoup de différence. Parce que personne, en dehors d’eux-mêmes, ne peut comprendre ces processus biochimiques, ce qui leur donne l’impression d’avoir le libre arbitre. Le grand changement aujourd’hui, c’est qu’il ne faut plus approcher cette notion par un biais philosophique, mais par un biais technologique. Pour la première fois dans l’histoire, nous approchons du stade où un système externe, basé sur la technologie, peut comprendre ce qui se passe dans mon cerveau en temps réel. Il peut ainsi comprendre mes émotions et mes choix mieux que moi, et manipuler ces émotions et ces choix sans même que je m’en aperçoive. Nous avons pu constater cela lors des dernières élections présidentielles américaines. Les émotions des gens étaient manipulées par des hackers et par toutes sortes d’algorithmes, sans qu’ils ne s’en rendent compte. En étudiant les profils sociologiques et psychologiques des électeurs sur Facebook ou Twitter, il était possible de considérablement influencer leur choix en leur montrant une vidéo orientée vers un objectif précis, en expliquant par exemple qu’Hillary Clinton comptait prendre de l’argent aux Blancs pour le reverser aux Noirs. Ou bien, au contraire si vous êtes Noir, qu’elle ne se souciait pas de votre communauté. Il s’agit d’appuyer sur un bouton, celui de la colère. L’électeur ciblé ressent cette colère, l’énergie de cette colère, et pense: "Cette émotion est réelle. Ceci est mon libre arbitre." Nous ne parlons que d’un système primitif d’analyses, basé sur les données laissées sur Facebook et Twitter. Imaginez donc ce qui va se passer dans vingt ans, lorsque ce système aura prise sur vos données biométriques, sur votre cerveau, sur votre corps. Il n’aura plus besoin de hacker votre compte Facebook, il va directement hacker votre cerveau.

Si le libre arbitre n’est qu’un mythe, qu’en est-il des notions de mérite et de culpabilité?

Tout dépend de la conception que l’on se fait de la justice. L’une est basée sur l’idée de responsabilité et de vengeance: la personne qui a commis un meurtre l’a fait de sa propre volonté et la société doit la punir par vengeance car le meurtrier est considéré comme une personne diabolique. Cette conception de la justice est actuellement prédominante.

Mais il y a une autre conception, basée sur 3 notions différentes: la défense, la dissuasion et la guérison. Même si la décision de commettre un meurtre n’a pu être prise de façon libre et éclairée, mais qu’elle est la résultante de processus biochimiques extrêmement complexes et impossibles à contrôler, le meurtrier doit être mis en prison afin de protéger les autres. Même si ses gènes lui enlèvent la responsabilité du meurtre, il faut le séparer de la société comme on séparerait d’un jardin d’enfants un tigre, qui agit de manière non responsable puisqu’il n’a pas choisi d’être tigre. La deuxième notion est celle de la dissuasion. Une partie des informations qui entrent dans le système biochimique de mon cerveau est la certitude que si je perpétue un meurtre, on va me mettre en prison. Même si ce n’est pas le libre arbitre, la dissuasion fonctionne. La troisième notion, peut-être la plus importante, est la guérison, la thérapie, le traitement. Si vous avez ce type de système biochimique qui fait de vous un meurtrier, vous avez une sorte de maladie et il faut vous soigner. Dans le passé, puisqu’on ne comprenait rien au fonctionnement du cerveau, on se disait: "Oh, mais c’est son libre arbitre." Aujourd’hui, puisqu’on sait qu’il s’agit d’un dysfonctionnement du cerveau, la meilleure façon de traiter les meurtriers est de les guérir.

"Le grand changement aujourd’hui, c’est qu’il ne faut plus approcher la notion de libre arbitre par un biais philosophique, mais par un biais technologique."
Yuval Noah Harari

Ces dernières années ont vu une explosion de la colère contre des minorités ou contre des catégories de population. Tout le monde, ou presque, a subi à un moment donné des attaques collectives frontales du fait de son statut, de son genre, de son mode de vie ou de ses origines. Au bout du compte, ces vagues n’expriment-elles pas avant tout une haine de tout ce qui est imparfait, faible, de tout ce qui est trop humain, en opposition, de plus en plus, aux robots et à l’intelligence artificielle?

Cela est vrai dans de nombreux domaines, notamment dans l’automobile. Certes, il y a eu cet accident où une voiture autonome a tué quelqu’un sur la route. Mais dans la plupart des cas, l’être humain est le centre du problème. Chaque année, environ 1,2 million de personnes meurent dans des accidents qui sont, dans 90% des cas, le fait d’une erreur humaine, comme une conduite en état d’ivresse ou trop rapide. Dans de nombreux cas, remplacer l’humain par l’intelligence artificielle se justifie. Dans d’autres, cela pose de nombreuses questions éthiques et politiques. La technologie ne pourra pas tout résoudre. La vraie question va être de savoir ce que l’on peut faire avec la technologie. Elle ne peut pas nous guider là-dessus.

Si les algorithmes remplacent petit à petit nos décisions, qu’en est-il de notre quotidien, nos métiers? A-t-on déjà observé, dans l’histoire du travail, une mutation aussi spectaculaire et aussi rapide?

C’est sans précédent. Bien sûr, il y a déjà eu des révolutions sur le marché du travail. La révolution industrielle est la plus évidente. Mais elle ne s’est pas produite aussi rapidement. Toutes les révolutions du travail se sont faites de façon plus progressive. On passait d’un type de marché à un autre type de marché, mais ça se stabilisait ensuite. Comme en 1800, vous travailliez dans une ferme et vous éleviez des vaches ou des poulets, puis soudain, vous décidiez de déménager dans une grande ville et vous commenciez à travailler dans une usine. Mais là, vous restiez là, dans cette usine, jusqu’à la fin de votre vie, et vous y faisiez entrer votre fils ou votre fille pour y occuper des fonctions similaires. Ce qui est différent, avec cette nouvelle révolution, c’est qu’elle ne sera pas unique. Elle ne sera pas suivie, comme les autres, d’une phase de stabilisation. Elle va être suivie de grandes révolutions en cascade, disons tous les dix ans, au fil des développements de l’intelligence artificielle et de la robotique. Même les nouveaux types d’emploi à venir d’ici 10 ou 20 ans, seront à leur tour remplacés par d’autres. Nous ne passerons plus d’un état stable à un autre. Nous entrons aujourd’hui dans un monde en perpétuel changement, et ce changement sera de plus en plus rapide.

Les visionnaires ont-ils toujours raison? Découvrez-le ici!

Lire également

Publicité
Publicité
Publicité
Publicité

Contenu sponsorisé

Partner content