interview

"La complémentarité homme-machine est une fable" (Eric Sadin)

"Le terme ‘intelligence artificielle’ relève d’un abus de langage, laissant croire qu’elle serait comme naturellement habilitée à se substituer à la nôtre en vue d’assurer une meilleure conduite de nos vies", explique Eric Sadin. ©Photo Mathieu Zazzo

Penseur du numérique, Eric Sadin s’est notamment intéressé aux nouveaux dispositifs de contrôle ainsi qu’au développement de la Silicon Valley. Il vient de publier un nouvel ouvrage: L’intelligence artificielle ou l’enjeu du siècle. Anatomie d’un anti-humanisme radical. Procédant à une analyse critique de l’intelligence artificielle, il montre comment la technique, en s'imposant de plus de plus à l'homme, cesse d'être un allié. Pour répondre à cet enjeu civilisationnel, il convoque l’humanisme, ultime garde fou face aux dérives de l’industrie numérique.

L’un des enjeux majeurs de votre ouvrage consiste à distinguer l’intelligence artificielle et l’intelligence humaine. Quelle est votre définition de l’intelligence?

L’intelligence nous permet de percevoir et de concevoir les choses de façon unique. Néanmoins, nous n’évoluons pas dans un monde clos. Nous sommes des êtres faits de corps et de sensibilité, ouverts à une infinité de dimensions du réel. C’est cette singularité de notre intelligence qui rend possible l’ouverture à autrui, le dialogue, l’apparition de nouvelles pensées, etc. Il n’y a rien de plus singulier que l’intelligence et, dans le même temps, elle s’inscrit de facto dans le commun. L’intelligence est inévitablement confrontée à d’autres forces, des forces d’affirmation et des forces divergentes. En cela, elle incarne une puissance qui conditionne le fait même de la société.

©Anthony Dehez

En quel sens l’intelligence artificielle n’est-elle pas, selon vous, intelligente?

On ne se méfie pas assez des termes qui contribuent à forger nos représentations. L’expression "intelligence artificielle" s’est imposée comme une vérité entendue. Or, il convient de revenir à son origine: la cybernétique. Un mouvement qui a vu, au sortir de la Seconde Guerre mondiale, des scientifiques constater que la technique était devenue une terrible puissance de destruction. Ils se sont alors demandés comment elle pourrait produire des effets inverses et contribuer à une organisation pacifiée de la société. À cette fin, ils ont postulé que s’il était possible d’élaborer des techniques modélisées sur le cerveau humain, tout en étant dotées d’une puissance supérieure, elles deviendraient alors capables d’éradiquer nombre de défauts et de conduire, à terme, vers une société parfaite.

Le terme « intelligence artificielle » relève d’un abus de langage, laissant croire qu’elle serait comme naturellement habilitée à se substituer à la nôtre.

Finalement, l’état de la technique, à l’époque, n’a pas permis de répondre à cette ambition démesurée. Un demi-siècle plus tard, cette ambition anthropomorphe ressurgit. Cependant, ces systèmes sont basés sur une vision extrêmement lacunaire de notre cerveau et ne procèdent pas d’une appréhension multi-sensorielle du réel. C’est pourquoi le terme "intelligence artificielle" relève d’un abus de langage, laissant croire qu’elle serait comme naturellement habilitée à se substituer à la nôtre en vue d’assurer une meilleure conduite de nos vies.

En vérité, ce qui est nommé "IA" représente un mode de rationalité cherchant à optimiser toute situation, à satisfaire nombre d’intérêts privés et, au bout du compte, à faire prévaloir un utilitarisme généralisé.

Certains prétendent pourtant que ces deux intelligences vont être complémentaires. Selon vous, il ne peut y avoir que conflit?

Les évangélistes de l’IA nous servent continuellement la fable de la "complémentarité homme-machine". Or, l’intelligence artificielle représente une puissance d’expertise qui, par la capacité d’auto-apprentissage – le "machine learning" –, est appelée à sans cesse se perfectionner.

Cette trajectoire est inévitablement vouée à marginaliser l’évaluation humaine. Nous vivons le "tournant injonctif de la technique". Il s’agit là d’un phénomène unique dans l’histoire de l’humanité qui voit des techniques nous énoncer la vérité et nous enjoindre d’agir de telle ou telle manière. Cela va d’un niveau incitatif, à l’œuvre dans une application de coaching sportif par exemple suggérant tel complément alimentaire, à un niveau prescriptif, dans le cas de l’examen de l’octroi d’un emprunt bancaire, ou dans le secteur du recrutement qui use de "chatbots" afin de sélectionner les candidats.

On va jusqu’à atteindre des niveaux coercitifs dans le champ du travail, voyant des systèmes édicter à des personnes les gestes à exécuter. Le libre exercice de notre faculté de jugement se trouve substitué par des protocoles destinés à orienter nos actes. Comment ne pas voir la rupture juridico-politique qui se produit?

©Anthony Dehez

La technique peut-elle sortir de cette logique marchande et normative?

Depuis quelques décennies, nous vivons un drame: la technique ne forme plus un champ relativement autonome. Car l’industrie a réussi à s’inféoder les ingénieurs et les scientifiques qui ne font plus que répondre à des cahiers des charges déterminés par les départements de marketing.

C’est la pluralité de la technique qui se trouve ainsi neutralisée laissant place à des productions empreintes d’un esprit uniforme. Cette situation est encore renforcée par le sponsoring dont usent à grands frais les groupes industriels auprès d’écoles d’ingénieurs et d’instituts de recherche, contribuant ainsi à définir les programmes. Nous devrions plus que jamais appeler à une indépendance de la recherche, seule à même de la détourner des seules visées de profits. Or, c’est tout le contraire qui actuellement se produit.

Vous parlez également de la "liquidation" du politique, de son "agonie". Comment expliquez-vous que le monde politique soit également soumis à ce techno-libéralisme?

Entreprises, politiques et chercheurs ne jurent que par l’IA car elle laisse entrevoir l’émergence d’un monde partout sécurisé, optimisé et fluidifié… Et des perspectives économiques illimitées.

C’est la grande obsession de l’époque. Entreprises, politiques et chercheurs ne jurent que par l’IA car elle laisse entrevoir l’émergence d’un monde partout sécurisé, optimisé et fluidifié… Et des perspectives économiques illimitées. Comme il est entendu qu’"il ne faut pas rater le train de l’histoire", les investissements s’opèrent dans la plus grande précipitation.

La vitesse exponentielle des développements s’impose à nos existences sans recourir à notre assentiment. Alors, nous avons la fâcheuse naïveté de croire à la régulation qui est sans cesse invoquée comme étant susceptible de faire contrepoids aux évolutions technologiques.

Elle se fonde sur l’idée que la fonction du législateur consiste à nous prémunir de certaines dérives. Mais il s’agit là d’une vision biaisée qui ne correspond pas à la réalité, car nous vivons dorénavant sous le régime d’un "ordolibéralisme". Celui qui voit, au sein des démocraties social-libérales, les lois être rédigées en vue de soutenir l’économie de la donnée, des plateformes et de l’intelligence artificielle. Au nom de la croissance, le monde politique soutient ces logiques au mépris de toutes les conséquences civilisationnelles.

Il y a quand même un domaine où l’on pourrait penser que l’intelligence artificielle amène des résultats probants, c’est la santé. Mais vous n’y croyez pas non plus… Pourquoi?

On ne cesse de louer les avantages que la médecine est supposée tirer de l’intelligence artificielle. On se réjouit du diagnostic automatisé qui offrirait, dit-on, un saut qualitatif, dont nous allons tous bénéficier tôt ou tard. Mais on n’évoque jamais le fait que ces mêmes systèmes sont déjà dotés de la faculté de prescription, appelée à entraîner l’achat de mots-clés par les groupes pharmaceutiques.

Car l’industrie du numérique entend faire main basse sur le domaine de la santé, voulant rendre obsolète la consultation au profit d’abonnements qui, via des capteurs sur les corps, promettent d’interpréter les états et de recommander des produits de bien-être ou des traitements thérapeutiques. Il est temps d’analyser, au-delà des discours enjoliveurs, l’étendue des effets collatéraux induits par l’intégration de systèmes d’intelligence artificielle dans la médecine.

©REUTERS

Envisagez-vous une fracture sociale entre des gens qui auront accès à l’intelligence artificielle et ceux qui se contenteront de subir sa domination?

Je constate plutôt qu’émergent de nouveaux rapports asymétriques de pouvoirs. Par exemple, l’entreprise dite "4.0" se trouve désormais pilotée par des données. Des cabinets de management définissent des critères qui sont intégrés dans des systèmes destinés à dicter l’action des personnes en fonction de seuls objectifs d’optimisation. Des formes de pouvoir sont instituées dans les dispositifs techniques eux-mêmes qui rendent difficilement possible toute velléité de divergence ou de contestation. À ce propos, regardez ce qu’il se passe actuellement en Chine avec le "crédit social". Soit un "enrégimentement" des conduites à des fins de "bon" ordonnancement social, au moyen d’appareillages techniques dédiés.

Vous définissez-vous comme un conservateur?

Je crois en des principes historiques qui nous fondent: le droit d’exercer sans entraves notre faculté de jugement et à décider librement du cours de nos destins individuels et collectifs. Mais aussi à la pluralité humaine qui conditionne le politique. C’est précisément ce foisonnement de nos subjectivités qui est en passe d’être annihilé par la faute de la puissance normative de l’intelligence artificielle. Pour ma part, je préfère au terme de "conservatisme", qui revêt une connotation péjorative, la défense et la préservation de certaines valeurs intangibles.

La résistance doit-elle s’organiser de façon individuelle ou collective?

Je pense que nous vivons une faillite de la conscience.

Je pense que nous vivons une faillite de la conscience. Alors que les évangélistes de l’automatisation du monde ne cessent d’entreprendre, nous nous sommes laissés aller à des formes d’apathie. Un mouvement contraire, faisant valoir d’autres aspirations, appelle avant toute chose, de contredire les flopées de techno-discours fabriqués de toutes pièces et qui se voient colportés de partout par des experts patentés. C’est pourquoi il convient de faire remonter des témoignages, de salutaires contre-expertises émanant de la réalité du terrain, là où ces systèmes opèrent, sur les lieux de travail, les écoles, les hôpitaux.

Nous devrions tout autant manifester notre refus à l’égard de certains dispositifs lorsqu’il est estimé qu’ils bafouent notre intégrité et notre dignité. Contre cet assaut anti-humaniste, faisons prévaloir une équation simple mais intangible: plus on compte nous dessaisir de notre pouvoir d’agir, plus il convient d’être agissant. C’est ce principe qui plus que jamais devrait nous inspirer.

* Eric Sadin, "L’intelligence artificielle ou l’enjeu du siècle. Anatomie d’un anti-humanisme radical", 296 p., 18 euros.


Lire également

Publicité
Publicité
Publicité
Publicité

Contenu sponsorisé

Partner content