interview

Gaspard Koenig "Nous devons retrouver la capacité à penser contre nous-mêmes"

Gaspard Koenig se pose la question: "Un pays a-t-il vocation à coloniser les autres, en sachant que la colonisation ne passera plus par les armes mais par les données ?" ©Antoine Doyen

Dans son dernier livre *, Gaspard Koenig, philosophe et fondateur du Think Tank " Génération libre ", s'est intéressé à l’intelligence artificielle et a rencontré pas moins de deux cent acteurs dans ce domaine. Au fil d’une longue enquête, qui l’a mené de la Silicon Valley à la Chine en passant par Oxford et Tel Aviv, il pointe les grands enjeux de société qui se profilent derrière cette question.

Vous avez enquêté notamment dans la Silicon Valley qui, apparait attractive et innovante. Qu’en retenez-vous ?

Le siège d'Apple dans la Silicon Valley ©Getty Images

Contrairement à ce qu'on veut nous faire croire, la Silicon Valley fonctionne comme l'ancien monde : les mêmes rapports au pouvoir, la même culture du secret, aucune horizontalité, aucune transparence. Par exemple, pour rencontrer les gens là-bas, c'est extrêmement compliqué et ça fonctionne comme dans l'ancien monde : par recommandation. Tout est extrêmement codifié et rien n’est disruptif.

Au delà de çà, le manque de culture générale et de sens de l’histoire chez les gens de la Silicon Valley est flagrant. La seule exception, c’est Peter Thiel. Généralement, leurs références s’arrêtent à Star Wars…

Ca manque de culture donc, mais surtout de ponts. Bien sûr, le rôle des entrepreneurs n’est pas produire de grandes théories philosophiques, mais ils doivent construire des ponts. Avant, l’entrepreneur parlait à l’économiste, au philosophe ou au poète. Il y avait des correspondances.

Aujourd’hui, on a l'impression que les gens de la Valley ne parviennent pas à sortir des questions techniques tandis que, de leur côté, les philosophes se complaisent dans des théories qui sont en décalage complet avec la réalité.

Qu’est ce qui distingue l’intelligence humaine de l’intelligence artificielle ?

L’intelligence n’a rien à voir avec l’intelligence artificielle. Selon moi, l’intelligence désigne une multiplication des points de vue. Elle n’est pas seulement analytique, elle implique une forme de rapport au corps, aux valeurs, aux sentiments. L’intelligence, ce n’est pas simplement savoir calculer à toute vitesse…

Le manque de culture générale et de sens de l’histoire chez les gens de la Silicon Valley est flagrant. Tout y est extrêmement codifié et rien n’est disruptif.

Les fondateurs de l’IA n’ont jamais eu l’intention de copier l’intelligence humaine. L’intelligence artificielle est une simple synthèse, extrêmement rapide et puissante, des résultats de la pensée humaine. C'est une métaphore, elle n’a pas pour but de se substituer à l’intelligence humaine.

A partir du moment où l’on accepte cet état de fait, on met de coté la science fiction et le sensationnalisme. De plus, il faut rappeler que l’on est encore qu'au stade préliminaire du développement de l'IA.

La faiblesse de l’intelligence artificielle, c’est qu’elle n’est pas capable de sens commun. Elle ne peut pas construire une représentation totale du monde. En outre, elle ne peut pas produire de valeurs, de morales. Elle doit toujour s'appuyer sur du travail humain. J’aime bien utiliser cette image à son sujet : un avion vole, mais il ne possède pas les ailes d'un oiseau. C’est donc une technique intéressante qui, en soi, n’a rien de terrifiant, indépendamment de son utilisation industrielle.

Contrairement à certains, vous ne pensez pas que l’intelligence artificielle va détruire le travail. Pourquoi ?

Comme je l’ai dit, l’IA n’a pas la capacité d'élaborer une représentation générale du monde et des comportements. A l’inverse, l’humain possède une vision d’ensemble de la société et il peut envisager les situations auxquelles il est confronté dans toute leur complexité.

Ceux qui prétendent que ce sera la fin du travail serait en réalité très content de pouvoir contrôler les oisifs et, par conséquent, de faire de ceux qui travaillent une élite ultra-puissante. Quand on ne travaille plus, on est d’autant plus soumis à la puissance de l'algorithme en sachant qu'on ne se constitue plus comme personnalité. Même ce qu’on appelle le " bullshit job " ne pourra jamais être remplacé par une IA, car il correspond à des besoins anthropologiques, louables ou non.

Il est également intéressant de noter que l’on croit toujours que c’est le travail de l’autre qui va être robotisé ou colonisé par l'IA. Par exemple, aux Etats-Unis, à force de dire que le métier de chauffeur de camion va disparaître, on observe une pénurie de chauffeurs de camions… Le seul danger serait de transformer notre environnement pour le conformer entièrement à l’IA, comme c’est le cas en Chine avec, par exemple, les " smart cities ".

Dans ce cas, on élimine notre lien à l'environnement en planifiant tout et en supprimant le travail. Nous devons vivre comme des hommes, avec des choses que l’on crée nous-mêmes, des villes qu'on façonne petit à petit, et non en recourant à des planifications ex nihilo.

Le libre arbitre peut-il survivre à l’IA ?

Si on additionne les "nudge", les biais cognitifs, l’économie comportementale et les neurosciences qui retracent les circuits de décisions dans le cerveau, on voit qu'il existe une série de faits scientifiques qui semblent mettre en question la notion de libre arbitre en considérant l’être humain comme une entité crédule et manipulable.

L’individu ne serait donc pas doté de capacité de jugement autonome. Puisque son jugement est défaillant, il s'agit donc de l’orienter de la manière la plus utile. L’IA incarne ainsi une espèce de sécularisation de l’idée de prédestination de Luther. Ceux qui ont défendu le libre arbitre était toujours du coté de l'humanisme, comme Erasme. A mon sens, il faut conserver l’idée d’une responsabilité, ce que je nomme l’" arbitre libre ". Ce qui est important, ce n’est pas de savoir si mon comportement est déterminé ou non. Ce qu’il faut conserver, c’est cette capacité de délibération intérieure, qui suppose de se projeter dans une intention et d’assumer son histoire.

Reconnaissance faciale via une intelligence artificielle ©REUTERS

A plus long terme, quel pourrait etre l’impact de l’IA sur la démocratie ? Est-ce la fin de l'Etat, comme certains le prédisent ?

Au nom de la modernité, certains se réjouissent de la fin de la démocratie. J'ai beaucoup entendu ce discours dans la Valley. Selon moi, le concept d’Etat de droit n’est pas du tout obsolète. Zuckerberg lui même appelle à la régulation, car il se rend bien compte qu'il est impossible pour les plateformes de tout réglementer.

L’Etat délègue beaucoup trop de responsabilités. On demande à Facebook de produire des règles sur tout et n'importe quoi. Or, ce n'est pas à Facebook de faire çà. C'est à l'Etat que revient la tâche de déterminer ce que l’on peut faire ou non, ce que l'on peut dire ou ne pas dire, car les plateformes fonctionnent uniquement sur le principe de l’émotion.

L'autre enjeu, ce sont les niveaux de démocratie. Sur la question des datas, les Etats ne peuvent pas réguler chacun dans leur coin, je suis donc en faveur d’une gouvernance continentale ou mondiale. D’un autre coté, je pense qu’il est nécessaire que se développent des systèmes démocratiques beaucoup plus locaux en ce qui concerne les modèles économiques et sociaux dans lesquels nous vivons. Ce qui suppose la rencontre physique entre les personnes.

Vous montrez aussi que nous sommes à l’aube de grandes manipulations politiques…

Les réseaux sociaux sont largement responsables de l’hystérie politique mondiale actuelle. A coté de la manipulation " à l’ancienne ", il y a une chose bien plus inquiétante : l’auto-manipulation. Indépendamment de toute initiative politique quelconque, nous nous enfermons dans des bulles sociales et cognitives dont nous ne pouvons plus sortir car nous fréquentons toujours les mêmes types de raisonnement. Il faut retrouver cette capacité à penser contre soi-même. Je conseille donc à tout le monde de quitter les réseaux sociaux.

En quoi le développement phénoménal de l’IA en Chine est-il, selon vous, en accord avec les valeurs véhiculées par la culture chinoise ?

©REUTERS

Les Chinois ont la même foi dans le progrès que les Européens du 18ème siècle. L’IA permet un nombre incalculable de choses, elle produit notamment du bien être dans un pays qui, il y a 40 ans à peine, connaissait des famines. Il y a encore des millions de gens sous le seuil de pauvreté, alors pourquoi s'embêter avec des débats inutiles ? Voilà ce que disent en substance les Chinois. D'autre part, en Chine, l’individu n’est pas l’entité première de la société.

Le libre arbitre ne correspond pas à la culture confucéenne qui met plus en avant le partage. En somme, les Chinois sont plus moraux que nous. Ils respectent les anciens, l’autorité. Ils estiment que c'est bien qu'il y ait une hiérarchie. Ils pensent qu'il faut servir sa famille et éviter d'avoir des comportements égoïstes aberrants.

J'ai rencontré des ingénieurs d'Alibaba qui trouvaient tout à fait normal de collaborer avec la police. Cette technologie que la Chine épouse lui permet de ne plus faire l'erreur qu'elle avait faite au 18ème siècle, c'est-à-dire rejeter le progrès. La Chine est donc en train de fermer cette parenthèse et de devenir la première puissance puissance économique mondiale, en conformité avec ses valeurs et avec le caractère autoritaire du pouvoir ; tandis que, de notre coté, nous sommes tiraillés par des dilemmes nouveaux, notamment le rapport entre prospérité et liberté.

Pendant longtemps, nous avons cru que grâce à l'Etat de droit nous étions supérieurs, économiquement parlant, aux dictatures infâmes qui affamaient leurs populations. Or, maintenant, nous nous retrouvons dans une position très inconfortable : plus on protège les libertés, plus on nuit aux développements de systèmes d'IA très performants. Pouvons-nous établir un modèle alternatif viable ? Ou alors un pays a-t-il vocation à coloniser les autres, en sachant que la colonisation ne passera plus par les armes mais par les données ?

Margrethe Vestager ©AFP

Comment l’Europe doit-elle réagir ?

A court terme, elle n’a d’autre choix que de s’unir ou périr. Il faut définir une stratégie forte et claire qui passera, de mon point de vue, par l'histoire du droit de propriété. Le fait que Margrethe Vestager soit en charge de la transition numérique est selon moi une très bonne chose, car elle est l'une des seules à prendre la mesure de cet enjeu crucial.

* La fin de de l’individu. Voyage d'un philosophe au pays de l’intelligence artificielle, Gaspard Koenig, Editions de l'observatoire, 400 p., 21 €.

©doc

Lire également

Publicité
Publicité

Echo Connect