Ann Nowé: "Je ne crois pas aux killer robots"

Le test mis en place pour le projet NRGCoin fait intervenir l'intelligene artificielle, la blockchain et une cryptomonnaie pour mieux faire correspondre l'offre et la demande d'électricité verte. ©Karoly Effenberger

Depuis 35 ans déjà, la VUB mène des recherches sur l’intelligence artificielle. À l’AI Lab, des esprits brillants de toute l’Europe travaillent sur les prochaines générations de technologie intelligente.

Voulez-vous jouer à "Super Mario"? Voilà une question à laquelle on ne s’attend pas vraiment de la part d’un éminent scientifique d’un laboratoire universitaire reconnu. Il n’empêche que quelques minutes plus tard, nous sommes en train de manœuvrer un plombier italien moustachu dans un monde virtuel bigarré, en quête d’un maximum de cryptodevises.

Les visionnaires ont-ils toujours raison?

Découvrez leurs prédictions pour les dix années à venir dans notre dossier spécial.

C’est un jeu, mais pas seulement. Cette version du jeu vidéo classique de Nintendo a été adaptée par Denis Steckelmacher, étudiant doctorant à l’AI Lab de la VUB, l’université flamande de Bruxelles. Il a modifié les couleurs des pièces de monnaie que vous pouvez collecter dans le jeu, et leur a attribué différentes valeurs. Certaines pièces donnent beaucoup de points, d’autres moins, certaines sont neutres ou font perdre des points. Pendant les deux minutes que dure la démonstration, le joueur doit assimiler les règles et essayer d’obtenir un maximum de points.

Nous ne sommes pas seuls à jouer. L’ordinateur à côté de nous se présente comme un adversaire redoutable. Steckelmacher a programmé un algorithme qui jouera contre nous. Ce logiciel part aussi de zéro, mais il est programmé pour utiliser toutes les informations collectées au cours de la partie. Cette démo est une belle illustration du type de recherche dont Steckelmacher s’occupe ici à Bruxelles. Il étudie la manière dont les algorithmes peuvent devenir par eux-mêmes plus intelligents, ce que l’on appelle dans le jargon du laboratoire: "reinforcement learning".

Denis Steckelmacher a écrit un algorithme qui apprend lui-même à collecter les bonnes pièces dans une version modifiée du jeu Super Mario. ©Karoly Effenberger

Je fais craquer mes doigts de nervosité. J’ai déjà lu et écrit beaucoup de choses à propos de l’intelligence artificielle (IA), mais c’est la première fois que je vais me battre contre elle. Je sens monter en moi comme une ambition démesurée: je joue pour l’humanité! Mais après deux minutes de martèlement sur le clavier, de jurons et de larmes, il n’en reste pas grand-chose. Sur les écrans tombe le verdict implacable: "Human: 416 – AI: 471". Si je devais réellement me battre contre une machine, je serais sans aucun doute un oiseau pour le chat.

Pionniers

Denis Steckelmacher regarde son écran. Le doctorant expérimente le "reinforcement learning", une technique pour apprendre la technologie par essais et erreurs. ©Karoly Effenberger

La professeure Ann Nowé éclate de rire face à ce petit "mélodrame". Avec ses collègues, elle assure le bon fonctionnement de l’AI Lab. Elle dirige une équipe composée d’une quarantaine de chercheurs et d’étudiants, qui analysent chacun à sa manière comment et sous quelle forme l’IA peut jouer un rôle dans notre vie future.

Avec ce laboratoire, la VUB a joué un rôle de pionnier en Europe. Le laboratoire a été créé en 1983 par le professeur Luc Steels, linguiste et informaticien. Il est le premier du genre sur le continent européen. La VUB jouait déjà un rôle de pionnier en sciences informatiques, avant même que l’université ne dispose d’un département spécifique. D’autres laboratoires d’IA ont suivi dans toute l’Europe, mais Bruxelles a continué à jouer un rôle important. Jusqu’à ce jour. "Sans vouloir nous vanter, nous nous classons bien en matière de recherche, explique Nowé. Nous regrettons amèrement de ne pas trouver du financement pour ce que nous estimons être de bonnes idées, mais nous réussissons à attirer de nombreux projets, tant nationaux qu’européens."

Durant les 35 années d’existence du laboratoire, l’IA a énormément évolué. "Nous avons traversé les différentes vagues, explique Nowé. C’est l’avantage d’avoir commencé très tôt." Au début, la VUB se concentrait surtout sur des "systèmes experts". En langage humain: des systèmes qui essaient de capter et de modéliser le processus de réflexion d’un expert dans un domaine, et d’automatiser ce processus.

"Pour les traductions, injecter des données ne suffit plus. Il faut ‘comprendre’ la langue."

"Ces systèmes sont encore beaucoup utilisés aujourd’hui, mais ils ont leurs limites, poursuit Nowé. La vague suivante d’IA a voulu résoudre ce problème en se tournant davantage vers des processus naturels de prise de décision. La modélisation de l’évolution biologique, par exemple. Ou l’organisation des fourmis. Il y a eu beaucoup de discussions entre ces deux courants pour savoir quelle voie créerait la meilleure IA." (elle rit).

"La dernière vague d’IA, est celle des systèmes qui apprennent à partir de grandes quantités de données, poursuit Nowé. Avec la percée d’internet et la digitalisation de la société, des montagnes de data sont aujourd’hui disponibles. Des systèmes ont été développés pour creuser dans ces trésors de données. Les systèmes de traduction de Google Translate, par exemple, profitent d’une banque de données de mots et de phrases qu’ils peuvent comparer. On peut faire beaucoup de choses de ces données, mais vous constatez rapidement les limites d’un tel système de traduction. À un moment donné, injecter deux fois plus de données ne fait plus aucune différence et n’améliore plus la qualité des traductions. Pour faire la différence, vous devez changer de tactique. Un système doit pouvoir ‘comprendre’ une langue. La modélisation des processus naturels peut faire la différence."

L’AI Lab mène logiquement de nombreuses recherches sur cette étape. La passion de son fondateur Luc Steels a toujours été la recherche fondamentale en langues – le linguiste y voit la clé de l’amélioration de l’intelligence artificielle. Le langage nous permet de penser sous forme de concepts et de communiquer, contrairement aux machines qui prennent tout au pied de la lettre et ne sont pas capables de contextualiser. Il faut donc commencer par donner aux machines la possibilité d’apprendre une langue.

Nous pouvons voir ce concept en action dans l’AI Lab. Nowé nous présente un étudiant doctorant, Jens Nevens, un des chercheurs qui – pour résumer – essaient d’apprendre une langue à des robots. Ou mieux, qui essaient de "faire" apprendre une langue à des robots.

Un robot occupé avec son étude de langue. Sur l’écran devant lui, il voit des ampoules colorées. Le but est que le robot apprenne à coller des termes sur les couleurs et sur la position des sphères afin de développer un vocabulaire, certes limité. Ce type de test devrait fournir des connaissances sur la façon dont la langue est créée et apprise, ce qui peut être très utile dans le développement des futures générations d’IA. ©Karoly Effenberger

Sur le bureau de Nevens traîne un petit robot du modèle Nao, une création de la société japonaise Softbank. Il regarde un écran où sont représentées des boules bleues et rouges. L’objectif consiste à ce que le robot cite des termes à la fois sur la couleur et la position des boules sur l’écran – au-dessus ou en dessous, à gauche ou à droite. Nevens indique chaque fois une boule au robot, qui lui associe un mot puis demande si c’est correct ou non. En répétant cet exercice suffisamment souvent, le robot obtient finalement une image de ce que sont rouge et bleu, gauche et droite, au-dessus et en dessous. Ceci n’est qu’une démo, minimaliste donc. Les recherches de Nevens et de ses collègues se concentrent sur de plus grandes "communautés d’agents" qui, via une communication sous-jacente, développent un vocabulaire et une grammaire autour des couleurs, des formes, des positions, etc.

"Vous n’apprenez pas à rouler à vélo en étudiant les règles. Vous le faites en roulant. C’est la même chose pour l’intelligence artificielle."

Ce type de recherche peut nous apprendre beaucoup plus sur la naissance du langage, ce qui peut contribuer à la modélisation du processus d’apprentissage. À quoi cela pourrait-il servir? "Pour améliorer les traductions, explique Nowé. Mais aussi par exemple pour identifier des messages de haine ou de radicalisme sur les réseaux sociaux. Imaginez un match de football et un programme informatique capable de passer au crible les messages sur les réseaux sociaux pour évaluer le risque de dérapage de supporters…"

Panneaux solaires

Nowé est elle-même experte en reinforcement learning, cette forme de "machine learning" où les algorithmes apprennent sur base de leur propre expérience, à l’image de cet ordinateur qui est très vite devenu excellent dans le jeu Super Mario. L’exemple le plus connu dans ce domaine est AlphaGo, l’algorithme créé par la filiale IA de Google, DeepMind, et qui a réussi à maîtriser à la perfection le très complexe jeu de "Go" et à battre le champion du monde.

"Pour expliquer ce qu’est le reinforcement learning, j’utilise souvent la métaphore de l’enfant qui apprend à rouler à vélo, explique Nowé. Vous ne pouvez pas définir ni modéliser parfaitement les règles. Tout ce que vous pouvez dire à l’enfant, c’est: tu dois appuyer sur la pédale, regarder devant toi, prendre suffisamment de vitesse, etc. Mais tout cela ne permet pas encore de rouler à vélo. Un enfant apprendra via son expérience, en essayant, en faisant des erreurs et en essayant à nouveau. Le feed-back de nos échecs nous aide à trouver la bonne voie. C’est la même chose avec de nombreux apprentissages. Si vous achetez une nouvelle télévision et que vous êtes trop paresseux pour lire le mode d’emploi, vous ferez divers essais pour finalement comprendre comment elle fonctionne. C’est la même chose avec les systèmes informatiques."

Le reinforcement learning a déjà des applications concrètes, par exemple dans des thermostats intelligents. "Ils apprennent du feed-back que vous leur donnez lorsque vous changez la température, ou des données qu’ils tirent de votre consommation d’énergie."

Pour un autre exemple, Nowé nous emmène auprès d’un chercheur post-doctorant Mihail "Mike" Mihaylov, qui utilise entre autres le reinforcement learning pour développer un réseau intelligent qui permet de faire mieux coïncider l’offre et la demande d’électricité verte. "Le gros problème de l’électricité verte à l’heure actuelle, c’est qu’elle n’est produite qu’à certaines périodes de la journée et que le système actuel ne pousse pas le consommateur à consommer l’énergie à ces moments-là, explique Nowé. Concrètement: les panneaux solaires produisent de l’électricité pendant la journée, mais vu que beaucoup de personnes ont un compteur bi-horaire, elles déplacent leur consommation pendant la nuit. Aujourd’hui, nous avons donc un système où nous produisons trop d’énergie pendant la journée, et nous la vendons à l’étranger au moment des pics. Nous devons donc trouver un mécanisme qui fera mieux coïncider l’offre et la demande. C’est le sujet des recherches de Mike."

"Nous formons aujourd’hui une génération de jeunes qui ne comprennent pas une partie fondamentale du monde dans lequel ils vivent. C’est inquiétant."

Mihaylov a imaginé un système complexe qui combine le reinforcement learning à la technologie de la blockchain, au "mining" et au négoce d’une nouvelle cryptodevise, le NRGcoin. Nous n’entrons pas ici dans les détails, mais cela revient à encourager respectivement les producteurs et les consommateurs à produire et à consommer de l’électricité verte au bon moment. Et un algorithme intelligent peut aider à faire coïncider l’offre et la demande. "C’est un tissu d’interactions tellement complexe qu’il ne sera jamais possible de le modéliser, explique Nowé. C’est là que le reinforcement learning prend toute sa valeur."

Réflexion computationnelle

©Karoly Effenberger

Un profane ne peut qu’être impressionné par tout ce qui se passe dans un si petit espace de travail. "Nous pouvons être fiers, dit-elle en souriant. Tout en nous mettant immédiatement en garde pour l’avenir. "Je m’inquiète que nous n’ayons pas réussi à convaincre le monde politique de l’importance d’apprendre à notre jeunesse à penser de manière computationnelle. Je ne veux pas dire ici que tout le monde doit devenir informaticien. Mais nous ne donnons même pas aux jeunes la compréhension de base de la manière dont un ordinateur exécute une tâche ou peut résoudre un problème, de la manière dont les algorithmes sont créés. C’est incompréhensible, dans un monde qui se numérise de plus en plus."

"Aujourd’hui, nous apprenons à nos étudiants comment utiliser Word et Excel, et nous appelons cela de l’informatique. Ce sont des compétences utiles dans la vie, mais elles ont aussi peu de rapport avec l’informatique qu’une leçon de dactylo pour l’apprentissage du Néerlandais ou du Français. Dans les leçons de physique, de chimie, de biologie ou d’histoire, nous apprenons à comprendre comment le monde fonctionne. Pourquoi ne le faisons-nous pas pour l’informatique? Nous formons aujourd’hui une génération de jeunes qui ne comprennent pas une partie fondamentale du monde dans lequel ils vivent. C’est inquiétant."

Y a-t-il d’autres problèmes qui inquiètent Nowé dans le domaine de l’IA? "Je ne crois pas aux killer robots qui auront une conscience propre et qui nous rayeront de la carte du monde, dit-elle en souriant. Mais nous devons être conscients des responsabilités qui vont de pair avec une technologie telle que l’IA. Si des systèmes peuvent tourner de manière autonome, il faudra notamment les protéger efficacement contre des piratages potentiels. Eh oui, nous devons être conscients des questions éthiques que suscite l’IA. Comme la manière dont les machines prennent des décisions et qui en est responsable. Ce sont des sujets de réflexion non seulement pour les experts en IA, mais aussi pour les comités d’éthique, les philosophes, les juristes, etc."

Mais Nowé reste malgré tout positive. "L’IA a le potentiel d’améliorer notre vie dans de nombreux domaines. Écologie, santé, confort de vie, ce sont autant de secteurs où elle pourrait facilement faire la différence. Un exemple? Je pense que bientôt l’IA réussira à comprendre les différents contextes et pourra agir comme véritable partenaire pour les utilisateurs. Par exemple, je prends tous les jours le train à Gand, mais pas toujours à la même heure. Ne serait-ce pas fantastique qu’un système m’annonce spontanément que je ne dois pas me dépêcher parce que mon train a un quart d’heure de retard? Ou si mon smartphone remarque avant moi que quelque chose ne va pas concernant ma santé, ce qui me permet d’aller plus rapidement chez le médecin? La technologie peut être un vrai buddy, nous n’en sommes plus très loin."

Les visionnaires ont-ils toujours raison? Découvrez-le ici!


Lire également

Publicité
Publicité
Publicité
Publicité

Contenu sponsorisé

Partner content