La justice peut-elle se fier à l'intelligence artificielle?

©Hollandse Hoogte / Olivier Midde

Le Groupe du Vendredi a rassemblé dix chercheurs issus de disciplines différentes en les invitant à partager leur vision sur les enjeux posés par la société numérique.

En droit, il n’y a pas de révolutions mais des évolutions, entend-on dire parfois. Ou tout au plus, y aurait-il des revirements, les cours et tribunaux épousant avec circonspection l’évolution des mœurs et des rapports sociaux. On parle de juris-prudence.

Mais que devient cet art de la prudence face à l’évolution des technologies? Que devient-il quand les technologies s’immiscent au cœur même de la sphère juridique pour en transformer les pratiques?

Comme de nombreuses autres sphères, le droit et la justice ne sont pas épargnés par le phénomène de numérisation du quotidien et le développement de l’intelligence artificielle qui l’accompagne.

Dans cette sphère, l’émergence de technologies basées sur des systèmes d’intelligence artificielle permet l’automatisation d’un nombre toujours plus grand d’activités, considérées auparavant comme l’apanage exclusif de l’avocat ou du juge.

"Ubérisation du droit"

Les applications intégrant des dispositifs algorithmiques, parfois auto-apprenants, se multiplient. Alors que les uns ironisent en dénonçant une potentielle "ubérisation du droit", les autres investissent dans ce qu’on appelle désormais les "LegalTechs", pour désigner une grande diversité de dispositifs censés dépoussiérer la justice et la faire entrer définitivement dans une nouvelle ère numérique: plateformes en ligne facilitant l’accès à la justice, bases de données intelligentes permettant aux avocats d’étayer des stratégies judiciaires, systèmes de prédiction aidant les juges à évaluer la dangerosité potentielle d’un individu…

La juxtaposition des termes justice et algorithme ne manque pas de faire naître un sentiment d’"inquiétante étrangeté" car elle laisse croire en une possible modélisation de la pratique juridique.

La juxtaposition des termes justice et algorithme ne manque pas de faire naître un sentiment d’"inquiétante étrangeté" car elle laisse croire en une possible modélisation de la pratique juridique.

Derrière leurs fonctions vertueuses d’optimisation et d’efficacité, ces technologies pourraient transformer radicalement la rationalité des pratiques juridiques, fragiliser les mécanismes de mise en œuvre du droit et, ce faisant, troubler la trajectoire des justiciables. À travers le développement de systèmes algorithmiques capables de collecter, d’analyser, de traiter des quantités massives de données, les acteurs de la justice se voient conférer des outils de prédiction leur permettant d’optimiser les processus décisionnels, d’anticiper les risques, voire de gouverner les conduites. Ironie de l’histoire? Les juristes de la Rome antique, qui ont tellement marqué notre tradition juridique occidentale, se fondaient eux aussi sur des oracles pour rendre leurs décisions…

Il est aujourd’hui crucial de bien cerner les enjeux sociétaux de ces nouveaux outils de prédiction. Deux pistes d’investigation méritent d’être suivies.

La première concerne les professionnels du droit et oblige à s’interroger sur la singularité de leurs pratiques: qu’est-ce que fait l’avocat ou le juge qui ne puisse être réalisé par une machine?

Il est nécessaire ici de se demander si la machine peut vraiment saisir la part d’irréductible complexité de certaines affaires. Comment envisager de nouvelles modalités de collaboration avec les machines, qui ne confineraient pas le juriste dans un rôle de simple exécutant? Comment établir une relation de confiance avec le client ou le justiciable alors que de nouveaux acteurs algorithmiques font irruption dans l’arène judiciaire?

Au-delà des problèmes relatifs à ces futures collaborations, se pose également la question du financement et du contrôle des outils numériques mis à disposition des acteurs de la justice, à l’heure où le marché de la donnée et le développement des technologies sont dominés par le secteur privé.

Impartialité

La seconde piste d’investigation concerne les justiciables et, plus particulièrement, leur droit fondamental à être traités de manière impartiale. L’un des arguments souvent avancés en faveur d’un recours plus étendu aux machines est qu’elles permettent de compenser les biais cognitifs et affectifs dont sont victimes les humains.

Trop subjectifs et partiaux, les magistrats seraient, selon certains, incapables de rendre "objectivement" la même justice pour tous. Or parmi les attributs de la justice, il n’y a pas que le glaive et la balance.

Symbole d’impartialité, le bandeau couvrant les yeux de la justice est essentiel. Aujourd’hui on sait cependant que cette critique est trop simpliste car le fonctionnement des systèmes d’intelligence artificielle peut également se révéler très opaque et, parfois, dissimuler des traitements inégalitaires et discriminatoires.

Le système avance alors masqué et son pouvoir est invisible. Le bandeau n’est plus sur les yeux de la justice, mais sur ceux du justiciable.

Lire également

Publicité
Publicité

Echo Connect