IBM renonce à la reconnaissance faciale

Le géant américain IBM va se passer de la reconnaissance faciale. ©REUTERS

Arvind Krishna, le CEO d’IBM a expliqué dans une lettre envoyée au Congrès américain son souhait de ne plus se tourner vers cette technologie. Très à la mode depuis quelque temps, la reconnaissance faciale a encore pas mal de défauts.

Il est plutôt rare qu’une entreprise technologique annonce haut et fort son intention de renoncer à une innovation à la mode. IBM l’a fait ce lundi. Son patron a annoncé via une lettre envoyée au Congrès américain son intention de renoncer à la reconnaissance faciale. Le géant américain va donc mettre fin à son offre commerciale. L’entreprise était pourtant bien active dans ce domaine et disposait de son propre logiciel.

"Le moment est venu de d'entamer un dialogue national pour savoir si et comment les technologies de reconnaissance faciale doivent être utilisées par les forces de l'ordre."
Arvind Krishna
CEO d'IBM

Le virage pris par l’entreprise est surprenant et surtout assez inattendu. IBM ne justifie d’ailleurs pas pour quoi cette décision a été prise à ce moment précis. Les liens avec l’actualité sont toutefois évidents. Dans cette même lettre, le patron de l’entreprise américaine fait allusion à la polémique autour de la mort de George Floyd. "Le moment est venu d'entamer un dialogue national pour savoir si et comment les technologies de reconnaissance faciale doivent être utilisées par les forces de l'ordre", explique Arvind Krishna, le CEO d'IBM.

Biais raciste

Connue essentiellement du grand public pour son utilisation comme système de sécurité (pour le déverrouillage d’un smartphone par exemple), la reconnaissance faciale est également utilisée pour la surveillance de masse et la reconnaissance d’individu. Des utilités qui visiblement chipotent désormais le patron. "IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale proposée par d'autres fournisseurs, pour la surveillance de masse, le contrôle au faciès, les violations des droits de l'Homme et des libertés fondamentales ou tout autre objectif qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence." Si la technologie a montré son intérêt et s’est déjà bien répandue dans le monde, elle garde encore des faiblesses importantes. Plusieurs études montrent ainsi de sérieux biais, qualifiés par certains de racistes.

30%
.
Selon une étude du MIT, la reconnaissance faciale est bien moins aboutie pour certaines populations. Dans certains cas, le taux d'erreur atteint 30% lorsqu'il s'agit d'identifier des femmes à la peau sombre.

Une étude du MIT relayée par la BBC en 2019 constatait que la reconnaissance faciale était bien moins efficace pour certaines populations. L’étude qui s’était intéressée à cinq grands logiciels, dont celui d’IBM, montrait que les femmes à la peau sombre étaient systématiquement moins bien reconnues que les hommes blancs. Dans certains cas, le taux d’erreur grimpait jusqu’à 30% alors que la technologie était à 100% efficace pour les hommes blancs. La technologie est notamment utilisée par certaines polices pour faciliter les interpellations. L’important taux d’erreur peut donc mener plus rapidement à des arrestations illégales de certaines populations. Plusieurs villes américaines, dont San Francisco et Oakland, ont d’ailleurs déjà décidé de renoncer à l’utilisation de la technologie.

L’Europe s’interroge

Le débat s’est d’ailleurs aussi installé en Europe. En début d’année, l’agence Reuters annonçait que la Commission européenne planchait sur un projet de suspension temporaire de l’utilisation de la reconnaissance faciale dans les lieux publics. Dans un livre blanc d’une vingtaine de pages, l’idée d’interdire entre trois et cinq ans la technologie est évoquée. Le délai aurait pour but d’approfondir les connaissances de l’innovation.

Outre les différents biais et faux positifs, la manière dont fonctionnent ces logiciels est souvent aussi au centre des critiques. Fonctionnant via l’intelligence artificielle, la reconnaissance faciale a besoin d’énormément de photos pour apprendre et devenir toujours plus efficace. Plusieurs grandes sociétés ont ainsi été critiquées sur la manière dont leur base de données était formée. L’année dernière, la critique touchait également IBM qui avait utilisé près d’un million de photos sur Flickr sans prévenir les utilisateurs. La fin de la technologie ne devrait toutefois pas spécialement manquer au comptable de l’entreprise. Selon le site spécialisé américain TechCrunch, l’activité n’était pas vraiment rentable pour IBM. Voire même pas du tout.

Lire également

Publicité
Publicité

Messages sponsorisés