L’analyse de Margherita
Pagani, professeure d'IA pour le Business à SKEMA Business School, directrice
du SKEMA Center for Artificial Intelligence.
Utiliser l’IA dans le
cadre professionnel n’est pas sans risque. Malgré l'encadrement réglementaire
et la vigilance face aux biais algorithmiques, les entreprises françaises
sous-estiment gravement les risques liés à l'IA. « Elles ont un véritable
angle mort et doivent repenser leur approche de l'intelligence artificielle »,
alerte Margherita Pagani.
Dans une étude publiée
au sein du MIT Sloan Management Review, qu'elle a coécrite avec Gianvito
Lanzolla (Bayes Business School) et Christopher Tucci (Imperial College), la
professeure identifie un danger majeur : le « propagation risk ». Dans un écosystème
d'IA interconnecté, une erreur locale ne reste jamais confinée. « Elle se
propage silencieusement et rapidement à travers les API, les plateformes
partagées et les chaînes de décision automatisées, jusqu'à devenir systémique
», explique-t-elle.
Les exemples concrets
ne manquent pas.
La Banque d'Angleterre a déjà repéré ce phénomène sur les marchés financiers.
Dans le secteur de la santé, un algorithme de diagnostic biaisé contamine
l'ensemble du système : protocoles médicaux, assureurs, réseaux de soins. En
logistique, une simple erreur d'API couplée à une faille de cybersécurité peut
paralyser toute une chaîne d'approvisionnement.
« Les gouvernances actuelles mises en place dans les entreprises ne savent pas encore gérer ce type de risques », constate Margherita Pagani. Selon elle, l'efficacité ne passe pas par la multiplication des contrôles et des comités de conformité, mais par une approche radicalement différente. Une gouvernance adaptative, basée sur un format d’apprentissage en continu, capable d'apprendre et de transformer les leçons en nouvelles normes en temps réel. « Les organisations qui considèrent la gouvernance comme figée seront inévitablement distancées par des systèmes qui apprennent, s'adaptent et propagent le risque en temps réel », exprime la professeure de SKEMA Business School.