Déléguer des actions à l’IA, oui. Mais qui répond de ses erreurs ? Une étude TeamViewer révèle le flou qui entoure l’IA autonome au travail.
Quatre chiffres clés en
France
·
21 % des salariés interrogés estiment que personne ne devrait
être tenu responsable lorsqu’un système autonome commet une erreur, puisqu’il
s’agit d’un système
·
47 % considèrent que la responsabilité est
clairement établie en cas d’erreur
·
50 % ne savent pas toujours quand faire confiance à l’IA et
quand vérifier ses résultats
·
71 % se disent à l’aise avec une IA capable d’agir de façon
autonome, à condition de pouvoir intervenir si nécessaire
Les salariés sont prêts
à déléguer des actions à l’IA. Mais savent-ils à qui revient la responsabilité
lorsqu’elle se trompe ?
Les résultats français
de l’étude TeamViewer menée par Sapio Research mettent en lumière un enjeu qui
dépasse la performance des outils : définir qui autorise leurs actions, qui
peut les interrompre et qui répond de leurs conséquences. La possibilité de reprendre
la main rassure, mais elle ne suffit pas à clarifier les responsabilités.
Pour les entreprises,
l’enjeu est donc aussi managérial : donner aux équipes des règles concrètes sur
ce qu’elles peuvent déléguer, les résultats qu’elles doivent vérifier et les
situations qui nécessitent une validation humaine. Sans ces repères, l’autonomie
des outils risque de laisser chacun interpréter ses propres obligations.
« Les dirigeants ne
doivent pas non plus présumer que leur propre niveau de confort avec
l’autonomie est partagé par l’ensemble de l’organisation » souligne Jan Bee,
responsable de la sécurité des systèmes d’information chez TeamViewer.