• Quatre consommateurs sur cinq
souhaitent une gouvernance claire des interactions avec l'IA.
• Mais moins d'un tiers des organisations
dispose actuellement de politiques complètes.
L’étude IA Agentique de
Genesys®, acteur mondial de l'orchestration des expériences clients et
collaborateurs basées sur l'IA, révèle un décalage critique entre les
politiques de gouvernance de l’IA par les entreprises et les attentes des
consommateurs, qui veulent avant tout se sentir en sécurité.
Si quatre consommateurs
interrogés sur cinq ont déclaré vouloir une gouvernance claire des interactions
avec l'IA, moins d'un tiers (31%) des dirigeants affirment que leurs
entreprises disposent de politiques et de supervision complètes à l'échelle de
l'organisation.
Alors que l'IA agentique, définie comme des systèmes autonomes capables de penser, d'agir et de prendre des décisions de manière indépendante, se généralise dans les stratégies d'expérience client (CX) des entreprises, 91% des responsables CX interrogés estiment qu'elle permettra à leur organisation d'offrir un service plus rapide, plus efficace et plus personnalisé. Les données dressent pourtant un constat nuancé : si l'enthousiasme pour le potentiel transformateur de l'IA agentique est palpable, les mécanismes de gouvernance peinent à suivre le rythme, exposant les entreprises à des risques majeurs en termes de confiance client, d'image de marque et de conformité réglementaire.
« L'IA agentique ouvre
de nouvelles possibilités passionnantes pour la façon dont les organisations
servent leurs clients, mais la confiance des consommateurs doit croître
parallèlement à ces progrès, déclare Olivier Jouve, directeur produit
chez Genesys. Ces systèmes gagnent en responsabilités, il est donc
essentiel que les entreprises restent transparentes et responsables dans leur
utilisation. Avec les bons garde-fous en place dès le départ, les entreprises
peuvent construire une confiance durable en innovant de manière responsable
dans les expériences client qui offrent de nouveaux niveaux de personnalisation
et d'efficacité. »
Gouvernance de l'IA :
un retard qui inquiète
Les responsables CX
interrogés s'accordent à dire qu'une gouvernance solide est essentielle pour
:
• Protéger la réputation de la marque (91%)
• Construire une confiance et une fidélité à
long terme avec les clients (91%)
• Accroître le confort des consommateurs avec
les systèmes autonomes (90%
Pourtant, de nombreuses
organisations ne sont toujours pas préparées. Plus d'un tiers des responsables
CX (35%) admet avoir peu ou pas de politiques de gouvernance formelles en
place. Plus préoccupant encore, 28% de ceux qui n'ont aucune politique de
gouvernance établie se disent prêts à déployer l'IA agentique.
Cette inquiétude quant
à la gouvernance de l’IA se renforce lorsqu'on l'examine aux côtés des
préoccupations des consommateurs : beaucoup restent méfiants en raison d'un
manque de transparence sur l'utilisation de leurs données et de l'absence d'une
supervision claire.
Parmi les consommateurs répondants, la clarté sur l’utilisation de leurs données personnelles par l’IA était la préoccupation première. De plus, 37% des consommateurs croient que l'IA « hallucine » ou fabrique des informations une vision partagée par 59% des responsables CX, qui reconnaissent que les hallucinations posent des risques sérieux pour la fidélité client, les litiges et la réputation de la marque.
Ce
manque perçu de fiabilité sape davantage la confiance et renforce le besoin de
garde-fous qui garantissent la précision et la responsabilité dans les
expériences pilotées par l'IA.
Face aux demandes
pressantes des consommateurs pour plus de transparence et de supervision, le
décalage entre les convictions des dirigeants et les pratiques réelles devient
problématique. Cette dissonance doit être résorbée en priorité, sous peine de
compromettre tout déploiement ambitieux de l'IA agentique.
La confiance des
consommateurs reste fragile
Un écart saisissant se dessine : si huit responsables CX sur dix font confiance à l'IA agentique pour gérer les données sensibles, à peine plus d'un tiers des consommateurs partagent cette assurance.
Cette méfiance s'accentue particulièrement dans les
domaines à fort enjeu.
Les trois quarts des
entreprises (74%) se disent à l'aise avec le déploiement d'une IA agentique
pour des tâches sensibles telles que la facturation, les transactions
financières ou la sécurité des comptes. À l'inverse, les consommateurs restent
sur leurs gardes : seule une minorité fait confiance à cette technologie pour
gérer leurs virements (35%), résoudre leurs problèmes de facturation (49%) ou
modifier leurs informations personnelles (50%).
Néanmoins, les données
révèlent une opportunité importante. Plus de la moitié des consommateurs (58%)
déclare ne pas se soucier de qui résout leur problème (entre un agent humain et
une IA) tant que la résolution est rapide et complète.
Cela signale que l'efficacité CX peut surmonter le scepticisme, mais seulement lorsqu'elle est associée à la transparence et à la responsabilité. Pour combler le fossé de confiance et innover de manière responsable, les organisations doivent évoluer de manière centrée sur le consommateur.