Connexion
/ Inscription
Mon espace
Initiatives
ABONNÉS
Suivez-nous sur feedly

[Initiatives] L’ACPR lance un premier Tech Sprint sur l’« explicabilité » des algorithmes

Afin d’accompagner le développement de l’intelligence artificielle dans le secteur financier, l’ACPR poursuit ses travaux, avec l’ensemble des acteurs de la place - fintechs, grands groupes, consultants, étudiants et universitaires. Dans ce cadre, elle a organisé un premier Tech Sprint autour de « l’explicabilité » de l’intelligence artificielle (IA), c’est-à-dire la capacité à faire comprendre le fonctionnement ou le résultat d’un algorithme. L’objectif : faire expliquer aux participants des modèles de risque de crédit.

Des établissements de crédit (BPCE, Crédit Mutuel Arkéa, Société Générale et Younited Crédit) ont, sur la base du volontariat, conçu des modèles prédictifs pour identifier le risque de crédit à la consommation. Charge ensuite aux 12 équipes d’analystes sélectionnées, de les expliquer en interrogeant ces « boîtes noires » et en développant des outils d’explication au cours d’une journée de « hackathon ». Les solutions ont été présentées le lendemain à un jury composé d’experts de l’ACPR et de la Banque de France. Une seconde édition, ouverte aux étudiants, aura lieu le jeudi 8 et vendredi 9 juillet.

Pourquoi un Tech Sprint sur l’« explicabilité » de l’IA ?

Cette compétition amicale a pour objectif d’apporter des éclairages sur les enjeux règlementaires soulevés par l’IA en termes de maîtrise des risques, de gouvernance et de protection de la clientèle. Elle permet, à partir d’un cas d’usage, d’expliciter concrètement les méthodes et les niveaux d’« explicabilité » qu’il est possible de fournir selon que l’on s’adresse à la clientèle, à des experts métiers ou à des auditeurs. L’« explicabilité » est une notion clé, au cœur des travaux de l’Union européenne sur la future réglementation de l’IA. Elle contribue à la mise en place d’une IA de confiance.

Cette démarche collaborative et expérimentale permettra de contribuer de façon pertinente au cadre réglementaire futur, afin qu’il soit adapté aux réalités technologiques et opérationnelles et qu’il favorise à la fois l’innovation et la maîtrise des risques. Le Tech Sprint s’inscrit ainsi dans la continuité des travaux menés par l’ACPR avec la place depuis 2018, de l’animation d’ateliers de l’IA autour de différentes thématiques à la publication du rapport « Gouvernance des algorithmes d’IA dans le secteur financier » en 2020. Ce rapport a mis en exergue le rôle de « l’explicabilité », comme principe directeur dans la conception et la gouvernance des algorithmes.

« Travailler sur un cas d’usage au plus près du réel, puisqu’il a été conçu avec les contributions d’établissements de crédit, rend l’exercice particulièrement intéressant. Il permet de démystifier les problématiques autour de l’IA, et de veiller à ce que l’humain garde la maîtrise des outils qu’il développe. Ce Tech Sprint nous a permis d’avoir une approche concrète des enjeux liés à l’usage de ces technologies », commente Bertrand Peyret, Secrétaire général adjoint de l’ACPR et président du jury de ce Tech Sprint.

Le Tech Sprint a été l’occasion de rassembler les acteurs de l’écosystème innovant, qui ont ainsi travaillé en réseau, sous l’égide de l’ACPR. « Il était important pour nous de mobiliser la Place sur ces enjeux clés pour le futur des services financiers. Et les marques d’intérêt ont été au rendez-vous, avec deux fois plus de demandes d’inscription que de places disponibles ! », explique Olivier Fliche, Directeur du pôle Fintech innovation de l’ACPR.

Les travaux présentés à l’issue du Tech Sprint ont été salués pour leur qualité : ils illustrent le réel savoir-faire français en matière de data science. Parmi eux, le jury a récompensé les solutions proposées par les équipes Quantmetry-Stellantis, Zelros et BourbakIA (équipe rassemblant des data scientists de plusieurs entreprises). Les enseignements du Tech Sprint feront l’objet d’une restitution auprès de la Place et marqueront le début de nouveaux travaux sur l’IA, tout en conservant la même philosophie : rester à l’écoute de l’écosystème et ouvert aux propositions d’expérimentation.

Lire la suite...


Articles en relation