Xavier Vamparys a rejoint CNP assurances en 2011 pour y occuper les fonctions de responsable juridique international, puis de directeur juridique corporate. Chargé de mission « intelligence artificielle » depuis décembre 2018, il a été nommé en juin dernier responsable de l’éthique de l’intelligence artificielle (IA) de CNP assurances.

Pourquoi CNP assurances crée-t-elle un comité pluridisciplinaire IA et éthique ?

Alors que j’exerçais mes fonctions de directeur juridique corporate de CNP assurances, je me suis intéressé à la blockchain et l’IA et y ai consacré un livre, La Blockchain au service de la finance – cadre juridique et applications pratiques, paru en 2018. Puis, j’ai piloté pendant un an un groupe de travail franco-canadien sous l’égide du Think Tank Optic Technology sur l’utilisation de l’IA dans l’assurance. Ce groupe a rendu ses conclusions en début d’année : elles mettent en évidence le risque d’une hyper-individualisation des couvertures d’assurance avec le risque subséquent de mettre à l’écart les personnes présentant un niveau de risque élevé. J’ai également pris part, dans une moindre mesure, aux travaux de la Fabrique d’assurance. CNP assurances a contribué à ces deux projets et a décidé de leur donner une suite en mettant notamment en place un comité chargé de s’assurer de la prise en compte de l’éthique et de l’humain dans ses projets d’IA. J’ai été pour ma part désigné responsable de l’éthique de l’IA de l’entreprise.

Comment est organisée cette gouvernance de l'IA ?

Je suis rattaché à la direction technique groupe, tandis que le comité est placé sous la responsabilité du secrétariat général et de la direction financière de CNP assurances. Pluridisciplinaire, il est composé de représentants des principaux départements de l’entreprise : secrétariat général, direction financière, mais aussi directions de l’expérience client et des systèmes d’information, de la gestion des risques, de la protection des données, de la conformité, du juridique, de la RSE (responsabilité sociale et environnementale des entreprises). Cette organisation a le mérite de réunir des personnes aux compétences variées, qui appréhendent les problématiques avec des prismes différents. De fait, si toutes avaient la même expertise ou sensibilité, on courrait un plus grand risque de laisser passer des biais ou autres problèmes, comme les discriminations, dont nous ne sommes pas toujours conscients mais contre lesquels nous voulons lutter. Autre intérêt de l’appartenance de ces personnes à divers services, elles vont pouvoir faire office d’ambassadeurs de l’usage de l’IA auprès de leurs équipes respectives. J’aimerais enrichir encore ce comité en y conviant des enseignants, des chercheurs, des experts des sciences humaines, afin qu’ils puissent apporter un éclairage différent et le cas échéant contradictoire sur ce qui peut poser problème sur le plan éthique.

Quelles sont les attributions du comité ?

Rédiger et approuver la charte éthique, donner son avis sur les cas sensibles, suivre les débats en cours, la réglementation européenne en préparation, qui distinguera les applications à haut risque de celles qui ne le sont pas. Plus généralement, le comité est appelé à s’exprimer sur tout ce qui peut avoir une incidence significative sur les droits des assurés en matière d’IA. Il peut rendre des arbitrages en cas de divergences le cas échéant.

Les algorithmes sont très performants mais il n’est pas toujours possible d’expliquer leur fonctionnement. Pour CNP assurances, la transparence des outils est essentielle : il faut, en effet, être en mesure d’expliquer aux clients les décisions prises par l’algorithme, notamment en cas de contestation.

Le comité a aussi vocation à être l’organe de discussion avec la direction générale et le conseil d’administration. Pour le moment, nous travaillons sur de l’IA à usage interne et ne présentant pas de haut risque, essentiellement sur l’automatisation de tâches. La question du scoring, outil discriminant dans la mesure où il peut conditionner l’accès d’un assuré à un produit, est plus sensible.

Quels principes régissent votre action ?

CNP assurances a défini cinq grands principes directeurs pour le développement de ses projets en IA :

Est-ce une démarche spécifique à CNP assurances ou concerne-t-elle l’ensemble du groupe ?

Elle est déjà commune aux autres sociétés de notre groupe : La Poste, La Banque postale et la Caisse des dépôts. Nous avons entamé des échanges avec ces autres entités et sommes heureux de travailler ensemble car cela va permettre un partage d’outils et de bonnes pratiques. En établissant notre charte, nous prenons les devants en y intégrant dès à présent des contraintes qui pèseront sur nous à l’avenir. L’ACPR et la Commission européenne préparent en effet des normes en matière d’éthique de l’IA selon un calendrier qui vise une entrée en vigueur d’ici quelques mois. La crise sanitaire a de fait bouleversé ce calendrier. Mais la Commission européenne a publié un livre blanc sur le sujet et l’ACPR a émis récemment un document de réflexion soumis à une consultation publique, si bien qu’on a d’ores et déjà une idée de la direction qui se dessine. Nous la précédons. Ceci dit, nous ne sommes pas les seuls à prendre les devants. Axa par exemple s’est également lancé, sous une forme différente, avec un comité indépendant consacré à l’usage de la donnée.