DEEL : la recherche fondamentale pour certifier l’IA

La plupart des programmes d’IA fonctionnent comme des boîtes noires : les développeurs fournissent des données pour enseigner une fonction précise, et vérifient ensuite que l’intelligence artificielle produit des résultats cohérents. Mais comme les algorithmes modifient certains paramètres (le poids des stimuli virtuels reçus par les neurones artificiels) pendant leur apprentissage, on ne sait pas comment fonctionne exactement la partie machine learning du programme. Impossible alors de quantifier son efficacité : une IA qui doit lire l’état d’un feu de signalisation peut parfaitement fonctionner avec les données qu’on lui a fourni, mais flancher si un banc de brouillard passe devant la signalétique. C’est un peu comme si on cherchait à enseigner la multiplication à un enfant en lui montrant des milliers d’exemples. On peut contrôler s’il a bien compris avec des exercices, mais on ne saura pas avec certitude qu’il a bien assimilé les règles qui régissent la multiplication.

Ce manque de visibilité sur la mécanique interne de l’algorithme de machine learning entraîne un manque de confiance envers sa robustesse. Comment être sûr que l’IA utilise un raisonnement qui sera applicable à toutes les situations ? Ou du moins quantifier avec précision la probabilité qu’elle se trompe dans telle ou telle situation ? C’est là tout l’intérêt d’une démarche comme celle de DEEL : faire disparaître ces inconnues pour instaurer une IA de confiance sur laquelle il serait possible de faire reposer des vies humaines.

C’est là qu’intervient le projet DEEL, pour Dependable and Explainable Learning, soit Apprentissage fiable et explicable. L’initiative franco-canadienne réunit trois groupes : la Core Team, composée de chercheurs en mathématiques et en intelligence artificielle, l’équipe des industriels, et l’équipe des ingénieurs, les trois communiquant régulièrement entre elles. Cela représente une cinquantaine de personnes, issues d’entreprises comme Airbus, Thalès, Continental ou Bombardier, qui se réunissent tous les mois notamment pour effectuer une « acculturation croisée » selon Laurent Gardes, responsable de la division IA à la Direction Technologies, Innovation & Projets Groupe de SNCF. Au cœur du projet, l’explicabilité – pouvoir détailler la façon dont fonctionne un algorithme de machine learning – ainsi que plusieurs autres piliers pour pouvoir délimiter et évaluer les intelligences artificielles : la robustesse, la détection d’anomalies, l’équité de traitement, la vérifiabilité, la spécificité, l’évaluation probabiliste, la résilience, la qualité des données…

Un second projet connexe à DEEL, Confiance IA, a d’ailleurs démarré en 2020 sur la même thématique, qui intéresse presque tous les grands noms du transport, des avionneurs aux fabricants automobiles, ainsi que d’autres industriels tel qu’Air Liquide. Ce nouveau projet doit faire entrer les résultats de DEEL dans la phase d’industrialisation. Même au sein de la SNCF, l’idée d’une IA dont on peut mesurer et comprendre le fonctionnement rayonne bien au-delà de l’équipe Train autonome, avec par exemple l’utilisation des robots conversationnels par les équipes de vente, ou les efforts pour simplifier et renforcer la vidéo-surveillance à l’aide de l’intelligence artificielle.

La SNCF s’est engagée à travers DEEL dans la résolution d’une vraie question de société, qui vise à permettre l’intégration d’une IA sûre dans notre vie quotidienne, afin de pouvoir bénéficier de programmes informatiques intelligents et fiables, avec la confiance de toutes et tous.