SNCF fiabilise l’usage de ses IA avec la startup Numalis
Alors que l’intelligence artificielle s’impose dans tous les secteurs, sa certification pour les systèmes critiques reste un défi majeur. Le Groupe SNCF, via son bras armé 574 Invest, vient de confirmer son soutien à Numalis, une startup française capable de « prouver » mathématiquement la fiabilité des algorithmes. Retour sur une collaboration de longue date qui transforme l’IA en un outil industriel sécurisé.
Publié le
Par La Redaction
Dans le monde ferroviaire, la sécurité n’est pas une option, c’est une condition sine qua non. Si l’intelligence artificielle permet de faire avancer les technologies autour de projets d’automatisation ou encore d’assister les conducteurs de trains , elle se heurte à un obstacle de taille : l’effet « boîte noire ». Comment garantir qu’un algorithme de vision ne confondra pas la lune avec un feu orange, ou qu’il ne sera pas trompé par un simple pixel modifié ?
C’est pour répondre à cette question cruciale que la Direction Technologies Innovation et Projets Groupe collabore depuis près de sept ans avec Numalis, une pépite de la Deeptech basée à Montpellier.
De la défense au rail : la genèse d'une rencontre
Tout commence lors d’un « speed dating » organisé par la Direction Générale de l’Armement. Cyril Cappi, expert en stratégie des risques technologiques au sein du Groupe SNCF, y découvre Numalis. À l’époque, la startup travaille sur des programmes secret-défense pour la fiabilité des missiles.
J’ai immédiatement vu le potentiel de cette société pour répondre à nos questionnements sur l’autonomie des trains. Car si l’IA de vision (deep learning) est performante, elle est par nature inexplicable. Pour un avion ou un train, cette opacité est antinomique avec les normes de sûreté de fonctionnement (safety).
Une nouvelle logique
Avec le machine learning ou désormais le “deep learning” des réseaux neuronaux, les systèmes informatiques reposant sur l’intelligence artificielle appliquent en effet une nouvelle logique.
Les programmes traditionnels reposent sur une logique déterministe : une situation identifiée déclenche une action prédéfinie selon des règles programmées à l’avance. Avec le deep learning, la logique s’inverse : au lieu d’encoder explicitement les règles, le modèle les apprend à partir de données issues de situations réelles. Cette approche peut offrir de très bonnes performances, mais elle introduit également de nouveaux risques d’erreurs, notamment liés aux conditions d’exploitation ou à la qualité des capteurs. L’outil développé par Numalis vise à analyser la robustesse des modèles de deep learning afin d’apporter les garanties de sécurité nécessaires à leur intégration et à leur homologation dans les futurs systèmes de perception embarqués.
Saimple : l'outil qui « stresse » l'IA
Le cœur de la technologie de Numalis réside dans les méthodes formelles. Contrairement aux tests classiques qui multiplient les simulations de situations réelles, leur logiciel, baptisé Saimple, utilise les mathématiques pour explorer l’intégralité du champ des possibles.
L’outil injecte des « bruits » (flou, modifications de pixels, perturbations gaussiennes) dans le modèle d’IA pour vérifier sa stabilité.« L’IA est une technologie très précise mais fragile. Un seul pixel détourné, invisible pour l’œil humain, peut suffire à faire dire à une IA qu’une personne est quelqu’un d’autre. Saimple permet de détecter ces vulnérabilités avant qu’elles ne deviennent critiques. C’est primordial pour la confiance en sécurité mais aussi très utile pour la souveraineté en cybersécurité.
Un succès concret : la validation des écrans ERTMS
Loin d’être un projet purement théorique, la solution Numalis est déjà opérationnelle à la direction de l’Ingénierie du Matériel de SNCF Voyageurs. Elle a notamment permis d’automatiser la certification des écrans de bord (DMI) du système de signalisation européen ERTMS.
Auparavant, des humains devaient vérifier manuellement que chaque icône et chaque couleur sur les écrans des cabines de conduite des trains étaient conformes aux normes drastiques. En confiant cette tâche à une IA auditée par Numalis, SNCF Voyageurs a non seulement gagné un temps précieux, mais a aussi renforcé la fiabilité du processus.
Nous avons découvert que certains "watermarks" invisibles perturbaient les décisions de l'IA. La solution Numalis nous a permis de corriger ces défauts.
En soutenant Numalis, le Groupe SNCF ne se contente pas d’acheter une technologie « sur étagère ». Elle participe à l’éclosion d’un standard mondial de certification, brique indispensable pour que, demain, des trains connectés puissent circuler en toute sécurité sur le réseau national.
574 Invest et Numalis : un partenariat stratégique pour l’innovation ferroviaire
Le fonds d’investissement 574 Invest, dédié aux startups et porté par le Groupe SNCF, renforce son engagement dans l’écosystème tech en participant à la levée de fonds de Numalis. Cette initiative s’inscrit dans une démarche plus large : depuis sa création, 574 Invest bénéficie du soutien actif de la Direction Technologies, Innovation et Projets Groupe, garantissant une synergie entre ses investissements et les orientations stratégiques du Groupe.
« C’est une illustration fidèle de notre ADN : détecter les futures pépites françaises, les accompagner dans leur croissance, tout en générant rapidement des bénéfices opérationnels pour le Groupe et en renforçant la souveraineté de la France et de l’Europe » – Cyril Cappi, expert en stratégie des risques technologiques au sein du Groupe SNCF.
Au-delà d’un simple apport financier, cet engagement relève d’un véritable choix stratégique au service de l’industrie française.
À l’heure où l’Europe déploie son AI Act, la capacité à prouver l’éthique et la robustesse des systèmes devient un avantage compétitif majeur. Numalis, dont le fondateur Arnault Loualalen est le rédacteur principal des normes internationales ISO sur la robustesse de l’IA (ISO/IEC 24029), place la France en pole position sur ce marché de la confiance.
