Un algorithme de détection d'objets développé pour un système anti-drone a atteint des gains de performance fonctionnelle de l'ordre de 30% en appliquant dès la conception les exigences de certification aéronautique et de frugalité. Dans les systèmes
critiques, contraindre l'intelligence artificielle la rend plus performante.
Deux visions de l'intelligence artificielle s'affrontent aujourd'hui. D'un côté, les grands modèles génératifs : généralistes, probabilistes, entraînés sur des milliards de données non qualifiées. De l'autre, une approche radicalement différente : des
algorithmes ultraspécialisés, conçus dès l'origine pour être maîtrisés de bout en bout, ouvrant ainsi la porte à la certification et à la confiance.
« L'intelligence artificielle regroupe de multiples approches : symbolique, Machine Learning, Deep Learning, générative, hybride », explique Olivier Alquier, directeur technique de la BU Industrie chez CS Group, filiale de Sopra Steria. « ChatGPT illustre
l'IA générative conversationnelle générique, difficile à comparer avec nos développements d'IA embarquée et spécialisée. »
Cette différence n'est pas seulement philosophique. Elle détermine ce qui pourra ou non être embarqué dans un système critique aéronautique. « La certification et la frugalité sont deux exigences profondément complémentaires », poursuit Olivier Alquier.
« La première impose de maîtriser l'ensemble des comportements possibles. Or, plus un système est simple, moins il sera difficile à certifier. Et c'est précisément l'objectif de la frugalité qui nous pousse à réduire la complexité inutile pour revenir
au juste besoin. »
Déterminisme vs probabilité : l'incompatibilité fondamentale
La certification aéronautique repose sur deux principes intangibles : le déterminisme et la reproductibilité. Un système doit toujours produire la même sortie pour une même entrée donnée. « Si vous posez la question "de quelle couleur est le ciel", la
réponse attendue doit être définie à l'avance : il doit répondre bleu. S'il répond bleu clair, ce n'est pas conforme », illustre Olivier Alquier.
Les grands modèles de langage posent plusieurs obstacles à cette exigence. « Ce sont des modèles massifs, totalement opaques, entraînés sur d'immenses volumes de données hétérogènes dont la qualité et la provenance ne sont pas maîtrisées », résume l'expert.
Leur nature probabiliste crée un premier problème : le fonctionnement même de ces modèles repose sur la prédiction statistique, non sur la certitude. « Posez deux fois la même question, vous n'obtiendrez pas exactement la même réponse », observe Olivier
Alquier.
Cette variabilité rend extrêmement difficile la validation exhaustive qu'exige la certification. Mais ce n'est pas le seul obstacle. La traçabilité des données d'entraînement pose un défi tout aussi critique. « Nous ignorons avec quelles données ces modèles
ont été entraînés, ce qui rend impossible l'explication de leurs résultats », souligne l'expert. Sans cette traçabilité, aucune certification n'est envisageable.
Modèles ultraspécialisés : la maîtrise par la conception sobre
Sopra Steria a adopté une stratégie radicalement différente, fondée sur l'éco-conception et la sobriété algorithmique. « Nos algorithmes sont toujours conçus pour des cas d'usage très spécifiques, avec des technologies que nous maîtrisons parfaitement
», explique Olivier Alquier.
Ils accomplissent une fonction précise : détecter des drones sur images caméra, prédire l'usure d'un filtre à huile d'avion, identifier une piste d'atterrissage. « Cette approche se traduit par des modèles spécifiques plutôt que génériques, entraînés
pour opérer une fonction précise, sur la base de données qualifiées et maîtrisées », précise l'expert. « Des modèles robustes en lesquels nous pouvons avoir confiance. »
Cette rigueur s'applique également à l'architecture utilisée. « Plus un système est simple, moins il sera difficile à certifier », rappelle Olivier Alquier. Le résultat : une IA explicable, testable et donc certifiable.
La frugalité : un principe de conception à part entière
Mais cette frugalité génère aussi des bénéfices environnementaux et opérationnels concrets. Selon le Shift Project, l'entraînement d'un grand modèle de langage peut consommer autant d'électricité que 130 foyers français pendant un an. À l'usage, une requête
sur ChatGPT consomme dix fois plus d'énergie qu'une recherche Google classique. « Ces grands modèles représentent un impact environnemental considérable », observe Olivier Alquier. « Même pour un simple résumé de texte, le coût énergétique reste substantiel.
»
Cette réalité impose de sortir de l'aveuglement technologique pour faire émerger une IA fondée sur la mesure et la transparence des usages, la sobriété et l'éco-conception des systèmes, ainsi qu'un usage raisonné guidé par un véritable retour sur investissement
carbone. « La frugalité n'est pas une limitation, c'est un principe de conception à part entière », affirme Olivier Alquier. « Elle nous force à nous concentrer sur l'essentiel et à optimiser chaque composant. C'est une approche qui réconcilie innovation
et transition environnementale dans nos stratégies de développement. » La certification impose la maîtrise, la maîtrise impose la simplicité, et la simplicité conduit naturellement à la frugalité. Cette chaîne vertueuse transforme une contrainte réglementaire
en levier simultané de performance, de durabilité et de souveraineté.
30% de performance : quand les exigences de la certification améliorent les modèles
L'efficacité de cette approche se vérifie sur un cas concret. En collaboration avec l'ONERA, CS Group a développé un modèle de Machine Learning pour un système anti-drone en suivant rigoureusement les recommandations de la DO-178C, la norme de référence
pour le logiciel aéronautique critique. Le travail s'inscrit dans les travaux préparatoires de l'ARP6983, le nouveau standard en cours de finalisation qui encadrera spécifiquement l'usage de l'IA dans les systèmes embarqués.
« L'algorithme était beaucoup plus frugal et maîtrisé que l'initial », rapporte Olivier Alquier. « Conséquence directe : une reconnaissance significativement plus performante, notamment sur la détection de drones dans les situations complexes, où les
améliorations observées atteignent jusqu'à 30%. »
À ces résultats s'ajoute une nette amélioration des temps de latence. « Indirectement, la rigueur que nous impose le cadre normatif apporte également des gains de performance », analyse le directeur technique. « Nous sommes moins gourmands en ressources,
centrés uniquement sur les exigences du système et débarrassés de fonctionnalités inutiles pour notre usage : nous maîtrisons ce que nous faisons. »
Les travaux ont été présentés à la conférence internationale ERTS 2024, co-signés par CS Group, l'IRT Saint-Exupéry et l'ONERA. « Mais ce modèle est conçu uniquement pour détecter des drones », nuance l'expert. L'ultraspécialisation est le prix à payer
pour assurer la qualité, la robustesse et fournir les garanties exigées par la certification.
Cette approche exige néanmoins des investissements soutenus. C'est pourquoi Sopra Steria est membre fondateur de Confiance.AI, tandis que CS Group réinvestit 10% de son chiffre d'affaires en R&D, notamment dans le cluster IA ANITI, où l'entreprise siège
au conseil scientifique et s'engage à travers une chaire dédiée à l'IA embarquée et certifiée. « Les exigences du secteur aéronautique ont poussé les recherches vers l'IA embarquée certifiée », explique Olivier Alquier. « D'autres secteurs, comme
celui de la défense, tirent profit de ces avancées sur les sujets de certification. »
Souveraineté algorithmique : au-delà de la technique
La maîtrise totale de la chaîne algorithmique dépasse les enjeux purement techniques : elle conditionne la souveraineté numérique européenne, fondée sur la maîtrise technologique, la durabilité, l'ouverture et la confiance. Concevoir des modèles sobres
et maîtrisés réduit la dépendance à des infrastructures massives et de technologies extra-européennes. La frugalité devient ainsi un levier concret d'indépendance stratégique.
Pour illustrer le risque encouru, prenons l'exemple du CLOUD Act qui permet aux autorités états-uniennes d'accéder aux données de toute entreprise américaine, où qu'elles soient stockées dans le monde, sans obligation d'en informer leurs propriétaires.
« L'utilisation de technologies américaines pose des problèmes évidents de souveraineté, mais également de protection des données sensibles et de respect du RGPD européen », rappelle Olivier Alquier.
L'expert propose un scénario. « Imaginons que, attirée par l'expertise technologique clé en main, l'Europe adopte une IA développée par une entreprise américaine pour ses systèmes de défense. Si un conflit d'intérêt émerge, les États-Unis pourraient accéder
sans en informer l'Europe à toutes les données stratégiques utilisées par cette IA. Ils pourraient également imposer des restrictions d'usage ou limiter les fonctionnalités du système critique qui se retrouverait bridé au pire moment. » Les précédents
existent : « Les Américains restreignent déjà l'accès de la Chine aux GPU avancés de NVIDIA afin d'empêcher leur utilisation dans le développement d'IA chinoises », observe l'expert.
Deux philosophies s'affrontent sur ce sujet essentiel. « L'Europe travaille à dissiper le brouillard que l'IA fait peser sur nos sociétés et utilise cette nouvelle technologie pour les usages où la visibilité est suffisante. D'autres nations avancent
dans le brouillard », décrit Olivier Alquier. « Ces deux approches ne sont pas incompatibles et pourraient être mutuellement profitables. Mais cette différence questionne sur les scénarios possibles quand le brouillard se lèvera. »
« L'Europe doit relever un défi complexe : rester dans la course à l'IA, tout en préservant ses valeurs fondamentales et sa souveraineté », conclut Olivier Alquier. C'est pourquoi Sopra Steria s'implique dans le développement de solutions indépendantes,
fiables et robustes, réconciliant transitions numérique et environnementale dans une stratégie cohérente. De quoi transformer chaque contrainte réglementaire en levier d'optimisation et avancer avec confiance dans le brouillard.