“If minorities matter to you, handle their gradients with care.” That warning, delivered by Benoit Rottembourg in November 2025 as colleagues prepared to present at NeurIPS, captures the spirit of REGALIA (Regulations for Artificial Intelligence), a new Inria project-team officially launched weeks earlier at the University of Bordeaux. Led by Rottembourg and Jean-Michel Loubes, REGALIA aims to build the tools and methods needed to audit algorithms for compliance and correct undesirable behaviors.

The research is structured around three axes. The first, measuring undesirable behaviors, tackles hallucinations, toxicity, and harmful personas, studying how training and fine-tuning amplify such traits and developing model-optimizer pairings tailored to risk profiles. It also involves creating evaluation metrics for model robustness and distribution sensitivity, plus local vulnerability discovery to expose hidden behaviors. The second axis focuses on auditing general-purpose AI (images and text), starting with a taxonomy of existing evaluation methods for bias, robustness, safety, and performance, then designing new techniques and benchmarks. The third axis aligns metrics with societal needs: translating high-level requirements into defensible, explicit statements that clarify what indicators measure and under what assumptions, producing a requirements-evidence matrix, a reporting pack, and an evaluation library. It will also specify normative targets to operationalize concepts like agency, human oversight, legitimacy, and contestability. The ultimate deliverable is an audit toolbox capable of assessing entire systems.

The team combines complementary expertise. Loubes co-authored the NeurIPS paper showing mathematically how standard training amplifies stereotypes, and a 2025 automated method for auditing face datasets. Rottembourg supervised P2NIA, a privacy-preserving auditing scheme that uses synthetic or local data instead of APIs to avoid confidentiality and bias pitfalls. Carina Prunkl, a philosopher of physics, bolsters the third axis. Practical work is already underway: REGALIA analyzed fairness in Easy Cash’s marketplace recommendation algorithm and is assisting Moroccan industrial group OCP on a stock-allocation mechanism with an Inria Lille team. Loubes also sits on the scientific committee of ANITI and the steering committee of INESIA, embedding the project within France’s broader AI governance landscape.

Si les minorités vous importent, prenez des pincettes avec leurs gradients.

En novembre 2025, Benoit Rottembourg avait commenté ainsi les travaux que des collègues s’apprêtaient à présenter à la NeurIPS. Ces travaux s’inscrivaient dans son domaine de spécialisation : l’audit et la régulation des algorithmes. Leur superviseur : Jean-Michel Loubes.

Les deux hommes, travaillant à Inria, collaboraient alors au sein d’une équipe-projet officiellement constituée quelques semaines auparavant : REGALIA (Regulations for Artificial Intelligence). Basée à l’université de Bordeaux, elle a deux grands objectifs. D’une part, développer de quoi prouver la conformité – ou la non-conformité – d’algorithmes à des normes ou à des exigences. De l’autre, concevoir des méthodes pour rendre « loyaux » ceux sujets à des comportements indésirables.

Le programme de recherche se structure en trois axes :

Mesure des comportements indésirables

Audit de l’IA à usage général

Alignement des métriques et des techniques d’audit avec les besoins de la société

Le premier axe englobe des éléments tels que les hallucinations, la toxicité et l’adoption de personnalités nocives. Il s’agit de déterminer comment l’optimisation lors de l’entraînement et du fine-tuning transforme ou amplifie des propriétés du jeu de données. Puis de contribuer à réduire ces effets, en construisant notamment des combinaisons modèle-optimiseur par profil de risque.

En parallèle, REGALIA concevra des métriques d’évaluation, sur deux plans : robustesse des modèles et sensibilité des distributions. Le projet touche aussi à la découverte locale des vulnérabilités des algorithmes, afin de révéler des comportements cachés.

Vers une boîte à outils pour auditer les algorithmes

Le focus sur l’IA à usage général couvrira deux modalités : image et texte. REGALIA a pour premier objectif de créer une taxonomie des méthodes actuelles d’évaluation. En particulier sur les biais, la robustesse, la sûreté et la performance. Il a aussi pour mission d’en concevoir de nouvelles, ainsi que des bancs de test.

Le troisième axe inclut le développement d’une méthode pour traduire des exigences en déclarations défendables. En d’autres termes, pour rendre l’évaluation explicite : que mesure tel indicateur ? sur la base de quelles suppositions ? avec quelle portabilité entre contextes ?… Livrables attendus : une matrice de correspondance exigences-preuves, un pack de reporting et une bibliothèque d’évaluation.

En complément, REGALIA spécifiera des cibles normatives. De ces travaux découleront des méthodes destinées à opérationnaliser des notions telles que la capacité d’action (agency), la supervision humaine, la légitimité et la contestabilité.

Au bout de la chaîne, un livrable attendu : une boîte à outils pour l’audit d’algorithmes… y compris à l’échelle de systèmes.

Trois chercheurs, trois expertises complémentaires

REGALIA peut s’appuyer sur des travaux antérieurs auxquels a contribué Jean-Michel Loubes. Parmi eux, l’article susmentionné qui aborde la question des minorités. Il démontre plus précisément, par la voie mathématique, comment l’entraînement standard amplifie les stéréotypes. On peut aussi citer « Fairness in the details: Face Dataset Auditing » (2025), qui propose une méthode automatisée d’audit de jeux de données d’images.

Benoit Rottembourg a quant à lui supervisé, entre autres, les travaux sur P2NIA (Privacy-Preserving Non-Iterative Auditing). Il s’agit d’un schéma d’audit alternatif qui utilise des données synthétiques ou locales plutôt que des API, afin d’éviter les défis inhérents à ces dernières (confidentialité, sécurité, biais d’estimation).

Dans l’équipe-projet, il y a aussi Carina Prunkl. Les travaux précédents de cette docteure en philosophie de la physique alimenteront le troisième axe du programme de REGALIA.

Un projet avec un groupe industriel marocain

REGALIA a collaboré avec Easy Cash pour évaluer l’équité de l’algo de recommandation sur sa marketplace. Il mène aussi une mission pour le groupe industriel marocain OCP (extraction, transformation et commercialisation du phosphate), en partenariat avec une équipe Inria de Lille, pour développer un mécanisme d’allocation de stocks.

Jean-Michel Loubes est aussi membre du comité scientifique d’ANITI (Artificial ans Natural Intelligence Toulouse Institute) et du comité de direction de l’INESIA.

À consulter en complément :

L’INESIA a sa feuille de route… et son défi de coopération

CNIL et Inria renforcent leur coopération

Stratégie IA : la France en tête du peloton européen… mais loin du compte

Bercy crée une Direction de l’IA et du numérique

L’IA industrielle finalement (quasi) exemptée d’AI Act

Illustration générée par IA

The post REGALIA, une synthèse des enjeux de régulation des algorithmes appeared first on Silicon.fr.