Gouvernance Data vers l'IA : quels enjeux pour les DSI ?

Cependant, à peine cette maturité atteinte, un nouveau défi se dessine : la gouvernance de l’intelligence artificielle. L’AI Act a transformé la gouvernance IA en obligation réglementaire en 2024, au même titre que le RGPD. On peut lire dans le rapport IAPP – AI Governance Profession Report 2025 que, sur les organisations interrogées,  “77 % travaillent actuellement sur la gouvernance de l'IA, ce chiffre atteignant près de 90 % pour celles qui utilisent déjà l'IA. Fait significatif, 30 % des organisations n'utilisant pas encore l'IA ont déclaré travailler sur sa gouvernance, ce qui révèle peut-être une priorité accordée à la mise en place d'une gouvernance efficace avant toute utilisation de l'IA”. 
 

Nous assistons à un véritable changement de paradigme, de la gouvernance de la donnée, un actif relativement stable et connu, à la gouvernance de l’intelligence artificielle, un actif beaucoup plus récent et évolutif.

Pourquoi la Data Gouvernance ne suffit plus à sécuriser les projets IA

La Data Gouvernance reste un indispensable pour travailler sur des projets IA : nous pouvons lire sur le site du Gartner que  “d’ici 2027, 60 % des organisations ne parviendront pas à concrétiser la valeur escomptée de leurs cas d’usage d’IA en raison de cadres de gouvernance des données incohérents”. 
 

Cependant la Data Gouvernance n’est plus suffisante à elle seule pour sécuriser les projets IA, pour plusieurs raisons : 

• L’éthique et la contrôlabilité des données : La gouvernance des données assure une certaines data quality, et le respect de la vie privée (RGPD), mais la gouvernance IA doit assurer la justesse et la transparence des algorithmes d’intelligence artificielle. Un modèle peut, sur un jeu de données parfaitement gouverné, reproduire des biais discriminatoires par exemple. De plus se pose désormais le Black Box Problem : comment justifier une décision prise par une IA si personne ne peut en expliquer la logique exacte ?
• Le cycle de vie dynamique : Une table SQL gouvernée est généralement stable tant qu’aucune modification dans sa génération ou son alimentation n’intervient, mais un modèle IA évolue et n’est pas stable dans le temps. Il subit différentes dérives (la dérive des données ou la dérive de concept). La gouvernance IA exige donc un suivi en continu d’un modèle pour contrôler ces dérives et identifier lorsqu’il est nécessaire de réentraîner ou stopper un modèle. 
• La responsabilité sur les outputs : En data, si les données en entrée sont de qualité et gouvernées, les données en sortie sont fiables. En IA, le même cas de figure n’est pas vrai, la bonne qualité des inputs ne garantit pas la qualité des outputs, un contrôle de la donnée en sortie est donc également nécessaire. Cela passe par des validations humaines (Human-in-the-Loop) et la définition claire de limites aux agents autonomes par exemple.

Du Data Steward à l'AI Ethics Officer : la transformation des rôles

Cette évolution de la gouvernance implique une refonte du Data Office traditionnel. Les rôles de la Gouvernance Data doivent évoluer ou être associés à de nouveaux profils spécialisés : 

• Le Data Steward devient AI / Model Steward : il ne valide plus uniquement la définition de la donnée ou des règles de qualité. Désormais il suit également le périmètre d’un modèle, ses différentes versions, et s’assure que le modèle est toujours utilisé dans son cadre d’entraînement initial. 
• Le Data Owner devient AI / Use Case Owner : il n’est plus seulement responsable métier de son domaine de données, mais du cycle de vie global du système IA, et de son impact sur les processus métiers. Il s’assure notamment de l’arbitrage entre la performance du modèle et le niveau de risque acceptable pour l’organisation. 
• Le DPO ne doit plus uniquement s’assurer de la protection de la vie privée (RGPD), mais aussi du respect de l’AI Act. Il veille à la conformité aux réglementations en cours sur l’IA, au respect de la propriété intellectuelle des contenus générés, et à l’atténuation des biais décisionnels. 
• Le Data Custodian devient AI / Model Custodian, et est désormais également responsable de l’implémentation technique d’un modèle, et de son exploitation. 
• Le Data Quality Manager devient AI / Model Quality Manager : il ne contrôle plus uniquement la qualité de la donnée, mais également la qualité et la performance du modèle.

Anticiper l'AI Act : intégrer la gouvernance d'IA dans sa roadmap

Aujourd’hui, sur le plan réglementaire, le cadre est celui de l’AI Act, qui impose une gouvernance IA stricte. 

L’AI Act suit une approche sur différents niveaux de risques. En fonction du niveau du risque associé à un cas d’usage, différents contrôles peuvent être imposés sur le modèle associé au cas d’usage.

• Le risque inacceptable, strictement interdit. Par exemple la notation sociale ou la manipulation comportementale. 
• Les cas d’usage à haut risque, qui nécessitent des audits stricts, une traçabilité complète des jeux de données d’entraînements, une analyse d’impact sur les droits fondamentaux et un contrôle humain. Par exemple le recrutement ou les diagnostics médicaux. 
• Le risque spécifique ou de transparence, qui nécessite d’informer clairement l’utilisateur qu’il dialogue avec un système automatisé et de marquer les contenus générés. Par exemple les chatbots ou la plupart des IA génératives.
• Les cas d’usage à risque minimal, qui sont autorisés sans restriction spécifique. Par exemple les filtres anti-spam ou les moteurs d’IA dans les jeux vidéo.

Pour intégrer ces exigences dans leur roadmap, l’entreprise doit cartographier l’ensemble des ses systèmes d’IA, les auditer, les classifier selon ces différents niveaux de risque, documenter leur traçabilité, et mettre en place différents gardes-fous techniques pour éviter des fuites de données ou la génération d’outputs non réglementaires.

La gouvernance de données a posé des bases qui restent (et resteront)  indispensables : sans une donnée gouvernée, les modèles d’IA ne peuvent pas fonctionner correctement. Mais la gouvernance de l’IA implique un total bouleversement, et une refonte de la gouvernance telle qu’on la connaît. Alors même que la gouvernance Data continue de se structurer dans beaucoup d'entreprises, il faut déjà appréhender celle de l'IA.
Un cadre a été posé par l’AI Act, et de nouveaux rôles sont en train d’émerger, mais l’IA continue d’évoluer constamment : l’émergence de nouveaux modèles ou usages poussera à challenger les cadres de gouvernance à peine en place. Pour les entreprises, l’enjeu sera la veille active et la constante agilité pour faire de leur gouvernance IA un véritable levier de confiance.