Qu'est-ce que la gouvernance de l'IA ?

La gouvernance de l'IA, définition

La gouvernance de l'intelligence artificielle organise la capacité d'une organisation à orienter, surveiller et assumer ses usages d'IA. Elle commence lorsque l'organisation examine une finalité ou une solution. Elle se poursuit jusqu'au retrait du système et à la conservation des preuves.

Cette définition déplace la question. Elle ne porte pas sur l'outil, mais sur l'autorité qui l'autorise, sur les objets qu'il engage et sur la capacité de reprendre la décision.

Qui décide dans une organisation qui emploie l'IA

La gouvernance traite d'abord d'autorité. Conseil, direction générale et métiers exercent des rôles distincts, et l'ordre de ces rôles détermine la qualité des décisions prises.

Une organisation tient sa gouvernance lorsque chacun de ces trois niveaux sait quelle décision lui revient et sur quelles informations il la prend. La question « qui a autorisé cet usage » admet alors une réponse datée, nominative et documentée. Cette réponse constitue le premier test de maturité d'une gouvernance.

Gouvernance, management et conformité

Trois fonctions coexistent et se confondent souvent dans les discussions de comité.

La conformité vérifie la tenue des obligations : protection des données, droit sectoriel, exigences prudentielles, règles internes. Les équipes mettent en œuvre, exploitent et maintiennent. La gouvernance décide du cap, de l'exposition acceptable et de la répartition de la responsabilité.

Une organisation parfaitement conforme peut rester gouvernée de manière lacunaire, lorsque la décision d'engager un usage se prend sans que l'instance dirigeante en connaisse la portée. Une direction qui confie sa gouvernance de l'IA à sa fonction conformité obtient une vérification. Elle obtient rarement un arbitrage.

Les six objets gouvernés

Six objets reviennent dans toute décision d'usage, quel que soit le secteur et quelle que soit la taille de l'organisation.

Une direction qui en nomme deux délibère sur une description commerciale.

Le cycle de vie de la décision

La décision suit un cycle que la gouvernance accompagne d'un bout à l'autre. Les deux extrémités, marquées en rouge, sont celles que les organisations traitent le plus tard : le cadrage précède l'achat, le retrait se prépare avant la mise en service.

Pourquoi la Suisse concentre des décisions distribuées

La Confédération fixe le cadre légal et conduit sa propre transformation administrative. Les cantons déploient des solutions, adoptent des chartes et acquièrent des systèmes de gestion à grande échelle. Les régulateurs sectoriels, au premier rang desquels la FINMA et Swissmedic, posent des exigences qui précèdent la loi générale. Les organisations internationales établies à Genève portent le débat de gouvernance mondiale. Les entreprises et leurs conseils décident, eux, sous ces contraintes croisées.

Cette diversité justifie une publication qui distingue quatre registres : le droit, les programmes publics, les pratiques observables et les positions défendues par les acteurs. Confondre ces registres produit des conclusions fausses. Une charte cantonale et une circulaire de régulateur engagent une organisation de manière différente.

Les référentiels, à leur place

Les référentiels internationaux fournissent un vocabulaire et une architecture de contrôle. ISO/IEC 42001 décrit un système de management de l'IA. ISO/IEC 23894 traite du management du risque associé. Le cadre du NIST organise les fonctions de gouvernance, de cartographie, de mesure et de maîtrise. Les textes publics suisses fixent le cadre applicable et son calendrier.

Ces référentiels outillent la décision. La décision elle-même revient à l'instance dirigeante, qui en répond. Aucun référentiel ne remplace cette responsabilité, et aucune certification ne l'absorbe.