Gouvernance des modèles qui continuent d'apprendre

Un conseil qui autorise un système d’IA autorise une chose qui ne durera pas. Le système présenté au comité de mars (poids, seuils, données d’entraînement) n’est pas celui qui tourne en juin. Réentraînements, mises à jour et boucles de rétroaction réécrivent l’objet autorisé chaque semaine, parfois en silence. La question n’est pas si nous approuvons ce système, mais à quoi notre signature s’attache quand l’objet signé bouge.

Notre position : l’approbation ponctuelle d’un système apprenant est caduque dès qu’il change. Ce qu’un conseil peut honnêtement autoriser, c’est une enveloppe : les bornes dans lesquelles le système peut évoluer, la surveillance qui prouve qu’il y reste, les seuils de révocation qui retirent l’autorisation quand il en sort. Un conseil incapable de produire ce document n’a pas autorisé un système ; il a autorisé son souvenir.

Le droit européen a inscrit l’enveloppe dans la loi. Le règlement définit la « modification substantielle » comme un changement non prévu dans l’évaluation initiale qui affecte la conformité ou la destination, et impose une nouvelle évaluation aux systèmes à haut risque substantiellement modifiés. Les changements prédéterminés lors de l’évaluation initiale et documentés n’en constituent pas une.

Lu comme un dessin de gouvernance : le législateur concède qu’on ne peut pas réapprouver un système apprenant à chaque changement et exige que l’espace de changement permis soit déclaré d’avance. C’est une enveloppe, dans la loi ; reste à savoir qui garde la frontière.

La norme ISO/IEC 42001:2023, certifiable, exige la machinerie qu’un artefact mouvant réclame : surveillance planifiée, évaluation de la performance, audit interne, revue de direction, amélioration continue, tant que le système fonctionne. ISO/IEC 23894:2023 fournit le processus de risque du cycle de vie ; aucune ne fixe de seuil chiffré.

La preuve la plus ancienne est le risque de modèle bancaire. SR 11-7 a rendu obligatoires, dès 2011, surveillance continue, analyse des résultats et revalidation périodique : la validation comme cycle de vie, pas comme événement. Le 17 avril 2026, la guidance interagences SR 26-2 / OCC Bulletin 2026-13 l’a remplacée : elle reconduit la discipline pour l’IA de son champ et exclut expressément l’IA générative et agentique, jugées trop nouvelles pour être normalisées.

Les trois régimes triangulent le même objet : bornes déclarées, surveillance en marche, revalidation supervisée. Ce qu’aucun n’écrit, parce que c’est une position de firme et non un fait juridique, c’est le troisième élément : les seuils de révocation. Des bornes sans conséquence automatique décorent. L’enveloppe n’est complète que si des conditions convenues d’avance (dérive hors plage, réentraînement non déclaré, déplacement de population) suspendent l’autorité du système sans attendre le prochain conseil.

Fiches de preuve

Le conseil siège à Paris ou à Genève ; le système apprenant tourne à Abidjan, notation de crédit ou filtrage des fraudes. Il ne l’inspectera jamais et ne gouverne que ce qui traverse le corridor sur le papier. Si c’est une diapositive trimestrielle disant « l’IA se comporte bien », il a autorisé un artefact qu’il ne voit pas. Ce qui doit traverser, c’est le rapport d’enveloppe : chaque réentraînement, seuil déplacé et mise à jour fournisseur marqué dedans ou dehors ; les indicateurs de dérive rapportés à leurs limites, avec propriétaire et cadence ; les événements de frontière et ce qu’ils ont déclenché ; qui, à Abidjan, peut suspendre le système ce soir sans appeler Paris. Le plancher réglementaire est asymétrique : le règlement européen lie la holding, aucun texte équivalent n’opère dans les juridictions de l’UEMOA où tourne le système, et l’enveloppe n’existe que si le groupe l’impose par gouvernance et par contrat, y compris aux fournisseurs qui réentraînent leurs modèles amont sans prévenir. La dérive est aussi plus rapide dans le corridor : marché informel, épisodes de change et historiques de crédit minces déplacent la distribution d’entrée plus violemment que ne le supposent les réglages d’origine.

Sources et limites

Les faits institutionnels reposent sur le règlement (UE) 2024/1689, articles 3, point 23, et 43, paragraphe 4, avec le calendrier modifié par le règlement (UE) 2026/1744, sur ISO/IEC 42001:2023 et ISO/IEC 23894:2023, et sur la filiation de SR 11-7 à SR 26-2 / OCC Bulletin 2026-13, chacun porté avec sa réserve. La doctrine de l’enveloppe est la position de la firme, à lire comme une interprétation : les trois régimes la motivent, aucun ne l’impose en ces termes, et nous ne citons aucun résultat client, aucun n’ayant franchi notre porte de diffusion des preuves. Limite de transférabilité explicite : l’argument est le plus fort quand un système apprenant tourne à distance d’exploitation du conseil qui l’a autorisé, le plus faible pour des modèles figés sous discipline de version. Cette note ne vaut ni comme conseil juridique d’évaluation de la conformité, ni comme affirmation qu’une certification ou un régime de supervision rendrait, à lui seul, un système apprenant sûr à autoriser.

1. Le secrétaire général vérifie si la dernière autorisation d’IA nomme un artefact ou une enveloppe. Si elle ne nomme qu’une version montrée en séance, elle a expiré au premier réentraînement.

2. Le directeur des risques écrit les seuils de révocation et nomme le responsable local qui peut les actionner sans convoquer le conseil. Conditions, délai maximal, autorité locale : une révocation qui attend un calendrier de conseil n’est pas un contrôle.

3. Le propriétaire du modèle produit le journal de frontière depuis la dernière séance. Chaque réentraînement, seuil, population et mise à jour fournisseur, marqué déclaré ou découvert. Zéro événement mérite la suspicion d’un audit sans constat.

4. Le responsable achats vérifie si le contrat oblige le fournisseur à déclarer ses changements de modèle au regard de l’enveloppe, en jours plutôt qu’en trimestres. Sinon, l’enveloppe a un trou à la taille du fournisseur.