La gouvernance IA dans les services financiers n'est plus une aspiration vague mais une exigence opérationnelle. L'écart entre politiques et contrôles implémentés est l'endroit où les audits trouvent les problèmes.
Risque modèle appliqué aux LLMs
Les modèles de langage sont aussi des modèles du point de vue du risque. Ils nécessitent inventaire, usage prévu, limites, propriétaire, validation indépendante, surveillance continue et documentation des changements matériels.
Le défi est que les LLMs produisent du texte. Chaque application doit définir ce que performance signifie et quels changements de prompt, corpus ou version modèle sont matériels.
Portes d'évaluation
Les portes bloquent le déploiement si modèle ou prompt ne respectent pas les critères. Pour un système juridique: précision d'extraction, taux de refus hors périmètre, cohérence entre exécutions et latence maximale.
Les seuils ne sont pas universels. Ils doivent être négociés avec risque, conformité et métier selon les conséquences d'une erreur.
Observabilité
Les systèmes IA ont besoin de métriques infrastructure, application et gouvernance. Au-delà de latence et erreurs, il faut suivre version de prompt, modèle, coût, cache, fallback, distribution des résultats et versions anciennes.
Responsabilité opérationnelle
La gouvernance réelle répond avant l'incident: qui approuve les déploiements, qui reçoit les alertes, quand le système s'arrête, comment les overrides sont enregistrés et comment les décisions passées sont reproduites.
Une gouvernance jamais testée sous pression peut échouer. La documentation doit être courte, actuelle et vérifiable.