Nos derniers articles

L’IA Act de l'UE (Art. 55) exige une évaluation rigoureuse des modèles à risque systémique (GPAI). Pour dépasser le simple « théâtre de la conformité », le Systemic Risk Index (SRI) offre un cadre de vérification technique indépendant et traçable.
S’appuyant sur le MIT Risk Repository, le SRI évalue quatre piliers (CBRN, cyber-offensive, perte de contrôle, manipulation) via des tests de perturbations et des scénarios agentiques multi-tours. Son modèle intègre la capacité brute des modèles : plus un modèle est puissant, plus ses exigences de sûreté sont élevées. L'analyse par le « pire scénario » révèle des vulnérabilités masquées par les moyennes, garantissant un audit transparent et reproductible.

En 2026, le secteur financier fait face à des injonctions contradictoires entre le GDPR et l'AI Act. La conservation des données pour la surveillance post-commercialisation s'oppose à la minimisation, et l'exercice du droit à l'effacement dans les réseaux de neurones risque de déclencher de lourdes procédures de réévaluation du modèle. De plus, la représentativité des données et la supervision humaine proactive requièrent une articulation complexe avec le RGPD.
Pour naviguer dans cette incertitude, les institutions doivent documenter de bonne foi leurs arbitrages en intégrant ces exigences dans leur gestion des risques de modèles existante.