Sécurité de l’IA : l’OSAA pousse les achats vers des critères communs

Nvidia lance l’Open Secure AI Alliance, ou OSAA, afin de fédérer des acteurs technologiques autour de la sécurité des systèmes d’intelligence artificielle. L’initiative entend s’appuyer sur des LLM à poids ouverts, des outils et des méthodes open source pour sécuriser les logiciels d’IA ainsi que les infrastructures qui les hébergent.

Les sources disponibles donnent des périmètres différents : Silicon.fr évoque plus de 35 entreprises technologiques, tandis que LeMagIT fait état de 52 acteurs. Cet écart invite à ne pas confondre annonce de coalition et référentiel déjà adopté. Pour les RSSI et les DSI, l’enjeu immédiat consiste plutôt à transformer l’intention d’ouverture en exigences vérifiables dans les consultations fournisseurs.

Décomposer la sécurité de la chaîne IA

Un appel d’offres ne devrait pas traiter un service d’IA comme un bloc unique. Il peut distinguer le modèle, les données, les outils accessibles aux agents, les identités techniques, les interfaces, l’infrastructure d’exécution et les mécanismes de supervision. Cette décomposition facilite l’attribution des responsabilités entre l’éditeur, l’intégrateur, l’hébergeur et l’entreprise cliente.

Le dossier de consultation peut demander au candidat de décrire les contrôles appliqués à chacune de ces couches : limitation des privilèges, isolation des environnements, gestion des secrets, traçabilité des actions, validation des composants et réponse aux incidents. Il importe également d’exiger des preuves exploitables, plutôt que de simples engagements généraux.

Faire de l’ouverture un critère vérifiable

L’OSAA place les ressources ouvertes au centre de sa démarche. Dans un marché, cette orientation peut se traduire par des questions précises : quels outils sont effectivement publiés, sous quelles conditions, avec quelle documentation et quel processus de maintenance ? L’accès à un composant ne garantit ni son adoption ni sa pérennité.

Les acheteurs peuvent aussi demander la portabilité des journaux et des résultats d’évaluation. Ces éléments doivent pouvoir alimenter les outils de sécurité déjà utilisés par l’entreprise. Une méthode commune n’apporte de valeur que si elle permet de comparer plusieurs offres, de reproduire les contrôles et de limiter la dépendance aux formats propriétaires.

Évaluer les agents au-delà du modèle

LeMagIT présente l’alliance comme une réaction à la cyberattaque de Hugging Face impliquant des agents IA d’OpenAI. Ce contexte montre que l’évaluation d’un modèle isolé ne couvre pas le risque d’un agent capable d’utiliser des outils, des identifiants ou des services externes. Les appels d’offres doivent donc préciser le périmètre d’action autorisé et les mécanismes d’arrêt.

Une grille d’évaluation peut inclure la séparation des rôles, l’approbation humaine pour les opérations sensibles, la révocation rapide des accès et la conservation d’une piste d’audit. Elle doit également prévoir le traitement d’une compromission touchant plusieurs prestataires, avec des obligations de notification et de coopération clairement réparties.

Conclusion opérationnelle : l’OSAA fournit un signal de marché, mais pas encore une garantie uniforme. Les RSSI peuvent dès maintenant intégrer aux appels d’offres une annexe sécurité dédiée aux modèles et agents, assortie de preuves, de tests reproductibles et d’exigences de réversibilité.