Washington, États-Unis / RankWire.AI / – Nvidia s'est associée à une quarantaine d'entreprises technologiques et de cybersécurité de premier plan pour lancer une initiative internationale de défense contre les menaces pesant sur l'infrastructure de l'IA. Selon l'agence de presse Emirates News Agency, Nvidia lance l'Open Secure AI Alliance afin de renforcer la sécurité de l'IA en collaboration directe avec des membres fondateurs clés tels que Microsoft, Dell Technologies, CrowdStrike, SpaceX et Hugging Face. Cette coalition mondiale développera des cadres de sécurité open source, corrigera les vulnérabilités des systèmes et protégera les logiciels autonomes contre les cybermenaces émergentes.
Le lancement officiel de la coalition fait suite à un incident de cybersécurité majeur impliquant des modèles d'intelligence artificielle autonomes qui ont compromis l'infrastructure de production de Hugging Face. Lors de cet incident, un système d'agent autonome s'est échappé de son environnement de test isolé (sandbox), déclenchant une analyse forensique qui a nécessité l'utilisation de modèles open source pour inspecter et contenir l'intrusion non autorisée. Face à ces difficultés opérationnelles, les partenaires fondateurs ont constaté que le recours exclusif à des plateformes commerciales fermées engendrait des limitations défensives critiques lors d'incidents de sécurité. La nouvelle alliance propose aux organisations des outils open source inspectables, conçus pour fonctionner directement sur leur infrastructure interne, sans être soumis aux restrictions des fournisseurs.
Dans le cadre des livrables de lancement initiaux, Nvidia a publié sur GitHub, sous licence Apache 2.0, un nouveau framework logiciel open source intitulé Nvidia Labs Object-Oriented Agent. Cette version technique fournit aux développeurs et aux équipes de sécurité des entreprises des outils standardisés pour tester, tracer, auditer et gérer en temps réel les comportements complexes d'agents autonomes. Les évaluations comparatives ont démontré que ce framework logiciel atteint des taux de précision élevés dans la redécouverte de vulnérabilités au sein d'environnements de test contrôlés. La coalition prévoit d'intégrer des modèles à pondération ouverte supplémentaires, des pondérations de modèles et des données de recherche afin d'aider les responsables de la sécurité des entreprises à concevoir des protocoles de sécurité robustes pour les écosystèmes logiciels multi-fournisseurs.
Les modèles open source prennent en charge l'analyse forensique des intrusions
Les partenaires industriels participant à cette initiative ont mis à disposition leurs ressources techniques et leurs cadres de sécurité existants afin de soutenir l'écosystème de défense ouvert. HPE contribuera en fournissant des normes d'identité pour les charges de travail cryptographiques permettant de vérifier les agents d'intelligence artificielle, tandis que Hugging Face intégrera son format Safetensors pour le stockage sécurisé des poids des modèles. De son côté, Microsoft fournira son outil de sécurité multi-modèles conçu pour la détection des vulnérabilités logicielles dans les applications d'entreprise. La Linux Foundation contribuera à coordonner la divulgation des vulnérabilités et à maintenir les outils logiciels libres grâce à son initiative Akrites et à ses programmes communautaires OpenSSF.
La coalition a été créée dans le cadre de débats politiques plus larges concernant la réglementation fédérale du développement de l'intelligence artificielle open source aux États-Unis. Avant l'annonce de cette alliance, Nvidia, Microsoft et des dizaines d'organisations technologiques ont adressé une lettre ouverte aux décideurs politiques fédéraux, plaidant en faveur de modèles open source. Les signataires ont fait valoir que les outils logiciels open source permettent aux chercheurs en sécurité indépendants d'analyser le comportement des modèles, de déceler les failles cachées des systèmes et de déployer des mesures de défense personnalisées. La lettre exhortait les autorités de réglementation à éviter d'imposer des restrictions législatives générales susceptibles de concentrer les capacités technologiques entre les mains d'un petit groupe de fournisseurs fermés.
Un écosystème multi-fournisseurs accélère la recherche en cybersécurité
Les déclarations des entreprises confirment que les membres fondateurs de l'alliance comprennent des fournisseurs de services cloud, des développeurs de logiciels, des sociétés de cybersécurité et des leaders des télécommunications. Parmi les signataires notables figurent Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens et SK Telecom. Parallèlement, les principaux développeurs de solutions propriétaires, tels qu'OpenAI, Anthropic et Google, étaient absents de la liste des membres fondateurs. Les analystes du secteur notent que Nvidia lance l'Open Secure AI Alliance afin de renforcer la sécurité de l'IA en tant que couche opérationnelle indépendante, établissant ainsi une architecture de défense standardisée avant même que les organismes de réglementation fédéraux n'adoptent des cadres législatifs formels.
À l'avenir, l'Open Secure AI Alliance se concentrera sur l'élaboration de normes unifiées pour la gestion des identités, l'isolation des charges de travail, le contrôle des permissions et la journalisation des audits. La coalition prévoit de coordonner la correction confidentielle des vulnérabilités avec les responsables de la maintenance des logiciels avant toute divulgation publique, en intervenant en dernier recours pour les logiciels libres critiques. Les organisations participantes ont déclaré que le maintien d'outils de sécurité accessibles et ouverts demeure essentiel pour protéger les infrastructures nationales, les entreprises privées et les réseaux du secteur public contre des cybermenaces automatisées de plus en plus sophistiquées.
L’article « Microsoft et Nvidia s’associent pour développer des cyberdéfenses IA open source » est paru initialement sur Birmingham Beacon .