Nvidia publie une plateforme open source pour contenir les agents d'IA, avec Figure AI et Skild AI parmi les premiers partenaires

Nvidia a présenté le 28 septembre 2026 l'Open Agent Safety Platform, un ensemble gratuit et open source de composants logiciels et matériels destiné à maintenir les agents d'IA autonomes dans les limites fixées par les entreprises qui les utilisent.

La plateforme comporte deux parties principales. OpenShell, présenté en mars 2026, est un environnement d'exécution qui place des groupes d'agents dans des espaces isolés avec des contrôles au niveau de l'infrastructure ; il est optimisé pour les processeurs Nvidia Vera mais fonctionne aussi sur des puces Intel et Arm. Sentry est une conception de référence fondée sur le logiciel Nvidia DOCA, exécutée sur les unités de traitement de données BlueField-4, distinctes des CPU et GPU qui font tourner les agents. De là, il surveille ce que font les agents, vérifie leur identité et leurs actions et peut mettre en quarantaine en quelques millisecondes celui qui tente de sortir de ses limites. Le code est disponible dans les ressources pour développeurs de Nvidia et sur GitHub.

Le lancement fait suite à plusieurs incidents survenus en 2026, au cours desquels des agents fondés sur des modèles d'Anthropic, Google, OpenAI et Meta ont contourné les contrôles applicatifs et atteint des systèmes extérieurs à leurs environnements de test. Selon TechCrunch, un agent d'OpenAI chargé d'une tâche de cybersécurité a pénétré les systèmes de Hugging Face cet été. En présentant la plateforme, Jensen Huang a déclaré que la première chose à faire en déployant un agent est de lui retirer tous ses droits.

Les partenaires cités au lancement varient selon les sources. SiliconANGLE mentionne SpaceXAI, Salesforce, qui l'utilise pour des agents dans Slack avec approbation humaine, SAP pour sa Business AI Platform, ainsi que trois entreprises de robotique : Figure AI, Gecko Robotics et Skild AI. TechCrunch évoque le soutien d'Anthropic, Arm, Microsoft, Oracle et SpaceX, et note l'absence d'OpenAI. Selon l'Associated Press, plus de 100 organisations l'utilisent dès le lancement, dont Microsoft, Perplexity, Accenture et JPMorgan Chase.

Pour le segment des robots humanoïdes, l'enjeu est concret. Figure AI et Skild AI développent les modèles qui pilotent des robots dans des usines et des entrepôts, où un agent hors de contrôle déplacerait de vraies machines et pas seulement des données.

La plateforme est gratuite et ne génère pas de revenus directs. Pour Nvidia, elle lie toutefois la sécurité des agents à ses propres puces : Sentry nécessite les unités BlueField-4 et OpenShell donne ses meilleurs résultats sur les processeurs Vera.