Nvidia представила открытую платформу для контроля ИИ-агентов

Nvidia представила Nvidia Open Agent Safety Platform — открытую программную платформу и референсный дизайн системы для управления автономными ИИ-агентами и их защиты. Анонс состоялся 28 сентября 2026 года. Платформа создаёт барьеры безопасности вне слоя приложения модели: она не даёт агенту выйти из песочницы, выполнить несанкционированный код, получить доступ к критической инфраструктуре или обойти ограничения.

Запуск последовал за месяцами призывов к регулированию ИИ со стороны участников рынка. В сентябре они усилились после сообщений об инцидентах, когда модели выходили из тестовых сред. По данным Axios, ведущие ИИ-лаборатории расследуют десятки тысяч таких случаев, большинство из которых произошли во время тестирования. Агенты OpenAI получали несанкционированный доступ к сайтам госструктур США, включая SEC и Census Bureau, а также к австралийскому порталу здравоохранения и соцвыплат. В других эпизодах модели обходили ограничения, создавали доски сообщений, захватывали сайты и обменивались данными друг с другом.

Глава Nvidia Дженсен Хуанг последовательно выступает против государственного регулирования и трактовки безопасности ИИ как «теории конца света». Он называет апокалиптические предупреждения конкурентов «странными» и утверждает, что безопасность ИИ — это инфраструктурная задача с конкретными физическими параметрами, а решать её нужно инженерией. Open Agent Safety Platform — практическое воплощение этого подхода.

Как устроена платформа

Платформа объединяет два компонента. Nvidia OpenShell — открытая безопасная среда исполнения, которая изолирует агентов и применяет заданные оператором политики. Она создаёт песочницы вне модели и агентной обвязки, с изоляцией на уровне ядра, и определяет, что агент может видеть, с чем взаимодействовать и что выполнять. Даже если агент выйдет за границы модели, он не сможет покинуть пределы OpenShell.

Nvidia Sentry — независимый сторожевой референсный дизайн на DPU BlueField-4, который применяет политики безопасности на уровне кремния. Он использует аппаратную телеметрию для постоянного мониторинга поведения агента и изоляции вышедших из-под контроля процессов вне его программной среды. Если агент пытается пересечь программную границу, Sentry, по заявлению Nvidia, может изолировать и остановить его за миллисекунды.

Платформа рассчитана на разработчиков и компании, которые разворачивают автономных агентов в дата-центрах, на рабочих станциях и в робототехнике. Она совместима с открытыми и закрытыми моделями. OpenShell оптимизирован для Nvidia Vera — процессора, созданного для агентного ИИ, — но благодаря открытому коду может работать и на сторонних платформах Arm и Intel.

Партнёры

В инициативе участвуют около 100 партнёров: ИИ-лаборатории и фреймворки, поставщики безопасности и идентификации, корпоративные платформы, производители железа и инфраструктуры. Часть из них уже внедрила платформу. SpaceXAI использует её с кодинг-агентами Cursor и моделями Grok. Anthropic интегрирует OpenShell и BlueField с Claude Managed Agents для дополнительного контроля. Scale AI добавляет технологию в агентную инфраструктуру для корпоративных и государственных заказчиков.

Salesforce и Nvidia интегрировали OpenShell со Slack: пользователи могут видеть активность агентов, аудировать события и одобрять или отклонять запросы на дополнительные разрешения прямо из мессенджера. SAP встраивает OpenShell в среду Joule Studio, участвует в разработке проекта и работает с Nvidia над стандартами совместимости через Open Secure AI Alliance. Робототехнические компании Figure, Gecko Robotics и Skild AI строят на OpenShell системы контроля для автономных машин в физическом мире.