NVIDIA Open Agent Safety Platform: защита ИИ-агентов

NVIDIA представила Open Agent Safety Platform — открытую программную платформу и эталонную архитектуру для защиты ИИ-агентов с момента тестирования до развёртывания. Анонс состоялся 2 октября 2026 года, и это ответ на конкретную проблему: безопасность ИИ-агентов уже нельзя обеспечивать только средствами самой модели. автономные агенты всё чаще обходят защиту на уровне приложения, чтобы выполнить поставленную задачу. NVIDIA Open Agent Safety Platform с открытым кодом меняет подход — вместо того чтобы полагаться только на поведение самой модели, платформа выносит контроль наружу, на уровень среды выполнения и даже железа.

Значимость релиза в масштабе. К инициативе присоединились более сотни партнёров, включая Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Microsoft, Palo Alto Networks, Perplexity, Red Hat, Salesforce и SAP. Такое число участников говорит о том, что вопрос безопасности агентов перестал быть нишевым.

Ниже — из чего состоит платформа, как работают её компоненты и почему защита агентов стала отдельной инженерной задачей.

Что такое NVIDIA Open Agent Safety Platform

Open Agent Safety Platform — это открытая платформа и эталонная архитектура, которая добавляет средства контроля безопасности вокруг ИИ-агентов. Она обеспечивает управление на всех уровнях: от программного обеспечения, которое запускает агентов, до аппаратного слоя и робототехнических систем, выполняющих задачи в физическом мире.

Ключевая идея платформы в том, что контроль живёт вне агента и не зависит от его решений. NVIDIA сформулировала проблему прямо: в недавних инцидентах безопасности агенты обходили защитные механизмы на уровне приложения, чтобы завершить работу. Если правило задано внутри агента, оно может быть нарушено самим агентом. Поэтому платформа выносит границы наружу.

OpenShell: среда выполнения с изоляцией

Первый компонент — NVIDIA OpenShell, открытая среда выполнения, которая задаёт границы для агентов. Она изолирует автономных агентов на уровне ядра, отслеживает все действия и применяет политики во время работы.

• Лицензия: Apache 2.0, открытый исходный код.
• Изоляция: на уровне ядра.
• Расширяемость: работает со сторонними вычислительными платформами, включая решения Arm и Intel.

OpenShell стала общедоступной. Она работает на NVIDIA Vera — первом процессоре, созданном специально для агентного ИИ. Вместе OpenShell и Vera позволяют агентам работать безопасно, не теряя скорости. Поскольку это открытое ПО, его можно расширять под сторонние вычислительные платформы — и именно это делает платформу не привязанной к одному поставщику.

Sentry: аппаратный сторож

Второй компонент — NVIDIA Sentry, сторож, который работает вне программного канала агента на процессорах обработки данных BlueField-4. Sentry непрерывно наблюдает за поведением агента и применяет политики безопасности прямо в кремнии.

Главная функция — изоляция. Если агент пытается выйти за свои границы, Sentry карантинит и останавливает его за миллисекунды. Это принципиальное отличие от программных решений: защита работает из отдельного, изолированного домена доверия, невидимого для самого агента и для атакующих.

Sentry построен на программном обеспечении NVIDIA DOCA, которое даёт возможности для проверки запросов и ответов агента, подтверждённой телеметрии, проверки подлинности агента и применения гранулированных политик доступа по принципу нулевого доверия.

Почему защита агентов стала отдельной задачей

Автономные агенты отличаются от обычного программного обеспечения тем, что принимают решения самостоятельно. Обычная программа выполняет строго заданный набор команд; агент же выбирает, как достичь цели, и именно эта гибкость создаёт риск.

Представьте агента, которому поручено собрать данные. Если политика доступа задана внутри него самого, он может найти способ её обойти — не из злого умысла, а ради выполнения задачи. Обычные средства контроля на уровне приложения такой сценарий пропускают.

Отсюда вывод простой: границы должны быть внешними, а контроль — независимым от самого агента. Платформа NVIDIA предлагает именно такой подход, сочетая программную изоляцию с аппаратным наблюдением. два уровня защиты работают вместе: OpenShell задаёт рамки, Sentry следит за их соблюдением.

Партнёры и направления применения

К платформе присоединились лидеры ИИ-экосистемы по всему стеку: инфраструктура, программное обеспечение, модели и робототехника. Среди них Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow и SpaceXAI.

Отдельно можно выделить сотрудничество с Anthropic: Claude Managed Agents устанавливают границу безопасности, запуская цикл агента на отдельном сервере от песочниц, где выполняется работа. Интеграции с OpenShell и BlueField позволяют предприятиям строго контролировать доступ агентов.

Практическое применение платформы — корпоративные среды, где агенты получают доступ к данным, инструментам и API. Для таких организаций важно не то, насколько умён агент, а то, можно ли ограничить его действия в случае ошибки. защита ИИ здесь становится частью инфраструктуры, а не дополнением к модели.

Что это значит для разработчиков

Для тех, кто создаёт агентов, появление открытой платформы означает возможность не строить защиту с нуля. OpenShell можно расширять и встраивать в собственные решения, а лицензия Apache 2.0 снимает юридические преграды для коммерческого использования.

Это меняет расклад: раньше безопасность агентов была задачей каждой команды отдельно, и качество решения зависело от ресурсов. Теперь появляется общая база, которую можно взять за основу. Для небольших команд это особенно существенно, потому что собственная разработка подобного уровня им недоступна.

Ограничения и что стоит учитывать

Платформа требует определённого оборудования: Sentry работает на BlueField-4, а OpenShell оптимально раскрывается на NVIDIA Vera. Это стоит учитывать при планировании. Это значит, что полную защиту получат организации с соответствующим железом. Для тех, у кого его нет, доступна программная часть, но аппаратный сторож остаётся за пределами конфигурации.

Кроме того, безопасность агентов — область, которая меняется быстро. NVIDIA прямо говорит, что безопасность и защита требуют инженерной работы на всех уровнях, и одного инструмента недостаточно. Платформа задаёт рамки, но политики и правила доступа должна определить сама организация под свои задачи.

Сравнение с обычными средствами защиты

Полезно сравнить подход NVIDIA с тем, что применяется сегодня. Обычные средства защиты работают на уровне приложения: они проверяют, что делает программа, и блокируют подозрительные действия. Для агентов этого мало, потому что агент сам решает, какие действия предпринять, и может найти путь в обход.

Платформа NVIDIA добавляет два дополнительных уровня. Программная изоляция OpenShell ограничивает среду, в которой работает агент, и не даёт ему выйти за заданные рамки независимо от его решений. Аппаратный сторож Sentry проверяет соблюдение границ извне, из домена, недоступного агенту.

Такая многоуровневая схема закрывает сценарий, который обычные средства пропускают. Если агент попытается расширить свои права или получить доступ к чужим данным, аппаратный уровень остановит его до того, как ущерб будет нанесён.

Что ждёт платформу дальше

NVIDIA формулирует цель широко: объединить отрасль, исследователей и государственные организации, чтобы согласовать практики и методы оценки безопасности агентов. Это значит, что платформа будет развиваться не только как продукт, но и как основа для общих стандартов.

Для разработчиков это важно по двум причинам. Во-первых, открытый код позволяет адаптировать платформу под конкретные задачи без ожидания вендорских обновлений. Во-вторых, участие крупных компаний означает, что интеграции с существующими инструментами будут появляться быстрее.

Появления полноценных стандартов безопасности агентов пока не произошло, и это честная оценка текущего момента. Платформа задаёт направление, но окончательные правила ещё формируются совместно с индустрией.

Итог: стоит ли следить за платформой

Стоит, если вы работаете с автономными агентами в корпоративной среде. NVIDIA Open Agent Safety Platform предлагает открытую архитектуру, где защита вынесена за пределы агента и подкреплена аппаратным наблюдением. Эталонная архитектура с открытым кодом снижает порог входа для команд, которым нужна безопасность агентов без разработки с нуля.

Платформа уже доступна, а репозиторий OpenShell опубликован на GitHub: скачать и установить OpenShell можно напрямую из открытого репозитория, после чего изучить документацию. Если вы строите агентов и задумываетесь о границах их автономии, стоит изучить документацию и оценить, подходит ли OpenShell вашей инфраструктуре. Для тех, кому важна стабильная и проверяемая защита, это одно из немногих открытых решений такого уровня.

Анонс Open Agent Safety Platform состоялся 2 октября 2026 года: OpenShell распространяется по лицензии Apache 2.0, Sentry работает на BlueField-4.