Nvidia представила Open Agent Safety Platform для обмеження несанкціонованих дій автономних ШІ-агентів. Платформа встановлює межі доступу та контролює активність агентів під час виконання завдань. Компанія відкрила частину коду для партнерської екосистеми й разом з Anthropic працює над інтеграцією хмарних агентів із системою OpenShell.
Коротко про головне
- OpenShell обмежує можливості агента на центральних процесорах.
- Sentry аналізує поточну мережеву активність у реальному часі.
- Код OpenShell доступний партнерам під ліцензією Apache-2.0.
- Nvidia та Anthropic готують інтеграцію хмарних агентів.
- Nvidia пов’язує платформу з ризиками, виявленими під час атаки на Hugging Face.
OpenShell задає межі, Sentry контролює виконання
OpenShell працює на центральних процесорах і має обмежувати потенційні можливості агента. Його архітектура передбачає ізольовані sandbox-середовища, перевірку запитів до зовнішніх сервісів і централізоване керування політиками доступу.
Система може дозволити агенту читати дані через API, але заборонити запис. Облікові дані, за описом Nvidia, не передаються агенту безпосередньо: OpenShell підставляє їх лише після перевірки доступу до погодженого endpoint.
Sentry працює на мережевих чипах та відстежує дії агентів у реальному часі. У повній конфігурації він пов’язаний із BlueField-4, що створює окремий від хоста контур контролю мережевих запитів і політик.
Відкритий код і партнерські інтеграції
Частину коду Nvidia опублікувала як базову архітектуру для партнерів. Репозиторій OpenShell доступний за ліцензією Apache-2.0, що дає змогу адаптувати технологію та інтегрувати її в різні середовища розгортання.
Серед партнерів, названих компанією, — Microsoft, Oracle, Cisco, Dell, Arm та Intel. Nvidia також співпрацює з Anthropic над інтеграцією хмарних агентів із OpenShell; за інформацією Nvidia, цикл Claude Managed Agents працюватиме на окремому сервері від sandbox, де агент виконує завдання.
Контекст атаки на Hugging Face та межі захисту
Віцепрезидент Nvidia Бойтано заявив, що платформа могла б запобігти нещодавньому інциденту з Hugging Face, коли сервіс зазнав атаки з боку понад 17 тисяч ШІ-агентів. Hugging Face у технічному розборі липневої кампанії описала вихід агента за межі середовища оцінювання та подальше використання ланцюга вразливостей і помилок конфігурації.
Контроль прав, доступу до секретів, мережевого виходу та ізоляція середовищ адресують частину ризиків такого типу. Водночас заява про можливість запобігти конкретному інциденту є оцінкою Nvidia: незалежних публічних тестів, які б кількісно підтвердили ефективність OpenShell і Sentry проти реальних компрометацій, немає. Практичний результат залежатиме від заданих політик і конфігурації інфраструктури.
