英伟达推出智能体安全平台 并与Anthropic合作强化安全控制

英伟达推出智能体安全平台 并与Anthropic合作强化安全控制
2026年09月29日 09:18 观点新媒体

观点网讯:当地时间9月28日,英伟达宣布推出NVIDIA Open Agent Safety Platform,这是一个开放软件平台及参考系统设计,旨在从智能体测试到部署全流程增强AI安全,并对运行智能体的软件、硬件、计算及机器人系统实现全栈治理与控制。

同日,英伟达宣布已与Anthropic展开合作,共同为智能体技术栈增加安全与控制层。Claude Managed Agents通过将智能体循环与执行工作的沙箱分离至不同服务器,建立安全边界;其与OpenShell和BlueField的集成,使企业能够通过沙箱对智能体访问实施严格控制。

该平台包括NVIDIA OpenShell安全运行时软件,可为在CPU上运行的智能体设定可强制执行边界。OpenShell现已广泛可用,并在首款专为智能体AI打造的NVIDIA Vera CPU上以极低开销运行;作为开源软件,还可扩展至Arm、Intel等第三方计算平台。

参考系统设计包含NVIDIA Sentry。这是一个运行在NVIDIA BlueField-4 DPU上的带外监控程序,可持续监控智能体行为,并在芯片内独立执行安全策略。若智能体试图越出软件边界,Sentry可在毫秒内将其隔离并停止。

Notion、Rakuten和Asana等公司已率先在生产环境中使用Claude Managed Agents。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部