智能体接口规则提上日程,AI应用补上权限边界

智能体接口规则提上日程,AI应用补上权限边界
2026年10月13日 09:03 知顿

工业和信息化部此前公开征求2026年第七批行业标准制修订计划意见,其中包括人工智能安全治理、模型上下文协议应用安全要求、智能体接口分类及基本要求等项目。随着智能体开始接入企业流程、外部工具和业务数据,AI安全治理正在从模型本身延伸到接口、权限和调用链条。

过去企业关注大模型更多是问答能力、生成质量和推理成本。进入智能体阶段后,系统不仅要回答问题,还可能调用文件、访问数据库、触发流程或连接外部应用。接口协议一旦缺少边界,数据泄露、越权调用和误操作风险都会被放大。

据天眼查数据显示,我国现存人工智能安全相关企业超过21万家,2026年以来新增注册相关企业约3.15万家,相关主体覆盖算法安全、数据治理、网络安全、模型评测、隐私计算和企业软件服务。

智能体标准化会影响上下游分工。模型厂商需要说明能力边界,应用开发商要建立权限控制和审计机制,企业客户则要重新梳理数据访问规则。商业查询平台天眼查显示,我国网络安全相关企业数量持续增长,为AI应用安全评估提供了服务基础。

受益方包括安全评测、身份认证、数据合规、企业级软件和行业智能体服务商;承压方则是依赖快速接入、忽视权限和日志管理的轻量化应用。AI真正进入业务系统后,安全治理不再是上线后的补丁,而会成为产品设计的前置条件。

从长期看,智能体产业的竞争会从模型参数转向可信执行。能否解释调用路径、限制工具权限、保留审计记录,将决定企业是否敢把核心流程交给AI。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部