美国六家AI企业签署自愿安全协议加强前沿模型监督__财经头条_

人民网华盛顿10月7日电 (邓圩、周洁)美国六家主要人工智能企业9月29日在白宫签署一项自愿性安全协议，承诺对前沿人工智能模型建立包括内部控制、独立监督、外部审计和董事会监督在内的安全机制。签约企业包括谷歌公司、Anthropic公司、元宇宙平台公司、开放人工智能研究中心、太空探索技术人工智能公司和英伟达公司。美国总统特朗普也在协议上签字，并称其具有“道德约束力”。

根据协议，签约企业将建立四层安全监督机制。首先，在模型训练和部署过程中设置内部控制措施，持续监测模型能力和运行状况，重点防范网络安全、生物安全及化学威胁等领域的风险，防止模型未经授权访问技术系统。其次，设立具有独立性和相应权限的内部团队，检查安全措施的执行情况。

此外，企业须与独立外部审计机构合作，对相关控制和监测机制进行评估，并由董事会层面的独立委员会审查审计结果。签约企业还将定期商讨行业标准与最佳实践。协议提出，随着有关机制完善，未来可考虑通过法律或监管规定加以落实。