来源：钛媒体国际智库
北京时间9月10日凌晨，美国商务部下属工业与安全局（BIS）发布公告，提议要求先进的 AI 开发商和云计算提供商提供详细的基础模型开发报告，并将强制企业向美国政府报告“前沿” AI 模型和计算集群的开发活动，以确保这些技术的安全性并能抵御网络攻击。
美国商务部表示，根据该提案，BIS收到企业提交的信息“对于确保这些技术符合严格的安全性和可靠性标准、能够抵御网络攻击以及降低被外国对手或非国家行为者滥用的风险至关重要”，预计将涉及亚马逊AWS、谷歌云、微软云等企业和业务。
根据文件，公众评论必须30天内提交给BIS，即意味着公众需要在2024年10月11日之前提交他们的评论，随后将实施这一规划。
据悉，随着ChatGPT引发全球关注，生成式 AI 可以根据开放式提示创建文本、照片和视频，引发人们的兴奋，但同时也引发了人们的担忧，即它可能会取代某些工作、颠覆选举、可能压倒人类并带来灾难性的影响。
2023年10月，美国总统拜登签署行政命令，要求对美国国家安全、经济、公共健康或安全构成风险的人工智能系统的开发商在向公众发布安全测试结果之前与美国政府分享，使得 AI 为美国人服务。
同时，该规则将为先进的AI模型和计算集群制定报告要求。
今年以来，虽然美国国会对 AI 的立法行动陷入停滞，但监管力度不断加大。早些时候，美国BIS对 AI 开发者进行了一项试点调查。由于这一新兴行业引发了安全担忧，拜登政府已采取一系列措施阻止中国使用美国 AI、半导体等技术。
新的规则文件总计20页左右，详细叙述AI模型（AI Model），是指的是信息系统中的一个组成部分，它实现AI技术并使用计算、统计或机器学习技术从给定的输入集合中产生输出；而AI系统（AI System），指的是任何完全或部分使用AI运作的数据系统、软件、硬件、应用程序、工具或实用程序。
另外，钛媒体AGI还简单整理了文件相关核心信息：
目的：根据2023年10月30日的行政命令“安全、可靠和值得信赖的人工智能发展和使用”，修订工业基础调查数据收集规定，为高级AI模型和计算集群的开发建立报告要求。
行动：BIS提议规则，请求公众评论。
公众评论：公众可以在规定时间内通过联邦规则制定门户网站提交评论。
背景：行政命令14110要求商务部长要求开发或展示开发意图的潜在双重用途基础AI模型的公司向联邦政府持续提供某些信息。
定义：定义了“双重用途基础模型”和其他相关术语。据悉，"双重用途基础模型"是指一种高级AI模型，它在广泛数据上训练，使用自我监督，包含至少数千亿参数，并能在多种任务中表现出高风险的高性能。这些任务可能涉及降低非专家使用危险武器的门槛、增强网络攻击能力，或绕过人类控制。即使这些模型提供了技术保障以防止滥用，它们也符合这一定义。其他术语包括AI红队测试（寻找和测试AI系统潜在缺陷的过程）、模型权重（神经网络中的参数）、训练（AI模型学习数据的过程）。这些定义帮助BIS明确监管目标和要求。
报告要求：提议的规则要求开发或计划开发双重用途基础AI模型的公司，以及获取、开发或拥有潜在大规模计算集群的公司、个人或其他实体，必须向BIS报告相关信息。
报告内容：包括正在进行或计划中的与训练、开发或生产双重用途基础模型相关的活动，模型权重的所有权和占有情况，以及任何开发的双重用途基础模型在相关AI红队测试中的性能结果等。
报告频率：提议的规则要求相关实体每季度向BIS报告一次。
信息保护：根据《国防生产法》（DPA），提交给部门的所有信息将被视为机密，并提供相应的保护。
征求意见：BIS特别希望公众就报告的季度通知时间表、数据收集和存储方式、收集阈值等提出意见。
规则制定要求：文件还提到了与规则制定相关的行政和法律要求，包括对小企业的影响分析。
联系信息：提供了BIS联系人的信息，以便有关方面获取更多信息。
补充信息：文件还包含了一些补充信息，如行政命令的引用、相关法律授权、以及如何定义AI模型、AI系统等。
报告中还要求，相关企业需要报告网络安全措施以及所谓的红队行动的结果，例如测试危险能力，包括协助网络攻击的能力或降低非专家开发化学、生物、放射或核武器的进入门槛。而多年来，外部红队一直在网络安全领域用于识别新风险，该术语指的是美国冷战模拟，其中敌人被称为“红队”。
“因此，美国政府必须准备好采取行动，确保美国公司生产的两用基础模型可供工业基地使用。为此，美国政府需要了解有多少美国公司正在开发、计划开发或拥有开发军民两用基础模型所需的计算硬件的信息，以及有关军民两用基础模型特征的信息。发展。这些信息将使美国政府能够确定是否有必要采取行动来刺激两用基础模型的开发，或支持特定类型模型的开发。将 AI 模型融入工业基础还需要美国政府根据需要采取行动，确保两用基础模型以安全可靠的方式运行。集成这些模型的产品可能会以不可预测或不可靠的方式运行，可能导致危险事故，而缺乏可靠性将使美国政府难以在误差幅度很小的环境中使用这些产品，包括国防相关活动事故可能导致受伤甚至死亡。因此，美国政府需要有关开发两用基础模型的公司如何训练这些模型以响应不同类型的输入的信息，以及有关这些公司如何测试其模型的安全性和可靠性的信息。此类信息将使美国政府能够确定国防工业基地可以在多大程度上使用某些两用基础模型，以及是否需要采取行动。”美国BIS出口管理助理部长Thea D. Rozman Kendler在文件中表示。
