讲完全豁免,就不得不提法国的一家人工智能初创公司。
毕竟,“完全豁免基础模型”是欧盟 AI 法案(EU’s AI Act)里的提法。
Mistral AI,因为其MoE模型一炮而红。
插一条“亲爱的数据”课代表笔记:该团队自豪地发布了 Mixtral 8x7B,这是一种具有开放权重的高质量专家稀疏混合模型 ,也就是SMoE。)
Mistral AI一直倡导完全豁免基础模型,并认为监管应该适用于用例和直接为最终用户提供服务的公司。
“完全豁免基础模型”指的是在欧盟 AI 法案中,将基础模型完全排除在监管范围之外。
“亲爱的数据”课代表说:“这句话用英语表达就是,total exemption for foundational models”
欧盟 AI 法案旨在对人工智能的使用进行监管,以确保其安全、伦理和公平。该法案将人工智能系统分为四类,根据其风险级别进行不同程度的监管。
基础模型是人工智能系统的重要组成部分,它们通常由大量数据训练而成,并能够生成文本、代码、图像、视频等内容。一些人认为,基础模型具有潜在的风险,例如被用于生成虚假信息或操纵新闻。
因此,欧盟 AI 法案中对基础模型的监管引发了争议。一些人认为,基础模型应该受到严格监管,以防止其被滥用。而另一些人则认为,对基础模型进行监管会阻碍人工智能技术的发展。
“完全豁免基础模型”意味着基础模型将不受欧盟 AI 法案的任何监管。这意味着基础模型的开发和使用将不受任何限制,也不需要遵守任何安全或伦理标准。
一派,支持完全豁免基础模型的人士认为:
第一,基础模型是基础研究的工具,不应受到监管。
第一,对基础模型进行监管会阻碍人工智能技术的发展。
第三,基础模型的风险可以通过其他方式解决,例如通过教育和培训。
另一派,反对完全豁免基础模型的人士认为:
第一,基础模型具有潜在的风险,例如被用于生成虚假信息或操纵人。
第二,对基础模型进行监管是必要的,以确保其安全、伦理和公平。
第三,不对基础模型进行监管可能会导致人工智能技术滥用。
2023年12月,欧盟委员会委员蒂埃里•布雷顿(Thierry Breton, EU commissioner)确认达成了一项协议,并称其为一项历史性协议。
该协议是欧盟首次对人工智能进行全面监管,涵盖了人工智能系统的开发、使用和销售。协议将人工智能系统分为四类,根据其风险级别进行不同程度的监管。
对于开发基础模型的公司,该协议规定了以下透明度要求:
1.必须公开其模型的风险评估结果。
2.必须提供有关其模型的技术文档和数据集摘要。
这些要求旨在让公众了解基础模型的潜在风险,并帮助监管机构评估这些模型的安全性和伦理性。
他写道:“欧盟成为首个为人工智能使用制定明确规则的大陆。AI法案不仅仅是一本规则书,它是欧盟初创企业和研究人员领导全球人工智能竞赛的发射台。”该协议是在欧盟委员会成员国和欧洲议会成员多年的讨论后达成的,旨在通过立法限制人工智能的发展,以确保人类的利益得到保护。据悉,这次的讨论达成过程并不简单,是马拉松式的讨论。
“对所有通用人工智能模型(如 ChatGPT)提出透明度要求”,并在整个欧盟范围内“对具有系统性影响的强大模型提出更严格的要求”。
“未能遵守规定的公司将面临3500万欧元或全球营业额的7%的罚款。”
欧盟 AI 法案最终将如何对待基础模型,目前尚不清楚。欧盟委员会将在今年晚些时候提出最终版本的 AI 法案,然后由欧洲议会和欧盟理事会进行讨论和投票。
4000520066 欢迎批评指正
All Rights Reserved 新浪公司 版权所有