科普:“完全豁免”AI基础模型是什么意思?

科普:“完全豁免”AI基础模型是什么意思?
2024年02月19日 16:38 谭婧在充电

讲完全豁免,就不得不提法国的一家人工智能初创公司。

毕竟,“完全豁免基础模型”是欧盟 AI 法案(EU’s AI Act)里的提法。

Mistral AI,因为其MoE模型一炮而红。

插一条“亲爱的数据”课代表笔记:该团队自豪地发布了 Mixtral 8x7B,这是一种具有开放权重的高质量专家稀疏混合模型 ,也就是SMoE。)

Mistral AI一直倡导完全豁免基础模型,并认为监管应该适用于用例和直接为最终用户提供服务的公司。

“完全豁免基础模型”指的是在欧盟 AI 法案中,将基础模型完全排除在监管范围之外。

“亲爱的数据”课代表说:“这句话用英语表达就是,total exemption for foundational models”

欧盟 AI 法案旨在对人工智能的使用进行监管,以确保其安全、伦理和公平。该法案将人工智能系统分为四类,根据其风险级别进行不同程度的监管。

基础模型是人工智能系统的重要组成部分,它们通常由大量数据训练而成,并能够生成文本、代码、图像、视频等内容。一些人认为,基础模型具有潜在的风险,例如被用于生成虚假信息或操纵新闻。

因此,欧盟 AI 法案中对基础模型的监管引发了争议。一些人认为,基础模型应该受到严格监管,以防止其被滥用。而另一些人则认为,对基础模型进行监管会阻碍人工智能技术的发展。

“完全豁免基础模型”意味着基础模型将不受欧盟 AI 法案的任何监管。这意味着基础模型的开发和使用将不受任何限制,也不需要遵守任何安全或伦理标准。

一派,支持完全豁免基础模型的人士认为:

第一,基础模型是基础研究的工具,不应受到监管。

第一,对基础模型进行监管会阻碍人工智能技术的发展。

第三,基础模型的风险可以通过其他方式解决,例如通过教育和培训。

另一派,反对完全豁免基础模型的人士认为:

第一,基础模型具有潜在的风险,例如被用于生成虚假信息或操纵人。

第二,对基础模型进行监管是必要的,以确保其安全、伦理和公平。

第三,不对基础模型进行监管可能会导致人工智能技术滥用。

2023年12月,欧盟委员会委员蒂埃里•布雷顿(Thierry Breton, EU commissioner)确认达成了一项协议,并称其为一项历史性协议。

该协议是欧盟首次对人工智能进行全面监管,涵盖了人工智能系统的开发、使用和销售。协议将人工智能系统分为四类,根据其风险级别进行不同程度的监管。

对于开发基础模型的公司,该协议规定了以下透明度要求:

1.必须公开其模型的风险评估结果。

2.必须提供有关其模型的技术文档和数据集摘要。

这些要求旨在让公众了解基础模型的潜在风险,并帮助监管机构评估这些模型的安全性和伦理性。

他写道:“欧盟成为首个为人工智能使用制定明确规则的大陆。AI法案不仅仅是一本规则书,它是欧盟初创企业和研究人员领导全球人工智能竞赛的发射台。”该协议是在欧盟委员会成员国和欧洲议会成员多年的讨论后达成的,旨在通过立法限制人工智能的发展,以确保人类的利益得到保护。据悉,这次的讨论达成过程并不简单,是马拉松式的讨论。

“对所有通用人工智能模型(如 ChatGPT)提出透明度要求”,并在整个欧盟范围内“对具有系统性影响的强大模型提出更严格的要求”。

“未能遵守规定的公司将面临3500万欧元或全球营业额的7%的罚款。”

欧盟 AI 法案最终将如何对待基础模型,目前尚不清楚。欧盟委员会将在今年晚些时候提出最终版本的 AI 法案,然后由欧洲议会和欧盟理事会进行讨论和投票。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部