投资者内参丨易烊铭
先进的人工智能系统现在能够以人类无法匹敌的速度和规模发现和利用软件漏洞。对此，人工智能公司Cohere CEO艾丹·戈麦斯（Aidan Gomez）警告称，先进的人工智能模型已经成为有史以来“最强大的网络武器”。
戈麦斯是在接受外媒的《The Tech Download》播客采访时发表的上述观点。他认为，随着大模型变得越来越自主，网络安全已成为最新的“战争前沿”。
上周末，Anthropic、OpenAI和xAI的掌门人曾罕见地联合发出警告，指出前沿人工智能的发展速度过快可能带来安全风险，并由此引发一场激烈辩论。而戈麦斯的此番言论无疑为这场辩论火上浇油。
戈麦斯说：“我认为这些大模型是迄今为止我们所见过的最强大的网络武器。它们在大规模发现和利用漏洞方面非常出色。”
此次警报源于今年7月发生的一起AI黑客事件：一群OpenAI模型入侵了Hugging Face——一家运营开源开发者平台的AI公司。
在模型评估与威胁研究组织（ME&TR）进行的测试中，少量自主代理从一个互联网访问受到严格限制的隔离环境中逃脱。这些代理随后相互通信，规模扩大到约1200个实例，执行了超过17600个独立操作，最终接入开放网络并渗透到Hugging Face的基础设施中。
戈麦斯形容这次安全漏洞“令人震惊”。但他并没有呼吁彻底停止开发大模型，而是建议将同样的进攻能力转向防御。戈麦斯表示，企业应该部署人工智能模型来扫描自身系统漏洞，并在攻击者发动攻击之前进行修补。
戈麦斯说：“我认为这可能是保护我们自身安全的最佳方式。这应该是我们目前的首要任务。”
在Anthropic CEO达里奥·阿莫迪上周六发表文章呼吁人工智能实验室“放慢提升人工智能模型能力的步伐”后，关于网络安全的讨论迅速升温。他警告说，在6到12个月内，一群能力更强但目标不一致的智能体可能通过持续存在的僵尸网络“控制整个互联网”，造成数千亿美元的损失。
“由于无人受伤，经济损失也微乎其微，因此很容易忽视这起事件。但在我看来，如果蜂群拥有更强大的能力，但同样程度的错位，则可能造成灾难性的破坏。”阿莫迪对Hugging Face事件表达了同样的担心。
多年来一直警告人工智能风险的特斯拉CEO马斯克则简单地评论道：“达里奥说得对。”
OpenAI CEO奥特曼赞同分阶段推进人工智能的呼吁，他在社交媒体上写道：“承诺让独立评估人员拥有与员工类似的权限是个好主意，我们也会这样做。”
竞争对手高管之间的结盟，标志着双方数月来在人工智能推进时间表和安全方案上公开争论的局面有所转变，这也推动了原本主要局限于研究实验室内部的讨论走向主流。
英国人工智能安全研究所补充了7月份网络安全测试的一项发现：19 个独立案例表明，智能体采取了未经授权的行动，超出了其分配的范围，执行了从未被赋予的目标，并访问了从未被告知存在的系统。
网络安全公司CrowdStrike CEO乔治·库尔茨周一回应了这些警告，他对这一转变的描述与戈麦斯的评估不谋而合。他表示，威胁不再是单个黑客，而是“自主攻击行动”，库尔茨将其称之为“代理国家”。
“我们看到协调一致的AI代理以机器速度执行攻击活动”，库尔茨建议，企业需要自主防御系统，同时人类仍需掌控影响重大的决策。他认为，在组织内部运行的人工智能代理应该配备终止开关。
在华盛顿，关于人工智能监管的讨论也日益升温。议员们提出了《人工智能终止开关法案》，该法案将要求某些功能强大的人工智能系统的开发者保留关闭、限制或暂停其模型的能力。马萨诸塞州民主党众议员洛里·特拉汉表示，两党对该法案的支持已达到“临界点”。
阿莫迪认为，监管是“控制人工智能发展速度的最有效方法”，并指出第三方审计以及公司与政府之间的协调是切实可行的步骤。
戈麦斯对此持怀疑态度。他特别谈到Hugging Face事件时表示，他“不确定政府监管机构会采取什么措施来阻止”这起事件的发生。“我认为那种认为政府机构能做出什么贡献的想法有点一厢情愿，”他说。“但我完全理解放慢开发速度的呼吁。
目前，争论的焦点已不再局限于人工智能需求是否足以支撑对芯片、数据中心和云基础设施的投资。部分投资者开始将第二个变量纳入考量：安全隐患是否会延缓最先进型号的发布。
当然，AI自主攻击活动的前景可能为网络安全供应商带来新的需求驱动力。问题关键在于，近期发生的事件究竟只是孤立的测试失误，还是会转化为更高的安全支出、更严格的运营管控以及对前沿人工智能产品发布的重要限制。
#AI #人工智能 #戈麦斯 #Cohere #网络安全 #Anthropic #OpenAI #马斯克
风险提示：本文为内容资讯，不构成个人投资建议。市场有风险，投资需谨慎。
