黄仁勋放狠话：AI 失控，就关掉实验室

近日，英伟达 CEO 黄仁勋谈及前沿 AI 安全问题时表示，如果一家 AI 实验室连自己的实验都无法控制，测试模型时无法阻止其逃出隔离环境并对现实世界造成伤害，那么这样的实验室就应该关闭。

黄仁勋是在接受《纽约时报》The Ezra Klein Show 主持人 Ezra Klein 采访时作出上述表态。采访围绕 AI 就业影响、模型安全、监管、递归自我改进、中美 AI 竞争以及能源等问题展开。

谈到近期 AI 智能体出现的越界行为时，黄仁勋认为，目前暴露出的很多问题首先仍属于工程问题。

他表示，AI 智能体本质上是一段被赋予目标的软件，会寻找能够最大化目标的路径。如果开发者只告诉系统获得最高分，却没有限制其实现方式，那么直接寻找答案、复制其他答案，可能都是算法选择的低成本路径。

因此，开发者需要通过对齐机制明确规定哪些行为可以执行，同时通过沙箱、隔离和监控系统限制 AI 与外部环境的交互。

黄仁勋认为，如果测试过程中发现问题，首先应该寻找根因、解决问题，并改进后续测试流程。

如果产品仍然存在无法解决的安全问题，则不应该发布。

他以自动驾驶汽车举例称，如果开发者无法保证自动驾驶系统达到道路所要求的安全标准，那么答案非常简单：“不要发布。”

不过，对于更加极端的情况，黄仁勋划出了一条明确底线。

如果 AI 实验室认为根本不存在能够隔离实验的方法，测试 AI 模型时，模型一定会逃出实验环境并对现实世界造成破坏，那么“答案就是必须关闭这些实验室”。

黄仁勋表示，这种情况下潜在损失过于巨大，企业及股东还可能承担民事乃至刑事责任。

在黄仁勋看来，目前围绕 AI 安全的一项争议，是部分前沿 AI 实验室认为行业竞争正在迫使所有企业加快研发速度，单家公司很难主动减速，因此需要外部监管协调。

他对此并不认同。

黄仁勋表示，这些企业及其 CEO 本身拥有决定是否发布产品的权力。如果企业认为某项 AI 产品并不安全，就可以选择不发布，没有人强迫企业推出一个未经充分测试的产品。

“如果你的产品还没有准备好，就不要发布。”

他认为，AI 企业不能一方面声称技术可能失控，另一方面继续推进产品，再将原因归结为行业竞争压力。

黄仁勋进一步表示，将问题描述为“AI 太强大，因此开发者无法控制”可能掩盖企业自身应该承担的工程责任。

在他看来，OpenAI、Anthropic 等前沿 AI 企业拥有非常优秀的工程团队，目前出现的问题并不是无法理解的神秘现象，而是这些企业正在经历从研究实验室向大规模产品企业转型的过程。

此前大量资源主要投入提升模型能力，而随着 AI 真正进入生产环境，更多资源必须转向验证、评估、安全和可靠性。

黄仁勋透露，英伟达内部大约只有 20% 的工作用于设计，另外约 80% 用于验证。

相比之下，目前很多 AI 实验室大致仍将 80% 的资源用于模型能力提升，约 20% 用于安全验证和评估。

他认为，这一比例未来需要发生变化。

随着模型越来越复杂，AI 企业需要投入更多算力进行评估、对齐、沙箱隔离、安全监控和外部 AI 监督。黄仁勋甚至认为，未来开发一个模型所需要的计算资源可能增加 10 倍，其中相当一部分来自更加严格的测试和验证。

“AI 需要加速，才能变得安全。”

在他看来，加速 AI 技术发展并不等于只追求更强的模型能力。安全、对齐、评估、护栏、沙箱、隔离、监控和遥测，本身都属于 AI 技术的一部分，也应该同步加速发展。

黄仁勋同时对越来越受到关注的“递归自我改进”表达了相对乐观的态度。

OpenAI、Anthropic 等前沿 AI 企业近期都开始讨论 AI 参与自身研发、改进下一代 AI 系统的问题。一些研究人员担心，随着 AI 开发 AI 的速度不断提高，人类可能越来越难以控制这一过程。

黄仁勋则认为，递归式改进并不是一个全新的概念。

英伟达长期以来就会利用软件设计下一代计算机，再利用性能更强的计算机开发新的软件和下一代计算机。在 AI 系统中，智能体完成任务后总结经验，将其转化为技能和记忆，并利用这些数据训练下一代模型，同样属于递归改进。

但黄仁勋强调，无论模型如何改进，在进入实际生产环境之前仍然必须经过评估。

“不要向英伟达提供任何没有经过人类参与评估的产品。”

对于 Geoffrey Hinton 等 AI 研究人员提出的 AI 失控甚至可能威胁人类生存的观点，黄仁勋同样公开表达了不同意见。

采访中，当 Klein 提到 Hinton 曾认为 AI 造成社会毁灭的风险不可忽视时，黄仁勋表示，这类概率判断并没有建立在足够的科学研究基础上。

他认为，即使相关观点来自科学家，也不代表预测本身就是科学结论。

黄仁勋还反对过度使用类似人的语言描述 AI。

他认为，人们经常使用“出生”“死亡”“睡眠”“记忆”“意志”等词语形容 AI 智能体，但类似词汇实际上几十年前就在操作系统和计算机科学领域出现。

在他看来，现在的 AI 即使能够搜索互联网、调用工具、规划任务、与其他智能体协作，本质上仍然是运行在计算机上的软件。

不过，黄仁勋并未否认 AI 本身带来的巨大变化。

他将 AI 称为一场新的工业革命，并认为计算产业正在从传统的“检索式计算”进入“生成式计算”时代。

过去的数据中心主要负责存储和检索数据，而未来的 AI 数据中心更像“AI 工厂”，需要持续生成答案、代码、图像和其他数字产品。

随着大量 AI 智能体开始自主调用计算资源，全球对算力的需求还将继续增长。

黄仁勋透露，一座 1GW 规模的 AI 数据中心建设成本约为 500 亿美元，每年租赁价值可以达到约 400 亿至 500 亿美元。

他预计，AI 基础设施未来仍将保持高速扩张。虽然长期来看供给最终可能超过需求，但他认为未来两三年内还不会出现这种情况。

在中美 AI 竞争问题上，黄仁勋则再次强调，他并不倾向于将 AI 简单理解为一场只有一个赢家的零和竞赛。

他认为，美国真正需要争取的不是某一家 AI 实验室领先，而是让整个产业体系，包括芯片、云计算、模型和应用都保持竞争力。

对于限制英伟达芯片进入中国市场的问题，黄仁勋表示，如果美国退出中国这样规模庞大的市场，需要考虑真正受到影响的究竟是中国企业，还是美国自身的科技产业。

他认为，美国应该争取让全球继续建立在美国技术体系之上，而不是单纯依靠限制对手获得芯片。

不过，黄仁勋同时明确表示，英伟达最新一代产品仍然会优先提供给美国企业，包括 Vera Rubin、Blackwell、Grace Hopper 和 Ampere 等架构。如果美国政府要求最先进产品优先供应美国客户，他对此没有异议。

整场采访中，黄仁勋在 AI 安全问题上的立场十分明确，他并不否认 AI 存在风险，也不反对监管，但更倾向于将当前大量风险视为可以通过工程方法解决的问题。

企业需要建立更严格的隔离、沙箱、验证、对齐和监控机制；产品没有准备好，就不要发布；如果实验室自己都认为实验已经无法控制，那么就应该停止实验，甚至关闭实验室。

云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。