本篇介绍了中国科学院院士、清华大学人工智能研究院名誉院长、清华校友总会AI大数据专委会名誉会长张钹关于生成式人工智能治理的系统性思考。围绕三个核心问题展开：AI大模型为什么需要治理？治理的究竟是什么？该如何去治理？
我们迎来了生成式人工智能。这个时代最主要的特点是我们可以让大语言模型在一定的文本提示下，生成各式各样的内容。 然而，生成式人工智能引发的伦理问题、治理挑战也前所未有。
要深刻理解这个问题的重要性和复杂性，首先要从大模型本身的特点出发，来讨论人工智能发展和治理的关系。为什么治理会变得这么频繁、这么复杂，又这么重要？核心是要探讨以下问题：
AI大模型为什么需要治理？治理的究竟是什么？该如何去治理？
一、从大模型技术特性出发，认识治理问题的复杂性
在此之前，我们需要认识生成式AI的三个特点，可以概括为“两大能力、一大缺陷”。
一是强大的生成能力。一句话概括就是，在开领域（注：指生成式人工智能可以自由生成任意主题的文本）能够生成多样性语义上连贯的类似人类的文本。“开领域、多样性以及类似人类”这三个形容词非常重要，是以ChatGPT为代表的生成式大模型的最主要的一个特点，也是对原有（传统）人工智能的重大突破。原有人工智能的所有成果都必须加上三个形容词，即在特定领域、利用特定算法、完成特定任务，它必定有这三个限制，但是ChatGPT等大模型突破了这三个“特定”限制。
二是强大的迁移能力。在大模型的基础上，只要经过“微调”少量工作就可以适应于不同的任务，解决了开领域多任务的问题。把大模型和其他技术结合起来，可以改变这些技术的面貌。比如跟检索结合起来，可以从根本上改变检索的方式，这个结果应该说是非常惊人的。
一大缺陷就是幻觉。所谓幻觉就是大模型的输出质量不一致和不可控，引发了两个方面的安全问题。一方面是模型本身的不安全，它会有一些错误的输出，如偏见、歪曲事实等，就是我们通常说的胡说八道，主要来自训练数据。另一方面是使用者导致的不安全，由于大模型是基于概率，而非按确定性的机制生成，恶意使用者可以诱导模型做出有害输出，比如使用提示词引导模型生成错误的输出，甚至暴露用户的敏感信息等。模型幻觉是难以避免的，这是“一枚硬币的两面”，也使得治理问题变得非常复杂。
我们修正错误的主要办法是AI对齐，包括监督学习和强化学习。通过对齐，保证人工智能系统能够按照人类的意愿来执行任务，也就是保证它的健康发展。换句话讲，治理是我们必要的工作，主要通过与人类对齐来完成。对齐本身是用来克服它输出的错误，更好发挥大模型的作用。大模型通过训练以后只能输出一个上下文连贯的文本，并不能保证它的正确性与准确性，只有通过对齐的方法才能够将大模型的生成质量提高。
未来，大模型的潜力还体现在它强大的交互能力上，这里面还有很多空间可以发掘。只跟人类对齐，一般来讲，最多只能达到人类的水平；使用其他交互手段，则可能获得超过人类的水平。比如大模型作为智能体（Agents）可以与环境实现交互，就是所谓的具身智能；也可以让机器和机器之间实现交互，这就是多智能体。通过这些交互，机器可以从环境和其他机器中获得反馈，使大模型的性能不断地得到提升与进化，最终可能超过人类的水平，展现出强大的发展潜力。
二、良好的治理可以引导大模型健康发展
治理始终贯穿在大模型发展的历程中。比如 GPT-3 的错误很多，最初训练出来的模型只能把上下文连贯起来，并不总能准确地回应上文所提示的要求；经过两年的调整，它的错误率降到20%；又经过5个月的调整，到GPT-4时已经降到10%，AI对齐是整个生成式人工智能发展中一个不可或缺的部分。
未来，还是需要强调广泛地去使用模型，特别是发动广大用户共同来做好大模型。此外，对使用者的治理，是一项更困难的工作，至于对设计者以及模型本身的治理，虽然复杂但比前者相对容易。使用者利用AI技术可以生成各种虚假的视频、邮件、图像和电话等，给打假造成很大的困难，不仅会导致人身损害和财产损失，还会导致社会不稳定等，值得全社会加以高度重视。
治理不只是技术问题，大家更加关注的是法律法规等方面。从技术层面看，一项重要的工作是如何区分图像、文本、语音和视频的真假，是由计算机生成的还是由人类生成（制作）的，这十分困难。以文本为例，目前我们只能做到60%左右的准确率，仅高于随机猜测 10 个百分点。从法律层面看，如何从法律法规、标准规范和伦理等角度去保护用户的利益，还有待各界积极探索。
走向通用人工智能的道路依然任重道远。目前，我们只是在语言对话这个问题上走向了通用，但在其他任务上，如决策、博弈等复杂问题，我们是否也能做出一个通用的模型呢？这个答案和人工智能治理一样，都需要全社会共同努力才能实现。
4001102288 欢迎批评指正
All Rights Reserved 新浪公司 版权所有
