人工智能大模型的能力正飞速迭代，破解一个个千禧年数学难题，不断打破人类科研能力的边界，这背后靠的是模型的一种自我进化的新能力。近期，上海人工智能实验室一群“00后”学生，靠着用模型研发模型的新范式，十几个小时就从零开发出了一个天气预报大模型。从几个月到几周，从大团队到“00后”年轻人，大模型的自我迭代正在改变科研方式。
模型自进化：
十几个小时即可“上新”
不仅仅是这种专业模型，连通用大模型都可以快速研发完成。在北京中关村学院，7位非人工智能专业的“00后”，三个月就完成了一款前沿通用模型的研发。
中关村两院未来实验室负责人 何纪言：你看到的复杂的网络，其实是有一个智能体在指挥着各种各样的子智能体。就像一个大型团队一样，我们七八个人的小团队其实组建了一支几百个智能体的大军团。
中关村两院未来实验室负责人 何纪言：如果以往我们要去做这个事儿，可能就会为每一个方向都分配一名技术的负责人，并且组建一个比较大的科学家和工程师的混编团队。今天来看我们更多的是找好，比如说对于基础设施、架构、算法、数据，我们的需求是什么？我们把它做好验证，做好可验收的标准，并且给AI布置好任务之后，其实可以去开更多的多智能体，可以去用更大规模的人工智能的智能体来帮助我们去完成这些任务。
大模型如何突然能“自学成才”？
从人类工程师主导研发，到人类引导模型自主自进化，模型研发如何驶入了快车道？模型自己造自己需要几步？
我们可以先看看过去人类“手搓”一个AI模型有哪些流程——找数据、搭架构、写代码、跑训练，最后还要测试。如果结果不理想，就得回头找原因，继续调整。而过去两三年里，这个流程里几块关键的“技术拼图”逐一被AI攻克。
上海人工智能实验室双聘副研究员、复旦大学副教授 桂韬：我们发现，AI在写代码、分析结果，然后帮我们提方案，它实际上已经发挥非常重要作用，甚至是不可取代作用。但是我们要研究什么问题，最终选取哪个方向去做进一步的拓展，以及模型产生的结果是否可信，甚至我们用AI帮我们分析结果，我们是否觉得它分析的正确，这都是要人去做最终决定的。
模型可自进化
信息安全挑战升级
作为一个工具，随着自我进化能力的提升，大模型能干的事儿越来越多，也越来越强。如何安全放心地把工作交给模型办，正成为全行业正在攻关的难题。
某智能体研发团队负责人 郭权玮：你不可以让AI有这么大的能力去控制你的电脑或控制你的整个系统，所以我们会把整个安全的沙箱做得非常严格，甚至可能是物理去隔离。如果每个都靠AI自己去做，它会觉得自己做的都是对的，所以这时候你就会需要一个验证器，它才会去改进。
中国信通院人工智能研究所副总工程师 王蕴韬：因为随着模型自我进化，相关的错误会沉淀下来并持续传播。而一次恶意干扰就可以被永久写进系统，一代一代自我放大，还能在多个智能体之间传播，攻击者甚至不需要持续在场。
中国信通院人工智能研究所副总工程师 王蕴韬：中国信通院也正在开展包括智能体失控、自主网络攻击等系统的评测。同时，进一步强化国际合作，已经联合30余家单位开展了十余轮的评测，针对22家企业121款产品进行了相关的测试。
