让沙子学会思考之后：Demis Hassabis 的前沿 AI 治理框架

本文原题《A Framework for Frontier AI and the Dawning of a New Age》，作者 Demis Hassabis——Google DeepMind 联合创始人兼 CEO，2024 年因 AlphaFold 与 John Jumper 共获诺贝尔化学奖（现已受封爵士），发表于 2026 年 7 月 14 日。他这一辈子都在造 AGI，也因此是当今最有资格谈「前沿模型该怎么管」的人之一。这篇的分量不在口号，而在它由一个真正在造前沿模型的人给出、且落到了可执行的机制层面。中文翻译、重排、原创配图：Yaqin Hei（非原创，已保留原文出处）。

译者的话：为什么翻这篇

先说清楚我为什么会翻一篇「美国牵头搞 AI 治理」的檄文——它离你我这种在国内做 agent 落地的人，看起来挺远。

我翻它，是因为它把两件我一直分开想的事，接到了一起。

第一件，是它重新校准了我脑子里「模型供应链」那条判断线。 Demis 提的那套机制——跨过某个能力基准就被认定为 Frontier-class、发布前先过 30 天预审、给生成图像打水印、要求模型吐出人能读懂的推理 token——听起来是监管的事，但它其实在指一个方向：你脚下踩的这些前沿模型，正在从「随便调的 API」，变成一个被评测、被门槛、被审计的受管品类。 这直接改了我做选型时的问题。以前我问「哪个模型效果好、便宜」，现在会多问一句：「这个模型所属的实验室，能不能拿出它过了哪些评测的证据？」——因为迟早，这会是合规和采购要问的。

第二件更实在：这篇政策文章，顺手把一套企业该给自己建的评测方法论描清楚了。 你把 Demis 给标准机构设计的那几条原则拆开看——评测要动态更新（旧的、被刷爆的基准要季度性淘汰替换）、要有 held-out 测试（自己留一手的题、防止被针对性刷分）、要引入第三方审计——这不就是每个团队都该给自己那个 agent 建的东西吗？他是在国家层面讲这套，可同一套逻辑缩小到你一个 agent 上，一个字都不用改。读完，我起项目的第一步变了：以前先搭 pipeline，现在先问一句——「我拿什么留一手的题，来证明这版 agent 真比上一版强，而不是刚好把我的测试集背下来了？」

还有一层是姿态。Demis 反复讲一句话：在不确定性极高、赌注又极大的时候，正确的策略是「谨慎的乐观」——既不踩死刹车，也不闭眼狂奔。 这句你把「AGI」换成「要不要把这个 agent 放上生产」，一个字都不用改，就是一条能直接用的上线决策原则。

最后必须提醒一句：Demis 屁股底下有把椅子。 DeepMind 本身就是他文中那个「前沿实验室」。一套给「前沿实验室」戴上光环、还主要靠产业界出钱的标准机构，客观上会抬高门槛、巩固在位者的位置——尽管他明确把创业公司和学术界豁免在外。所以这套机制设计，值得当成一流的思考去读，但「谁最受益」这件事，你心里得自己记一笔。一个方案由既得利益者提出，不代表它错，只代表你得自己再称一遍。

---

以下是正文

这是人类历史上一个关键的时刻。通用人工智能（AGI）——一个具备人脑全部认知能力的系统——很可能只有短短几年之遥了。若干年后当我们回望此刻，我想我们会意识到：我们正站在奇点（singularity）的山脚下——这不折不扣，是人类新纪元的黎明。

我这一辈子都在做 AGI，因为我始终深信：只要造得负责任、用得负责任，它会成为人类有史以来最有益、也最具变革性的技术之一。AGI 没法拿寻常的技术突破来类比——哪怕是互联网、移动这样举足轻重的突破也不行。它更接近电的发现，或者火的发现。你不妨停下来想一想：我们本质上，是找到了一种让沙子会思考的办法——芯片的原料硅，正是从沙子里炼出来的。这是个奇迹。

它带来的影响会大到前所未有——大概相当于工业革命的 10 倍，而速度也是工业革命的 10 倍。它会帮我们啃下社会面对的一些最硬的骨头：从加速新药发现，到开发新的清洁能源，再到造出全新的先进材料。我们甚至可能走到那样一个节点：资源不再是人类进步的瓶颈，从此迈入一个物质极大丰富的新时代。

前沿的挑战

AI 已经开始带来实实在在的收益。但要兑现它那份巨大的承诺，我们必须审慎、周到地走过这段关键期。随着离 AGI 越来越近，一些随之而来的风险，需要我们立刻应对。前沿模型给网络安全带来的挑战，我们已经见识过了；而随着能力继续演进，包括核与生物在内的其他威胁，也可能很快浮现。再往前看，面对越来越有自主性（agentic）、能递归自我改进的系统，我们将需要一套稳固的保障机制来维持对它们的控制——并去解决那些只会随时间推移才逐渐清晰的未知问题。

能力越往前推，风险从「已经发生」爬向「地平线上、只会随时间才看清」的未知——应对之道是谨慎乐观，不是踩死刹车

我一向相信，人类的智慧与创造力足以解决任何难题。AI 的技术风险，我也相信我们能合力化解——但前提是，得给自己留出时间和空间，把接下来这关键的一步走对。而眼下，无论是作为一个领域，还是作为整个社会，我们都没有在这么做。

此刻，我们被锁死在一场极其激烈、层层叠叠的商业与地缘政治竞赛里。这种竞争态势固然驱动了飞速的进展、加速兑现了那些惊人的好处，但前沿的推进速度，正在甩开我们对这项技术的理解。这世上没有任何人能确切知道接下来会发生什么，连专家之间都莫衷一是。当不确定性如此之大、而赌注又如此之高时，以「谨慎的乐观」向前推进，才是明智而正确的策略。 这需要这样一种公共政策：它既鼓励创新，又激励人们担起责任、守住安全；它在关键的安全议题上促成国际协作；它也鼓励人们审慎地思考——AI 究竟该如何部署，才能真正造福社会。

为前沿 AI 设一个「标准机构」

我们在 AI 上看到的这种飞速进展，要求我们用一种新办法去测试前沿 AI 模型的能力——一种动态的、可适应的、严谨的办法。以美国的经济和技术地位，它很适合迈出建立这样一套框架的第一步。它可以设立一个新的标准机构（Standards Body），仿照那种由联邦监督的公私合营组织、或行业自律组织来搭建——很像金融业监管局（FINRA）——其理事会里应当包含独立的顶尖技术专家、以及开源界的代表。这个机构的资金需要相当充裕，且很可能大部分来自产业界，这样才能吸引到世界一流的技术人才、并为大规模测试提供必要的算力资源。

这个标准机构将负责制定评估协议，并与相应的联邦机构、以及美国国家实验室（National Labs）合作，在与国家安全相关的领域展开测试。一个模型若在标准机构设定的一组基准（benchmark）上跨过了某些门槛，就会被认定为「前沿级」（Frontier-class）——这组基准会定期更新，以跟上 AI 能力的演进。而按这些基准被认定为「前沿模型」的机构，则会被称为「前沿实验室」（Frontier Labs），并被鼓励采纳一系列最佳实践，比如：发布载有技术细节的模型卡（model card）、保持强健的内部网络安全、审查关键岗位人员、为安全与安保研究提供充足资源，等等。

仿 FINRA 的机制：起步自愿、成熟后强制；对任何国家、任何组织、开源闭源一视同仁，非前沿模型豁免

起步阶段，前沿实验室会自愿在模型发布前最多 30 天，把模型交给标准机构评审。一旦这套评估协议被证明有效、稳健，正式化很快就能跟上——也就是说，前沿模型将必须通过这套评估，才能部署到美国市场。实验室还会与标准机构合作，处理任何在发布后发现的关键漏洞。

模型评估应当包含对若干高风险领域的严谨科学评测：网络安全、生物威胁、以及其他高风险领域的能力。针对 agentic AI 的专项测试，则可以去检查它有没有试图绕过安全护栏、有没有欺骗的迹象，并确保一些最佳实践落地——比如给 AI 生成的图像打上数字水印、以及让模型产出人能读懂的输出 token，好让我们理解它的推理过程。

这些评测会定期更新——起步阶段大概每季度一次——把过时的、或已经被刷到饱和的基准淘汰替换掉。一开始，这些评测会与前沿实验室协商制定；但最终，标准机构应当建立起自己的技术能力，独立于各实验室去打造它自己的 held-out 测试（留存测试），以防止模型被「过拟合」到测试上。它还可以与美国政府合作，培育一个由第三方审计方组成的生态，来协助评估、以及协助开发新的基准与评测。

把「国家 / 前沿模型」缩小成「你的一个 agent」，这套评测逻辑一个字都不用改

这套办法的强项在于：它以技术为核心，同时又支持创新、激励负责任的行为。它被设计成能跟上这个领域的加速度、并在最大的那些风险被识别出来时随之调整；如果形势的严峻程度有需要，它还能进一步收紧力度——包括在必要时，协调各前沿实验室一起放慢开发速度。「前沿实验室」这个身份会带来相当的声望，且对任何组织开放——只要你造出的模型达到基准标准即可。这套框架可以适用于任何前沿级模型，不论其来自哪个国家、也不论它是开源还是闭源；但任何非前沿的模型——比如来自创业公司或学术界的——都可以豁免于这套流程。

这项由美国发起的努力，将为「就前沿 AI 建立共享的国际标准」提供一个强有力的起点。既然这项技术终将影响整个地球，那么理想情况下，这套框架能推动国际社会就「如何管理最严重的风险」达成共识，同时确保每一个人都能接触到、并受益于 AI 带来的机遇。

未来尚未写就

AGI 有潜力成为推进科学与医学的终极工具，也能驱动巨大的生产率提升与经济增长。但要做到这一点，我们得先把技术地基打对：围绕一套共享的全球框架协同起来，用最严谨的科学方法，把最聪明的头脑聚到一起，去攻克我们面前的挑战。

就算我们解决了这些棘手的技术难题，前面还有更复杂的经济与哲学问题要面对：在一个「后稀缺」（post-scarcity）的世界里，我们需要什么样的新经济模式，才能让每个人都活得好？我们想按什么样的价值观生活？意义与目的将会是什么？甚至连「人之为人」这件事本身，又会如何改变？解决这些问题，显然不能、也不应该只交给技术专家。它需要社会的每一个部分走到一起，共同定义这一新篇章。

围绕 AI，既有巨大的振奋，也有巨大的不确定——两者都不为过。但未来尚未写就。在 AGI 到来之前，我们必须用好这扇珍贵的窗口，把这项技术塑造成造福全人类的样子。我们此刻共同做的事，将决定文明的下一个阶段如何展开。只要我们安全地把 AGI 引领入世，我们就能进入一个科学发现与进步的新黄金时代，迎来一个人类空前繁荣的光明未来。

---

原文：Demis Hassabis,《A Framework for Frontier AI and the Dawning of a New Age》（2026-07-14）｜中文翻译、重排、原创配图：Yaqin Hei（非原创，已保留原文出处）