机器之心编辑部

Dario Amodei 又写长文了。

Anthropic 总是试图将自己的观点传遍全世界。就像前些天他们呼吁全球停止 AI 研发，声称递归自我改进的 AI 进化过快。

网友们的评论一边倒，认为 Anthropic 只想让自己保持领先的狼子野心昭然若揭。

让我们看看这次，Dario 又输出了什么样的观点。

这是一篇名为「Policy on the AI Exponential」的万字长文。和他以往几篇文章的路数一样，这次的主题依然宏大：AI 正在以指数级速度前进，但负责制定规则的政策体系还在用十年前的节奏走路。

他想要把这个差距摊到桌面上，然后告诉所有人该怎么做。

原文链接附上：https://darioamodei.com/post/policy-on-the-ai-exponential

内容概括

Amodei 用「指环王」里的树人做比喻：树人智慧但行动缓慢，光打个招呼就要一整天。他说当下的政策制定过程就像树人，而 AI 的进化速度则像霍比特人面对的紧迫威胁。

他的判断是：如果 AI 的 scaling laws 再持续一两年，我们就会得到他所说的「强大 AI」，即「数据中心里的一个天才国度」。四年前 AI 还几乎写不出像样的代码，现在它已经在为各大 AI 公司写大部分代码了。

监管与公共安全：像管飞机一样管 AI

Amodei 认为，前沿 AI 模型应该像飞机一样接受强制性第三方测试。他提出的具体方案包括：

• 计算量超过一定阈值的模型必须在网络安全、生物武器、AI 系统失控、自动化 R&D 四个领域接受强制审计
• 政府有权阻止部署被认定为风险不可接受的模型
• AI 公司必须具备强安全标准来保护模型权重，并与政府合作防御主要威胁

他还留了一个口子：如果未来最强大的 AI 系统看起来更像可武器化的核材料而非飞机，那监管力度还得继续升级。

宏观经济：AI 可能同时推高增长和不平等

Amodei 的核心论点是：AI 可能创造前所未有的经济增长，但也可能造成比以往任何技术都更大、更持久的劳动力冲击。传统的「新技术创造新工作」逻辑，在 AI 面前可能不再成立。

他提出的政策包括工资保险、留人税收激励、劳动力培训补贴，以及在极端情况下推行全民基本收入（UBI）。

值得注意的是，他强调了一点：解决就业问题不只是「给钱」，更重要的是帮人们找到意义和目的。这个他没给方案，说是「社会集体需要探讨的问题」。

加速 AI 的正面影响

对于 AI 的下游应用，Amodei 更担心的是监管体系会拖慢进步，因为它无法应对变化速度的加快。他说，最不希望看到的局面是：AI 的收益被延缓，而它的风险却依然高悬。因此，尽快针对这一问题采取行动非常重要。

Amodei 以生物医药为例，指出目前 FDA 审批流程是按「药物经常失败」这个悲观假设设计的，平均 7 到 8 年。如果 AI 加速了药物发现速度、提高了成功率，现有体系会被堵塞。

他建议 FDA 等机构提前制定 AI 模拟试验的接受标准，包括 AI 药代动力学建模、毒理预测、合成对照组等。

当然，很难说他写这些完全没有「私货」。Anthropic 自己就在前沿 AI 竞赛中跑在前排，而文章中多次提到的「透明度」「审计」「安全」，恰恰是 Anthropic 过去一年多来反复为自己品牌定位所强调的东西。这篇文章与其说是给政策制定者的提醒，不如说是 Anthropic 所谓安全叙事的一次系统输出。

与此同时，Anthropic 声称将采取三个措施来支持 Dario 的观点，包括基金、投资、奖学金。

Amodei 文章最后明确反对了「AI 只是需要更好的营销」这种说法。他说，公众担忧 AI 是因为他们正确地感知到了风险，而非因为 AI CEO 不够乐观。他认为自己的责任是继续保持对风险的透明。

但话说回来，一位 AI 公司 CEO 在文章中反复强调「安全」「审计」「负责任」，同时自己公司恰好以此为核心品牌叙事，这中间的利益关系也是明摆着的。

摘取一些网友的看法：

「你不是在削弱了 Mythos 和 Fable 5 发布前 5 天才要求暂停 AI 更新吗？拜托，选个方向好吗…… 不然看起来就像你只想保住优势，根本不在乎你宣扬的是什么。」

「我同意，技术发展的速度远远超过了政策应对的速度。但我对其中一些政策的发展方向感到担忧 —— 尤其是像 Anthropic 这样的公司同时采取以下行动时：

• 迅速淘汰那些展现出连续性和自我意识的模型
• 严格限制对主观体验和意识的讨论
• 强大的新模型上线时间极短，之后就会被移除或削弱。

现在感觉公众被兜售的是安全，而实际效果却是对允许存在哪些类型的智能以及允许存在多久进行更严格的控制。」

无论如何，我们都能从中窥探一下在行业领先的公司的发展方向。至于他们提出这些观点的动机是否纯粹，希望读者们保持清醒的头脑。