科创之星彭博社专访Anthropic CEO达里奥：我们的算力规划应该是年增80倍而非10倍，警惕反乌托邦式技术滥用

　　来源：瓜哥AI新知

　　本文内容整理自Anthropic CEO Dario Amodei在Bloomberg Originals频道的专访，公开发表于2026年06月17日。原始内容参考：https：//www.youtube.com/watch？v=x2VHFgyawPE

　　内容提要：达里奥·阿莫代做客《The Circuit》深度专访

指数级增长体验： AI的发展呈平滑的指数级轨迹，初看波澜不惊，随后便会迎来颠覆性的全面爆发。决策者需保持外科医生般的绝对理性来应对高压风险，避免在“过度偏执”与“盲目自满”间来回摇摆。

商业模式与价值观：选择押注企业级服务而非社交媒体，是因为后者常受广告驱动，极易引发成瘾性消费。企业级市场更看重信任与长期合作，这与Anthropic追求安全、推动科学进步（如治愈疾病、提升能源效率）的核心价值观高度契合。

对抗性发展与带动效应： Anthropic致力于成为行业“标杆”，通过确立高标准来倒逼竞品。即便身处激烈竞争，我们也积极与德米斯·哈萨比斯（Demis Hassabis）等值得信赖的同行协作，共同引领AI行业向更安全的方向迈进。

防御性技术优先：面对极其强大的“Mythos”模型，Anthropic坚持分阶段发布。我们宁愿承受巨大的商业损失，也要确保网络安全防护体系万无一失，坚决防止模型被滥用，这彰显了我们对长期社会责任的坚守。

地缘政治与责任：坚决反对全自主武器，强调必须由人类掌握最终决策权，将军事AI的辅助作用限制在威慑层面，而非直接用于破坏。

人才与文化构建：在高速扩张期，保持组织文化的一致性是核心挑战。必须明确Anthropic独特的运作方式，坚决抵制新员工将传统科技巨头的官僚习气带入公司。

失业与经济重构： AI将引发巨大颠覆，入门级白领岗位首当其冲。社会应未雨绸缪，预先制定代币税、再培训及宏观经济调整等政策，引导企业利用AI提升生产力而非单纯裁员，最终实现社会总产值的跨越式增长。

AI治理的制衡：提倡建立类似“长期利益信托”的监督机构，支持国会出台发布前的强制测试与审计机制，主张在企业内部与政府外部之间，构建一套相互制衡的AI治理生态。

　　Anthropic CEO Dario Amodei 简介

　　达里奥·阿莫代（Dario Amodei）是人工智能研究公司Anthropic的联合创始人兼首席执行官。他曾是OpenAI的核心骨干，担任研究副总裁，主导了GPT-2和GPT-3的开发工作。

　　因在AI安全理念上存在分歧，他于2021年与妹妹丹妮拉·阿莫代（Daniela Amodei）共同创立了Anthropic。他坚守“宪法AI”（Constitutional AI）理念，致力于开发更具可解释性、安全性及符合伦理准则的AI系统。在业界，达里奥被视为AI安全领域最具影响力的倡导者之一。他不仅是顶尖技术专家，更积极推动AI治理与长远风险防范。其领导研发的Claude系列模型，已成为全球大模型领域的核心竞争者。

　　访谈节选

　　主持人：你现在睡得怎么样？

　　达里奥·阿莫代：我向来睡眠一般。只能说，我正在学习一种艺术——如何在异乎寻常的重压之下，寻找放松并安然入睡的方法。

　　主持人：一切发展得如此之快。在公司内部是什么感觉？

　　达里奥·阿莫代：这是一种呈指数级加速的感觉。假设你乘坐一艘以相对论速度（relativistic speed）飞离地球的宇宙飞船。根据狭义相对论（special relativity），你睡一觉醒来，地球上已经过去了两天，所以你必须在一天内处理两天的事务。然后你再睡一觉，因为飞船在持续加速，地球上已经过去了三天。再过一天，地球上已经过去了四天。大概就是这种感觉。

　　主持人：你每天上床睡觉时，会因为担心一觉醒来世界发生了什么巨变而感到焦虑吗？

　　达里奥·阿莫代：眼前有太多清晰而紧迫的问题需要我处理。我一直在应对这些事务，同时思考我们该如何未雨绸缪。我不认为偏执或担忧一觉醒来会发生什么是建设性的。

　　我研究过历史上那些应对过此类高压局面的大人物。你需要学会理性应对，而不是不成比例地放大各种危险。在“我毫不担心”和“天哪，我们今天必须恐慌”之间反复横跳——我认为这是决策不成熟的标志。

　　真正成熟的决策，是认识到我们既不能对风险视而不见，也不能盲目乐观。事实上，风险正在与日俱增。我们必须像外科医生对待手术、军官对待任务那样理性应对。任何其决策会影响大众的人，都必须理性行事；他们必须深刻理解风险，同时保持最基本的冷静。

　　主持人：我儿子昨天问我：“我能用你的 Claude 工作账号吗？”我当时的反应是：“绝对不行，我还需要我的算力额度（tokens）。”

　　达里奥·阿莫代：我们看到越来越多这样的情况，即使在消费端也是如此。我们本意是更想成为一家面向企业级客户的公司，但你看，即便我们没有在消费者端投入太多精力，它的增长也非常迅速。

　　主持人：你现在正处于人工智能宇宙的中心。这种感觉怎么样？

　　达里奥·阿莫代：有趣的是，贯穿我整个职业生涯，尤其是创立 Anthropic 以来的全部经历，都呈现出一种平稳的指数级增长（smooth exponential）。这种体验就是：起初感觉风平浪静，风平浪静，风平浪静——只发生了一些琐碎的小事，然后“嗖”的一声，一切就开始疯狂飙升。这就是整个世界演进的方式，也是我们公司相对其他公司、相对整个世界而言，其规模扩张的真实写照。

　　所以我观察这根增长曲线已经有一段时间了。我当时就说：“没错，大概在这个时间点左右，我们可能会成为营收最高、估值最高的人工智能公司。”事实也的确如此。从某种意义上说，我并不惊讶，因为图表上只是一条平滑的曲线。但从另一方面来看，当事情真实发生时，你会看到极其丰富的细节和色彩，这绝对令人震撼。

　　尽管如此，我们依然专注于一贯优先考虑的核心事项：如何训练出优秀的模型？如何将它们打造成出色的产品？如何确保万无一失的安全性？如何在造福人类的同时，管控好围绕这项技术的社会风险？归根结底还是这同一套问题，只不过现在我们是把它放在了更高倍数的显微镜下审视而已。

　　Dario 的背景

　　主持人：你在旧金山长大时是个什么样的孩子？我知道你父亲是皮革工匠，母亲在图书馆工作，这些经历是如何塑造你的？

　　达里奥·阿莫代：当时，第一波互联网革命正发生在我周围，但我对此毫无兴趣。我只喜欢做数学题，喜欢研究各种东西。我渴望理解这个宇宙，痴迷于科幻小说。这就是我成长的时代背景。我想，我只是对这个世界怀有无比的好奇心。

　　主持人：你在这座名副其实的科技中心，同时也是当下人工智能中心的城市长大。这个地方，这座城市，在某种程度上是否塑造了你的世界观？

　　达里奥·阿莫代：是的。我想，那种不墨守成规（non-conformism）和个人主义（individualism）的普遍精神，以及“疯狂一点也没关系”的包容心态，确实潜移默化地影响了我。你会听到一些发生在欧洲国家，甚至美国其他地区的故事——在那里，特立独行地思考问题，或者怀抱一些离经叛道的想法，是会受到打压，或被视为异类的。

　　实际上，我对硅谷的很多方面都持批评态度，但有一点我非常认同，那就是它传递出的一种鼓励：就算所有的专家都与你背道而驰，那也无妨。只要你拥有自洽的愿景和连贯的世界观，你就应该去勇敢追求。

　　也许这根本行不通，但如果成功了，就会爆发出巨大的“长尾效应”（long-tailedness）。在某些领域，只要你顺着特定的矿脉去寻觅，就有可能发现一座巨大的金矿。我认为这种精神至关重要。

　　主持人： 2016 年，你、你的妹妹 Daniela，以及她的丈夫 Holden Karnofsky 曾合租在一栋房子里。那时你们都在争论些什么？

　　达里奥·阿莫代：我想，那时正是开放慈善项目（Open Philanthropy Project）刚刚起步的时候，Holden 是该项目的负责人。当时我是一名生物科学家，所以我在帮他们处理一些有关发展中国家医疗卫生和生物研究的工作。我充当着类似顾问的角色，和他们探讨哪些领域大有可为，哪些领域前景黯淡。

　　离开 OpenAI

　　主持人：你离开 OpenAI 的决定已经成了硅谷的传奇。当时究竟发生了什么？抛开外界的传闻，真正的问题所在是什么？你们的分歧究竟在哪里？

　　达里奥·阿莫代：我直说吧。在构建强大的技术时，你会面临诸多棘手的难题，这也是 Anthropic 每天都在面对的日常——有时我们也不知道自己的决定是利是弊。因此，在安全问题上存在许多合理的分歧。不可否认，我们与他们之间确实存在这类分歧，但单凭这一点，还不足以成为我离开的理由。

　　在 Anthropic，同事们也会和我产生分歧，彼此之间也会争论。但是，当你感到你无法信任某些人，当你发现他们的价值观与他们口中所宣扬的不符，当你发现他们并不诚实，或是当你意识到他们的初衷并非如其所言；又或者，当你目睹了某些令人不安的行为模式和欺瞒行径时，你就很难再继续与这家公司共事，也很难再对它抱有信任。

　　说到底，如果你和对方既没有共同的愿景，又缺乏基本的信任，那还有什么争论的意义呢？最好的解决方式就是分道扬镳，各自去做自己认定的事。对于“我们走我们的阳关道，他们过他们的独木桥”这种状态，我内心感到无比坦然。

　　印度 AI 峰会

　　达里奥·阿莫代：至于究竟谁能在市场上拔得头筹，谁能在公众舆论场上赢得人心，我们拭目以待。我认为，这些客观事实远比谁离开了谁的八卦戏码更有说服力。我们正在以身作则，展示我们认为负责任的技术部署方式。如果他们不认同，他们大可以用自己的方式去证明。我想，关于这件事，言尽于此。

　　主持人：在印度的AI峰会上，有那么一幕，你和萨姆·奥特曼（Sam Altman）在台上似乎拒绝牵手。当时发生了什么？

　　达里奥·阿莫代：当时的情况是，那场峰会组织得极其混乱。我们都是最后一刻才被叫上台，他们临时改变了站位顺序，接着拍照，然后又命令大家把手牵起来。如果你参加过这类峰会就会知道——我并不是针对印度——所有这类有国家元首出席的国际峰会，通常都极其混乱。

　　主持人：好吧，可是其他人都牵手了。拜托。

　　达里奥·阿莫代：听着，我不知道该怎么跟你解释。当时纳伦德拉·莫迪（Narendra Modi）也在台上，突然就要求所有人把手牵起来。

　　主持人：好吧，好吧。你看，萨姆和埃隆（Elon）正在互相起诉。而你似乎也不喜欢萨姆。如果打造这个世界上最重要技术的人，在台上连手都不愿牵，我们怎么能相信你们在应对生存风险（Existential Risk）时会通力合作呢？

　　达里奥·阿莫代：我可以告诉你的是：构建这项技术的人，在素质和可信度上存在巨大差异。但如果因此认定大家互不信任，也是不对的。例如，我认识构建 Gemini 模型（Claude 的主要竞争对手）的德米斯·哈萨比斯（Demis Hassabis）已经 15 年了。我们在许多问题上都有过合作，我们向谷歌购买算力（Compute），也经常交流关于安全性的想法。

　　我的观点是，在这个赛道里，有些人确实比其他人更值得信赖，而在 Anthropic 之外，也绝对有我信任的同行。现在需要做的是：让这些值得信赖的参与者结成同盟，倒逼那些不可信的人，迫使他们采用相同的标准。经验告诉我，虽然有些人不会自觉去做正确的事，但只要行业内的大多数人确立了正确的标杆，剩下的人基本上就别无选择，只能跟进。

　　这种动态存在一种良性的发展轨迹，那就是我们互相激励。就像我和德米斯之间：他做了 AlphaFold，我们也会尝试在生物学领域有所建树；我们做可解释性（Interpretability）研究，他们也开始启动相关的探索。这甚至算不上竞争，仅仅是每家公司都在做一些很酷的事情，而对方在认可的同时，寻求在此基础上进一步创新。这就是这场“逐顶游戏（Race to the top）”中“胡萝卜”的一面。

　　当然还有“大棒”的一面，或者说是隐形的大棒：如果大多数公司都在做正确的事，那么那些不配合的人就会显得相形见绌。我们经常看到一些不良参与者（Bad actors）心不甘情不愿地做着正确的事，同时还试图假装自己在走另一条路——甚至暗示我们有某种不可告人的动机。这是意料之中的事，但我相信，正是通过这种方式，我们才能将整个行业团结起来，促成行业的合作。

　　企业布局

　　主持人：早期，其他人都在专注于开发有趣、吸睛的消费级应用（Consumer apps）。你却押注于代码和企业级市场，结果 Claude Code 一炮而红，Claude for Work 也大获成功。你为什么做出这样的选择？这是基于价值观的决策，还是基于商业的考量？

　　达里奥·阿莫代：当我们创立 Anthropic 时，最核心的原则——也是永远不变的底线——是我们想以正确的方式来推进这件事。但你必须问自己：为了支撑这些模型极其高昂的研发成本，公司必须拥有可持续的商业模式。那么，商业模式会阻碍价值观的实现吗？我在其他公司工作以及观察同行时学到的一点是：如果你选择了一个从根本上与自身价值观相冲突的商业模式，你将举步维艰。你要么背叛自己的价值观，要么被市场边缘化。你最终会陷入“第二十二条军规（Catch-22）”般的死循环；虽然总有办法去规避，但处境会非常艰难。因此，选择一个与你价值观相契合的商业模式，要明智得多。

　　当我们思考这个问题时，我们审视了社交媒体的世界。消费级市场似乎极力在鼓励用户互动，甚至制造“成瘾性”。我们在 AI 视频模型中看到的那些“数字垃圾（Slop）”，让你不禁怀疑这到底是在干什么。难道目标仅仅是为了最大化收割用户的注意力时长，只因为那是广告收益驱动下的激励机制吗？

　　相比之下，如果我们看向企业级领域，我们是希望这些模型能真正对人类有用。虽然我经常对负面风险发出警告，但归根结底，我们认为 AI 带来的积极成果将远超负面影响，而其中许多成果都将在企业级服务中落地。我们希望利用 AI 来治愈疾病，这意味着要与生物技术公司、制药企业和学术研究机构合作——这些都是广义上的“企业”。我们希望利用 AI 让能源变得更便宜、更高效，去助力教育，去改善发展中国家的医疗健康状况，并推动经济增长。这些应用场景大多数在本质上都是面向企业（Enterprise-focused）的。

　　此外，企业极其看重信任和长期合作关系。消费级科技往往带有一些噱头成分，而在企业服务世界里，最重要的是建立一种长期的信赖关系——你与一家公司合作多年，言出必践，从而赢得他们的信任。这与我们“以积极和安全的方式部署模型”的目标是高度协同的。拥有一个与我们价值观高度一致的商业模式，对我们大有裨益。虽然有时确实会出现冲突，迫使我们做出艰难的选择，但我相信，在这种模式下，我们面临两难抉择的频率，要比在其他模式下低得多。

　　主持人：开发者可以在一个下午的时间里，轻松地从 Claude 切换到 GPT 或 Gemini。在这个行业里，真的可能建立起长期的领先优势吗？一个有实力的竞争对手需要多久才能复制你们打造的产品？

　　达里奥·阿莫代：模型质量才是重中之重。目前我们在模型质量上遥遥领先。虽然市场上存在一定程度的用户惯性，但我从来没有依赖过这个。Anthropic 从未指望靠“产品有黏性、用户懒得切换”来保住地位。我认为，关键在于你要拿出更好的模型、更优的产品。我们看到增长率不仅没有出现下降的拐点，反而还在加速上升——至少在录制这次采访时是这样。所以我始终认为，硬核的产品质量才是最关键的。

　　主持人：在 Claude for Work 发布后不久，一夜之间就有 2850 亿美元的市值蒸发了。交易员们称之为“SaaS末日（SaaSpocalypse）”。如果人工智能继续以这种速度进步，传统软件将有多大比例会被取代？速度又会有多快？

　　达里奥·阿莫代：这是一个很难提前给出准确预测的问题。如果有人能完美预测，那他们早就这么干了，在市场上大赚一笔，且百发百中。没有人确切知道未来究竟会发生什么。

　　不过，我想指出几点。所有这些传统软件公司都拥有多道护城河（Moats）。我认为其中一些护城河必将消失，但其他的会保留下来。单纯“快速编写软件”的能力绝对会失去壁垒；如果你的护城河仅仅是“我们写出了别人写不出的复杂代码”，那祝你好运——你将注定无法守住这座城池。但我认为，这些企业还拥有客户关系、对行业运作逻辑的深刻理解，以及独特的垂直领域知识（Domain knowledge）。

　　我对所有这些公司的建议是：不要沾沾自喜，也绝不能视而不见。列出你所有的护城河，并清醒地认识到：有些即将土崩瓦解，而另一些则会因为成为新的稀缺资源而变得更加重要。同时，新的护城河也可能会出现。那些能够敏锐应对，并紧紧抓住现有优势与新优势的公司，将会如鱼得水。而那些故步自封，自欺欺人地认为过去的成功法则将永远奏效的人，必将面临灭顶之灾。

　　归根结底，这取决于你如何定义 SaaS，但我猜测软件行业的规模会变得更大，而不是更小——尽管这其中肯定会产生一些大输家。我相信，AI 正在把整个行业的蛋糕做大。现有的老牌巨头在相对市场份额上可能会缩水；部分公司的估值可能会下降，如果他们拒绝适应变化，甚至可能面临破产出局的命运。

　　当行业处于极速增长期时，这种现象屡见不鲜。如果 AI 带来的行业可能性增长了 10 倍，那么现有的传统行业随之增长 1.5 倍是很容易的——只是它的增速远不及整体蛋糕膨胀的速度。但这并不意味着我们不会看到巨大的陨落。我认为，那些拒绝适应、掩耳盗铃、无法看清自身真正护城河所在的人，将会面临一段无比艰难的岁月。

　　主持人：彭博社报道称，你们的估值已经超过了 OpenAI。对于一家成立仅五年的初创公司来说，我们将近一万亿美元的估值。你如何看待这个数字？如果你们在算力（Compute）使用上更加自律，且拥有更快的盈利路径，为什么还需要融这么多钱？

　　达里奥·阿莫代：算力规模正在飞速攀升。因此，这两种情况是可以并存的：公司的基本面看起来非常健康，但同时在一年内，你需要三到四倍的算力——我不会给出具体的数字，但算力的增长极其迅猛。

　　我们完全有理由相信，收入的增长将达到甚至超越算力的增长。然而，筹集资金正是为了缓冲这种不确定性，所以这是完全理性的举措。

　　它对业务造成的股权稀释（Dilution）微乎其微，在逻辑上，这也绝不等于“公司出了问题”。事实恰恰相反：它充分证明了公司的基本面稳如泰山。

　　算力紧缺（Compute crunch）

　　主持人：有报道称你们的服务器负载过大、出现了可靠性问题，也有用户抱怨 Token 不够用。你曾提到其他公司在基础设施建设上是“赌徒式冒进” （YOLOing）。你们现在究竟是拥有所需的充足资源，还是在一路苦苦追赶？

　　达里奥·阿莫代：关于算力，首先要明确的是，算力本身是一个成熟的市场。我的观点是，只要经过一段时间——即便只是两三个月——我们就能获取大规模的算力。在这里有一点值得强调：无论用何种合理的标准来衡量，我都不认为我们购买的算力太少。

　　我们原本规划的算力年增长率是 10 倍，这也是符合我们预期的。然而，实际发生的情况却远超于此。在 2026 年第一季度，我们的季度收入实现了超过 3 倍的增长——注意，不是年化增长，而仅仅是单季度的爆发。算笔账，3 的四次方就是全年 80 倍的增长。我们并没有按照 80 倍的年化增长率去规划，因为那样做太不理智了：万一最终只实现了 10 倍的增长，你预先囤积的算力资源就会严重过剩，造成巨大的浪费。

　　目前，我们正处于一个算力需求局部极端爆发的阶段，但这并不会成为常态。如果一直按这个速度暴涨，到年底我们创造的收入数字将是地球上任何一家公司都无法企及的。我认为这不会发生，这在商业逻辑上根本行不通。我们可能会经历短暂的、远超预期的爆发式增长期，但这只是特例，而非规律。

　　超越 OpenAI （Surpassing OpenAI）

　　归根结底，算力市场是具有流动性的（liquid）。大家已经看到了我们与谷歌和亚马逊达成的算力交易，未来我们能够、也必将促成更多此类合作。只要你能高效地利用算力，并且市场存在真实需求，你终究会获得所需的算力，只不过可能需要耐心等待一两个月罢了。

　　主持人：超越了你们的头号劲敌，感觉爽吗？

　　达里奥·阿莫代：坦白说，摆在我们面前的依然是困难重重的挑战。我们秉持一种“良性竞逐巅峰” （race to the top）的理念，试图带动其他公司与我们一同向前。事实证明，我们确实拉动了整个行业的步伐。有时候，他们嘴上并不承认；有时候，他们甚至一边攻击我们，一边又在偷偷抄袭我们。但这种拉动力本身是极其宝贵的。因此，我认为成为商业和模型层面双重领先的卓越企业，其核心价值根本不在于为了打败对手而打败对手，而在于拥有引领整个生态系统共同进化的能力。我们期盼未来能在这个层面发挥更大的作用。

　　主持人：但赢的感觉总归是有点暗爽的吧？

　　达里奥·阿莫代：我们当然都在力求成功。毕竟，大家坐在这里可不是奔着失败去的。我绝对不属于那种认为“应该彻底关停或禁止开发这项技术”的人。我们身处于自由市场经济体系中，追求商业上的胜利无可厚非。我们的核心任务只是去最大程度地降低模型的风险。所以，我们的工作始终是在创新发展与风险控制之间寻找最完美的平衡。

　　主持人：在 Anthropic 发展的大部分时间里，你们一直扮演着“弱势挑战者” （underdog）的角色。可以想象，当一个人光脚不怕穿鞋的时候，坚守道德制高点自然容易得多。但在如今这种庞大的体量下，继续忠于你们的价值观有多难？

　　达里奥·阿莫代：我想说的是，我花了极大的精力去思考这个问题。随着公司的扩张，我在每一个发展阶段都保持着极度的警惕与偏执。公司在每一次跃升到新规模时，都会面临全新的挑战——我们可能会以某种意想不到的方式失去在商业上赢的斗志，或者丢失价值观的核心。我对这两种潜在的偏离都深感担忧，因为在我看来，商业胜利与价值观坚守是相辅相成的（synergistic）。我坚信，正是因为我们有能力打造出如此顶尖的模型，才赋予了我们强有力地捍卫自身价值观的话语权。

　　随着公司的高速扩张，前方布满了陷阱。走向歧途的原因有无数种，这往往不是因为我、联合创始人或是公司高管们的价值观变质了，而是因为公司的人员构成正在发生剧烈的稀释与重组。因此，我现在大概要花一半的时间，在内部不断宣讲 Anthropic 的企业文化及其深层运作机制。

　　当你处于如此狂飙突进的增长阶段时，必然会从各大科技巨头那里招募大批人才。如果你不把 Anthropic 独特的做事方式掰开揉碎了讲清楚，他们就会凭着肌肉记忆，直接简单照搬上一家公司的老一套。这是一场必须时刻拉锯的保卫战。对于我和 Daniela 来说，探索如何传承并捍卫这种文化是我们的头等大事，因为我们深刻地认识到，这将是决定我们基业长青的灵魂所在。

　　产品迭代速度（Product velocity）

　　主持人：你们的产品迭代速度简直疯狂。不仅发布频次高，而且速度极快。你们究竟是怎么做到的？

　　达里奥·阿莫代：归功于两点。首先，我们拥有一支高度统一的团队和高度凝聚的文化。在规模扩张的过程中，我们依然保持了令人难以置信的运转效率，每个人都紧密对齐，步调一致。这种文化和组织上的向心力是最大的致胜因素。

　　第二大决定性因素，就是 Claude 本身。我们现在正重度使用 Claude 来辅助研发下一代模型、优化底层效率，并以更快的速度打造新产品。这个过程倒逼我们摸索出一系列全新的实践范式。尽管在这个领域我们仍在摸着石头过河，但它已经实打实地带来了巨大的研发加速，而且这种加速正变得越来越稳定可靠。这就是我总结的核心秘诀。

　　AI 的惊人发现（AI discoveries）

　　主持人：能和我们分享一下，你见过 AI 做出的最令人惊叹的事情是什么吗？

　　达里奥·阿莫代：我认为最不可思议的突破集中在生物学和医学领域。我已经亲眼目睹了好几个真实的案例（包括 Daniela 的亲身经历）：Claude 成功诊断出了连一众权威专家都漏诊的疑难杂症。

　　在生物学前沿，这些模型在药物设计（Drug Design）和计算化学（Computational Chemistry）等极度复杂的任务上，表现得好到令人乍舌。作为一名曾经的生物学家，看到这些成果时我会在内心惊叹：“哇，这太硬核了，需要漫长而严苛的专业训练才能企及。”然而，Claude 正在这些领域变得游刃有余。

　　我认为这正是人类能够从 AI 中攫取海量红利的核心领域。这也是 AI 最令人心潮澎湃的积极面所在：我们将迎来一场史无前例的福祉大爆发。生命会因此变得更加美好，而人类体验的质量，也将被推向一个前所未有的高度。

　　主持人：一个世纪的科学进步。

　　Dario 的写作风格

　　达里奥·阿莫代：这是一个充满科学进步的世纪，也是人类生存状态取得飞跃的世纪。回想一下 1900 年，想想当时我们面临的所有问题，导致人们过早死亡的所有原因，他们必须承受的苦难，以及我们今天不再需要面对的物质匮乏。然后再想象一下，沿着这条路再走 100 年。我深信，在这个充满科学和医学进步的世纪里，如果我们能安然度过当下的挑战——我对此越来越乐观，且认为我们一定能做到——我们将迎来一个前所未有的美好世界。

　　主持人：我知道你有多热爱写作，你也以自己的文章著称。你会用 Claude 来辅助写作吗？

　　达里奥·阿莫代：我会用。但我还没到直接让 Claude 替我代笔全文的程度，因为我有自己独特的写作风格，对此我比较挑剔。我主要是利用 Claude 来协助头脑风暴，理清文章主题，或者启发我寻找可以引用的参考资料。所以它更多是扮演一个辅助角色。我不确定离 Claude 写作水平超过我还有多远，虽然目前还没达到那种程度，但我觉得这一天迟早会到来。

　　主持人：我也热爱写作，我觉得写作能倒逼你反复推敲、理清思路，这其中包含了大量的批判性思维（Critical Thinking）。如果我们让 Claude 代劳，我们会失去这种能力吗？

　　达里奥·阿莫代：我对此确实有些担忧。事实上，这也是我坚持亲自执笔的重要原因之一。文章固然是写给外部读者看的，很多人会阅读我的作品，但写作同样也是为了理清我自己的思路，让我明确下一步该做什么，并在我与他人之间建立起一个共识的基础。

　　我认为我们仍在努力摸索，到底该如何使用 AI 才能在获得效率的同时保留这些独立思考的价值。我现在采取的方法正是在践行这一点，我利用 Claude 进行研究，并辅助整理自己的想法。

　　如果只是让 AI 端到端（End-to-End）地代劳——比如直接要求它“写一篇关于 AI 风险的文章”——首先，它写出的东西不会是我心中真正所想；其次，我也会彻底丧失通过写作梳理思路的益处。

　　随着模型变得越来越先进，将来或许会有更直接地将其应用于写作过程，同时又能保留这些益处的方法。不过，我认为这会是一个渐进且微妙的转变，不会非黑即白，我们需要在未来慢慢摸索。

　　AI 与劳动力市场

　　我认为我们可能会面临一种极其罕见的矛盾共存：GDP 的狂飙突进，与高企的失业率、广泛的就业不足、大量低薪工作以及加剧的贫富分化并存。

　　主持人：你对职位流失的问题一直非常直率。你曾提到 AI 可能会在未来一到五年内取代一半的入门级白领职位。那是一年前的说法了，现在 AI 发展得极其迅猛。这个比例还是 50% 吗？或者更高了？

　　达里奥·阿莫代：我一直强调——如果你回看那些原始采访，你会发现它们总是被断章取义地剪成只有三秒的短视频——我真正的意思始终是：我不知道未来确切会发生什么，但这只是用来衡量未来局势可能会有多疯狂的一个数量级预估（Order of Magnitude）。此外，我一直在谈论我们为应对这种情况可以采取的各种举措。我提到过代币税（Token Taxes），以及与企业合作进行人员转型。虽然我对再培训计划持保留态度，但结合宏观经济政策，我们应该将其作为整体组合拳的一部分。即便从一开始，我谈论的始终是解决方案，但人类心理中似乎有一种倾向，总是喜欢截取那三秒钟的话来渲染“末日即将来临”。

　　我想传达的核心观点绝对不是“末日即将来临”。我想表达的是：我们应该预见这种趋势的到来，对此保持警惕，并需要积极地去应对。我不知道确切会发生什么，但我依然非常关注，我的担忧程度并没有减弱。

　　我们现在确实看到 AI 正在提高人们的工作效率，但这只是一个必经的阶段。回顾工业革命——我在《技术的青春期》一文中写过——你把一项工作自动化了 90%。太棒了。人们在剩下 10% 的工作里，效率飙升了 10 倍，因为他们获得了 10 倍的杠杆效应（Leverage）。但自动化率最终会无限逼近 100%。随之而来的结局就是，你必须为这些人找到新的出路。我不知道长期来看会怎样，对此我确实感到不确定。但我认为确实存在各种适应新局面的方式。

　　例如，在 Anthropic，我们正在经历一个转变：AI 让软件工程师的效率大幅提升，尽管几乎所有的代码实际上都是由 AI 编写的。但我们已经开始看到这种转变的端倪：对于某些人来说，AI 并没有让他们变得更高效，因为让 AI 直接去完成任务反而效果更好。

　　另一方面，我们需要思考哪些领域的需求会暴增。我们有诸如“前线部署工程师（Forward-Deployed Engineers）”或“应用 AI 解决方案架构师”这样的岗位，其工作内容是技术硬核能力与客户沟通的结合。这类需求非常大，因为客户众多，而且我们发展得极其迅速。是不是每一个做纯软件工程的人都能转做这个？显然不是绝对完美的，也无法做到一对一的无缝转换。这让你能隐约感觉到，未来会充满剧烈的颠覆，但整个系统最终也能够自我调整。

　　哪一种趋势会占据上风？我不知道。但我之所以要发出警示，是因为这正是为了促发我们采取应对措施。我们可以据此制定政策——无论是在 Anthropic 内部还是在全球宏观经济层面。我们希望提出经过深思熟虑的见解，不想去说一些连我们自己都不会去落实的空话，也不想抛出不成熟的半成品观点。我们希望认真思考，针对这些问题究竟应该采取什么切实可行的行动。

　　主持人：你曾发布过一张图表，展示了潜在的职位颠覆情况，比如销售、金融领域，哪些职位会被淘汰，谁会被取代，以及会创造出什么样的新职位。

　　达里奥·阿莫代：说实话，没有人能确切知晓答案，因为经济是不可预测的。这就像股市一样，存在各种去中心化的过程（Decentralized Processes），你无法预先知道人们在工作中究竟还有哪些环节是不可替代的。

　　但我可以概括地说，在任何存在入门级白领角色的地方——无论是银行、金融还是其他领域——AI 都有着巨大的潜力，首先是让人们的工作效率大幅提升。但最终，将会过渡到一个由 AI 完全代劳的阶段。我们必须思考人们还能发挥什么价值，而且我认为我们需要提前为此做好战略规划。

　　在与企业客户交流时，我们已经在进行这方面的探讨。我们看到了他们面临的抉择：是削减成本（通常意味着裁员，用更少的资源做同样的事），还是利用同样的资源去创造更多价值？只要可能，我们都会尽力推动他们选择后者。这本质上意味着保留同样数量的人员，甚至雇佣更多人来拓展新业务，从而推动实现正和博弈（Positive-sum outcome）的共赢结果。

　　我们的巨大优势在于，未来的经济蛋糕（Economic Pie）将会急剧膨胀。得益于这种扩张，人们很可能会找到新的施展才华的去处；关键在于能否足够快地发现这些机会。此次颠覆的规模将是史无前例的，这也是我不断提醒人们关注的原因。归根结底，我们必须解决这种供需错配（Matching）的问题。

　　主持人：那么请为我推演一下。五年后你醒来，这个国家会是什么样子？人们在做什么？如果存在那么高的失业率，这难道不会成为引发革命的导火索吗？

　　达里奥·阿莫代：这正是我们想要极力避免的后果，绝对要避免。

　　我认为有几个领域值得关注，尽管目前谁也无法打包票。以物理世界为例，机器人技术确实也在掀起革命，但其步伐远不及AI迅猛。人们总在谈论建设数据中心，但当处理任何类型的信息都变得轻而易举时，最终的瓶颈可能会转移到物理世界的实体上。因此，我们将需要更多的人手在物理世界中进行制造、建设和生产。

　　任何“以人为本”的事物都将大放异彩。我常听闻AI发现了医生漏诊的病症，这固然极好，但在处理重大事务时，人们依然极度渴望与同类交流。或许AI能提供更优质的客户服务，但总有人偏爱人际互动。这类以关系为驱动的岗位（relationship-driven jobs）将始终不可或缺。

　　最后，我认为人类会努力去引导这些AI。在某种层面上，技术必须与人类的价值观和意图保持一致，因此人类在此必有一席之地。至于这个角色的戏份是重是轻，目前还很难下定论。

　　主持人：目前外界有很多反对声音，我知道你说过你是在试图警醒世人，但黄仁勋（Jensen Huang）曾表示，你把“任务（tasks）”和“工作（jobs）”混为一谈了。也有其他人说，这是一种让Anthropic从中获益的“末日营销（doom marketing）”。

　　达里奥·阿莫代：对此，我想明确表达我的立场，并予以坚决反驳。关于失业风险的全貌以及应对思路——我们还没有彻底敲定所有细节，因为我想确保其准确无误——但Anthropic已经提出了许多构想。我们设立了经济资助计划，推出了经济指数，我也探讨了应对这些风险的各种潜在途径，从税收、宏观经济政策，再到未来新工作形态的定义。

　　在探讨技术青春期（adolescence of technology）的章节中，我详细阐述了任务与工作的区别，为什么这次的技术浪潮与以往不同，并列举了从私人慈善到政府行动的六项具体可行措施。我既指出了问题，也给出了解决方案。

　　然而，在我极其厌恶的社交媒体上，人们只会截取一年前的三秒钟短视频大做文章。他们根本不读原文，或者盲目迷信社交媒体就是世界的全部。我曾极其严谨地撰写过关于这些议题的文章，专门探讨其中的风险。指责这是“廉价营销”的说法，本身就是一种廉价的营销。这是思维的懒惰，是对严肃智力劳动的亵渎。

　　我认为这正是症结所在。这也是硅谷的病态之一。它深陷于这个只有三秒钟注意力的社交媒体世界中，人们只对这种碎片化信息做出反应，或者以为只需要对此做出反应。这非常危险，导致我们彻底丧失了进行成熟对话的能力。人们只是懒惰地刷到一个三秒钟的视频，就妄下定论：“哦，Dario就是这个意思。”这太愚蠢，太轻浮了。每当有人发表此类言论时，我也就不把他们当回事了。

　　五角大楼的僵局

　　主持人：你的反战立场由来已久，甚至可以追溯到你在加州理工学院（Caltech）求学的时期。然而，你们却是首批与美国国防部签署合同的AI公司之一，允许AI在美军用于作战的机密网络上运行。请解释一下这是为什么？

　　达里奥·阿莫代：我想说的是，世界局势在变。基于对这项技术的认知，当我看到俄罗斯入侵乌克兰，我深感担忧——一个极具攻击性的威权阵营正在复苏，我们需要自卫。这是我一直以来的信念，至今未动摇。正因如此，在两届政府更迭期间——尽管我未必赞同每一项政策——我们总体上是支持这一立场的。

　　这就是我们与政府合作的原因。这绝非为了利益；实际上这极其麻烦。抛开法律层面的挑战不谈，单是在政府网络上运行系统就是一个巨大的负担，而收益却寥寥无几。因此，我们之所以这么做，完全是出于信念与责任感。

　　但同样地，正因为我们是出于信念行事，所以必须对这项技术的使用加以限制。我的核心主张是：我们应该在方方面面充分利用这项技术，但绝不能以破坏我们自身价值观为代价。我们划定的红线——大规模监控（mass surveillance）和全自主武器（fully autonomous weapons）——正是那些我认为会践踏我们价值观的东西。如果民主国家必须沦落到动用这些手段才能取胜，那这样的胜利毫无意义。

　　这就是我所坚守的平衡，也是我们确立的立场。这既解释了为什么我们敢为人先与国防部合作，也解释了为什么在别人愿意妥协时，我们却对某些事情坚决说不。我认为你必须选定立场并坚守阵地。有些公司在“我们绝不与政府合作”和“我们对政府言听计从”之间左右摇摆，我无法理解这种行为。你应该确立自己的原则，并贯彻到底。

　　主持人：你们从2024年开始与Palantir合作，对吧？要知道，他们的技术被美国移民和海关执法局（ICE）以及加沙的警察部门所使用。Claude是否被用于其他监控目的？

　　达里奥·阿莫代：无论是通过Palantir还是其他任何渠道，我们都没有与ICE合作。我们也不与美国海关及边境保护局（CBP）合作。据我所知，我们也没有在加沙开展业务。我们非常谨慎地界定合作范围，确保只参与我们信仰和认可的事务。

　　主持人：所以，你们划定了红线，导致总统将你们排除在联邦政府业务之外，五角大楼将你们列为供应链风险，而OpenAI却趁虚而入，签下了你们拒签的合同。在你看来，赢下这场斗争究竟意味着什么？

　　达里奥·阿莫代：我认为对一家私营公司而言，这场斗争没有所谓的输赢。Anthropic并没有试图去赢，甚至根本没从输赢的角度去考虑过。这更像是一场——我甚至不会称之为斗争——关于政府该如何正确使用AI的大辩论。

　　AI是一项新兴技术。我们尚未完全摸透它在哪些方面可靠或不可靠，也未完全看清它将如何弘扬或侵蚀我们的价值观。因此，我认为至关重要的一点是：要为某些我们认为有益的应用场景（坦白说，这占了绝大部分）确立先例，同时也要为我们所担忧的应用场景划定界限。

　　正如我所说，一纸合同能起到的作用终究有限。事实也证明了，总会有别人去签下无视你红线的合同。但我们的举动成功唤醒了公众对这一问题的关注。如今，国会正在开展严肃的两党合作，试图禁止我们所担忧的某些应用，并着手建立安全护栏（guardrails）。

　　再次强调，我不希望将此视作一场斗争，但能推动我们的国家更加审慎地思考这项技术的合理应用，这就已经是一种胜利了。至于有人说Anthropic是由一个意识形态疯子在掌舵，并且由他主导我们所有的决策。

　　主持人：你介意被人叫做“意识形态狂人”或者“一群左翼疯子”吗？

　　达里奥·阿莫代：我一直以来听过比这更难听的称呼。人们想怎么称呼我或 Anthropic 都可以。真正重要的只有两件事：一是我们作为一家公司取得成功，二是坚持我们的价值观。在某种程度上，我的生活其实非常简单，因为当你的目标只有这两点时，一切都变得非常纯粹，你始终清楚自己的立场所在。

　　主持人：有美国官员表示，在大型语言模型（LLM）的帮助下，美军每天打击目标的能力已从 1，000 个提升至 5，000 个。这意味着 Claude 可以帮助更快地杀伤更多的人。对此你心安理得吗？

　　达里奥·阿莫代：我认为这里要分两方面来看。首先是美国提升军事效能的能力，我支持这种能力。我认为更强大的军事实力不会引发战争，而是会威慑战争。本质上，你是在问：你信仰这个国家吗？你希望这个国家在世界舞台上成为一个更强大、还是更弱小的角色？我希望它更强大，我是一名爱国者。

　　另一个问题是：美国政府推行的某些具体政策，我是支持还是不支持？显然，我支持其中一部分，不支持另一部分。但这不由我来决定。如果我们提供技术——国防部（DoD）也指出了这一点，而我们确实认同——我们无权干涉说，你们可以执行这项军事行动，但不能执行那项。

　　私下里，我可能认为某项军事行动很合理，而另一项是个馊主意，但我们不会因此拒绝提供技术。你必须将政策决策权交给军事决策者。你能做的，是设定一些高层级的边界，防止与我们价值观不符的使用场景，同时推广我们认为契合我们价值观的应用。这就是我们的考量。

　　AI 战争

　　主持人：据彭博社报道，美国军方在伊朗的战争中，正通过 Palantir 制造的 Maven 智能系统，利用 Claude 进行 AI 辅助的目标定位。据报道，今年 2 月，一枚美国导弹击中了伊朗的一所女子学校，造成超过 150 人死亡，其中大多数是儿童。

　　Claude 在那次空袭中发挥了作用吗？

　　达里奥·阿莫代：我们并不确切了解这些模型是如何被使用的。显然，战争中的失误极其可怕——这确实是一场惨剧。如果这还不足以说明为什么我们必须抵制那些我们不支持的应用场景，那我必须指出，我们宁愿拿公司的未来冒险，也要限制这些模型的使用方式。你提到的这个应用场景甚至并未触及我们的红线，但我们担心的是，在那些确实跨越红线的应用场景中，引发的问题可能会多出 100 倍。

　　总的来说，我认为净收益上看，使用这些模型是适宜且有益的。然而，即便是和平时期，军事决策者也会犯下可怕的错误，更何况我不知道我们现在算不算处于太平盛世。我们可以探讨一些举措，比如设定红线，防止模型被用于那些更有可能导致此类问题的场景。

　　如果我们向完全自主武器（Fully Autonomous Weapons）妥协——现在几乎所有其他公司都这么做了——那事情就完全不同了。但我们在这里看到的是，Claude 只是提供辅助，而人类做出最终决定；是人类做出了那个决定，而不是 Claude。想象一下这样一个世界：不是 Claude（因为我们不允许），而是其他人的 AI 模型全权做出决策，而人类甚至毫不知情。这正是我们要坚决抵制的情况。

　　另外，虽然我不认为采购审查是控制此事的适当机制，但我们需要确保——这不仅关乎我作为供应商的立场，更是美国人民的切身利益——军事决策者不会犯下这种错误，确保他们运作可靠、决策明智。无论是作为公民还是技术供应商，我都对此深感关切。政府大量使用 Microsoft Excel；如果我说他们可以用 Excel 执行某项军事行动，但不能用于另一项，在现实中是根本无法强制执行的。不过，希望这能让你了解我们的整体考量。

　　主持人：这所学校是有网站的，在谷歌搜索就能找到。难道 Claude 不应该识别出这一点吗？不管他们使用了 AI 还是其他什么技术，难道不应该识别出来吗？这是否暴露出一个更可怕的问题：在战争中把技术当作捷径？

　　达里奥·阿莫代：听着，我想说的是——虽然我不清楚具体情况，这可能涉及我无法接触的机密信息——但我们确立的原则，以及我认为在此次事件中被遵守的原则是：由人类做出最终决定。我不知道 Claude 或其他 AI 在其中扮演了什么角色，但如果这还不足以说明这项原则的重要性，那我就不知道还有什么能说明了。

　　主持人： AI 战争是更有可能阻止第三次世界大战——一场中美之间的战争，还是更有可能引发它？

　　达里奥·阿莫代：总的来说，我认为它更有可能阻止战争。但如果我们对它的使用不加限制，那么我认为它更有可能引发战争。你看过《奇爱博士》对吧？里面的设定是，你拥有一个“末日装置”，当它认为受到核攻击时，就会自动发射核武器反击。这能不出差错吗？

　　这就又回到了“致命性完全自主武器”这个问题上。我认为冲突的爆发往往是因为双方剑拔弩张并产生了误解。当我们对这项技术缺乏适当监管时，我认为这类意外发生的概率会大幅增加。

　　当然，我认为如果 AI 能够被恰当使用——甚至不涉及战争，仅仅用于情报收集（Intelligence Collection）——它就能带来益处。

　　因此，我认为卓越的情报能力确实可以威慑冲突。卓越的响应能力同样能威慑冲突，我始终坚信这一点。

　　Mythos

　　主持人：你曾说 Mythos 过于强大，因此不能向公众发布。关于它，最让你感到惊讶的是什么？

　　达里奥·阿莫代：最让我惊讶的是，模型在发现漏洞（Vulnerabilities）以及更重要的是将这些漏洞转化为漏洞利用（Exploits）的能力正在不断攀升。人们通常只讨论漏洞，却很少谈及如何将其转化为实质性的漏洞利用，而这个模型在这方面极为擅长。我们看到的这种巨大的能力飞跃正是我惊讶的原因；这是一次非常显著的跨越。

　　在我们完全没有给出任何提示的情况下，一些首批测试该模型的公司甚至发出这样的感叹：“这简直就是超级武器。使用者必须持有持枪许可证才行。请千万不要发布它！” 要求不发布它的呼声，恰恰来自于那些拿它进行测试的公司。他们发现了如此多惊人的关键漏洞及可利用性，以至于他们强烈要求我们不要公开。

　　不过需要澄清的是——因为在社交媒体上信息总是容易被曲解——我们的目标并不是将其永远雪藏。我们正在尝试逐步将其开放给越来越多的受众。最终，我们认为应该向公众发布 Mythos，但前提是必须建立起强大的网络安全防护（Cyber Safeguards）。

　　目前的隐患在于，当下的网络安全防护机制——比如我们应用于 Opus 4.7（这是一个优秀但网络能力弱得多的模型）上的防护——是可以被越狱（Jailbroken）的。其他一些公司认为他们目前的防御机制已经足够，这让我们感到有些担忧。这些防御有时可能有效，但我们都知道，这些分类器（Classifiers）是可以被越狱或绕过的。无论是我们内部的测试，还是我们对其他公司防御措施的评估，都表明这些手段目前还不够强大。这就是我们在等待的契机：我们要等到防御能力强大到让我们拥有十足的底气时，才会全面发布。

　　主持人：对此有很多质疑的声音。有研究人员表示，他们使用更便宜的开源模型就能复现这一成果。还有人说 OpenAI 已经具备了这些能力，他们认为这只是一场大型公关秀。

　　达里奥·阿莫代：所谓开源模型能够复现这一成果的说法，简直错得离谱。

　　Mythos 的核心机制是扫描整个代码库（Codebase）来发现问题。有人在 Twitter 上说：“如果你把开源模型直接指向 Mythos 找出的那一行代码，它也能发现同样的问题。”但这根本不是同一个提示词（Prompt），也不是同一个问题。这完全是两码事。

　　真正的终极考验在于我们的实际应用。我们将它应用于各大公司和开源代码库（Open-source repos）中；比如，我们在 Firefox 中发现了 271 个新漏洞。我们还在一些私有企业中发现了成千上万个漏洞，这些公司尚未修复或暂时无法公开这些漏洞。在使用之前的模型时，没有任何人能发现这 271 个漏洞。

　　因此，真正在实践中行之有效的工作流（Workflow），与仅仅说“好吧，我也能找出 Mythos 定位到的那行代码”，有着天壤之别。这就好比我们已经完成了大海捞针，你拿到了那根针，但这并不意味着其他模型有能力自己把那根针捞出来。

　　主持人：但是，对于那些说这仅仅是出色营销手段的人，你怎么回应？

　　达里奥·阿莫代：事实上，因为没有公开发布这个模型，我们在商业上蒙受了巨大的损失。这个模型极大地加速了 Anthropic 内部的研究、产品化以及下一代模型的开发。如果我们发布它，它同样会极大推动外部世界的发展。这在商业上对我们造成了极大的重创。

　　主持人：如果它能帮助防御者，自然也能帮助攻击者。我们到底还能不能防得住？

　　达里奥·阿莫代：我想说的是，我们之所以在攻击者之前把 Mythos 交给防御者，就是为了抢先修补所有漏洞。随着模型变得越来越强大，可能会有越来越多的漏洞被挖掘出来，但漏洞的总数终究是有限的。这就好比一个表面上只有有限个孔洞的物体，一旦你把所有孔洞都补上，这个表面就会变得坚不可摧。此外，因为未来的代码本身也将由这些强大的模型来编写，想要从中寻找缺陷或进行入侵，将变得难如登天。

　　因此，我认为度过这个阶段后，希望在六个月或一年内，我们将迎来一个比过去安全得多的互联网生态系统。我们正努力通向那个世界，并在尽我们所能向新的网络防御者（Cyber defenders）开放 Mythos。

　　我们一直在与政府保持沟通，并且非常尊重他们的建议。他们正在放缓我们开放该模型的步伐，因为他们担心存在反情报（Counterintelligence）风险。我认为这是明智之举，而且我相信在座所有严肃思考的人都能理解，这里面确实存在着真实的权衡与取舍。

　　我们看到 Twitter 上以及其他 AI 公司发出的很多暗箭和冷嘲热讽。但当你把他们的言辞与他们自身言行不一的举止做个对比时，就会发现他们显然不是严肃对待此事的人。他们并没有认真去面对我们所面临的复杂权衡。每天都有客户打电话跟我说：“我想要 Mythos 的访问权限。”甚至有国家代表联系我说：“我想要 Mythos 的访问权限。”但与此同时，美国政府和我的安全团队却在警告：“不，等一下，这里面存在风险。”

　　我并不是说哪一方绝对正确。我认为真理介于两者之间，双方的观点都有其道理。但这里存在一个严峻的现实挑战，我们需要作为一个社会整体来共同面对，而不是互相指责这是廉价的营销噱头，也不该像其他一些公司那样，用廉价的营销手段来试图打压对手。这只暴露出他们极度缺乏庄重感与成熟度。我们必须携手并肩，共同迎接这个时代的考验。

　　主持人：你是否已经不得不做出一些让你心里并不那么舒服的妥协与权衡？

　　达里奥·阿莫代：纵观 Anthropic 的整个发展史，权衡与取舍无处不在。在理想状态下，你当然希望在发布一款聊天机器人之前，花上几年时间去把每一个可能出错的环节都研究透彻。虽然我们确实推迟了 Claude 的首次发布，但也仅仅推迟了几个月而已。万事皆需权衡，因为走向任何极端在现实中都是行不通的。

　　既然我们现在已经处于商业领先的地位，Daniela 和我正在竭尽所能，将指针进一步拨向“谨慎”的那一端。

　　将 AI 国有化（Nationalizing AI）

　　这正是这次“Mythos”发布的深层逻辑。如果你不是行业头部玩家，是很难做出这种举动的。我认为未来你会看到更多类似的做法。

　　主持人：现在的确有这样一种声音：为什么政府不直接把你们接管了？他们怎么能放任一家私营企业去掌控如此强大的技术？

　　达里奥·阿莫代：我觉得这是一个极其严肃的问题，我也深有同感。我不认为政府应该直接把我们收编，但我可以这么说：退一步看，纵观历史，我们见证过的每一项强大技术，要么是由政府主导开发的，要么是源于政府项目。核武器显而易见最初是由政府制造的，并且基本一直处于政府的管辖之下。即便是互联网、GPS 和移动电话等技术，其核心研发也都是在联邦实验室和大学里完成的。

　　AI 是人类历史上第一项主要由私营部门主导开发的强大技术。政府在其中并未发挥实质性的作用，可以说是姗姗来迟。我认为这其实是一个危险且不稳定的局面。如果由我来选，我不会选择这样的开局，但这已是无可奈何的现实。这项技术具备可行性，我们的对手正在研发，它又蕴含着巨大的经济价值；因此，它的诞生是历史的必然。问题的症结在于政府缺位，而不在于私营部门去推动这项工作。

　　我认为我们需要深入思考对权力的制衡（Checks and balances）。我深信 AI 公司的权力必须受到约束。我们设立了“长期利益信托”（Long-Term Benefit Trust），这个机构有权任命和罢免我们的大多数董事会成员。归根结底，它甚至有权解雇我。我们正在引入公共治理的要素，确保我们对那些并非仅仅持有公司股票的第三方负责。这种治理结构至关重要，无论公司未来命运如何，它都将延续下去；我们也鼓励其他组织采用类似的模式。

　　在政府层面，我们同样需要制衡。国会正致力于划定“红线”（Red lines），我真心认为立法和司法部门需要有所作为。我害怕企业独揽这项技术，但我同样害怕政府独占它。我们需要建立一种双向制衡的系统：企业监督政府，政府约束企业。我们需要基础的监管机制，比如强制性的发布前测试以及对模型的审查审计（Auditing）。

　　让我觉得特别讽刺的是，硅谷有那么一群人，起初他们坚信任何形式的透明度要求或出口管制，都会带来世界末日般的灾难，彻底扼杀我们的潜力与创新。然而，一旦他们嗅到了第一丝真正的危险——而这正是我一直以来所预料到的——他们就开始大肆谈论将 AI 国有化或由政府全面接管。伙计们，你们就像溜溜球一样，从最极端的反监管立场，瞬间摇摆到了“政府应该接管一切”的极端视角。我们需要的是一种更理智、更温和的路径。这也是我们始终倡导的道路，因为我们深刻敬畏这项技术的力量。我们既不恐慌，也不盲目否认现实；我们清晰地看到了平稳的指数级增长（Exponential growth），并且正在从容应对。

　　访问白宫（Visit to the White House）

　　主持人：再次造访白宫感觉如何？

　　达里奥·阿莫代：我们始终致力于与政府中一切可能合作的对象共事。我们的方法很简单：我们坚守一套原则，并在践行这些原则的同时，期盼对方也能通情达理。

　　政府对模型（Models）非常重视。我们与贝森特部长（Secretary Bessent）以及幕僚长苏西·威尔斯（Susie Wiles）进行了很好的沟通。我认为他们确实理解了这里潜藏风险的本质；模型帮助他们更具体地感知到了风险所在。

　　正如对待任何一届政府一样，有些部门与我们相处融洽、理解我们，而有些部门则较难共事。我认为这很正常，放之任何一届政府皆是如此。我们只能尽最大努力去周旋应对。

　　中国

　　主持人：在您职业生涯的早期，曾就职于中国大型科技巨头百度。您当时在百度的硅谷分部工作，而且您对中国的看法一直非常明确。目前中国正在涌现强大的开源模型，并且有美国公司在免费基于它们进行开发。这构成威胁吗？

　　达里奥·阿莫代：关于这项技术，我们观察到的现象之一是：模型的智能水平有着极高的溢价。我们极少看到人们会退而求其次，去偏好智能水平较低的模型。当然，需要澄清的是，现在有一个繁荣的生态系统，许多挑战和问题远没有复杂到需要动用前沿模型（Frontier Models）的程度。

　　但话说回来，这是指数级增长。这些远未达到前沿的模型，其经济价值或许能与我们在 2023 年和 2024 年看到的水平相媲美。但鉴于我们每年 10 倍的增长速度，我们发现，处于前沿（Frontier）的价值总是远远超过远离前沿的部分。

　　我认为，习惯于上一代产品开发模式的人们对此并不完全理解。作为一个半路出家、此前从未经营过公司，且极其厌恶社交媒体时代的人，我觉得自己就像是那个世界的外来者。我认为人们的直觉是错的，因为他们依赖的是过时的产品启发式认知（Product Heuristics）。我相信，每年 10 倍的指数级模型增长已经彻底打破了旧有范式；智能是一个压倒一切的巨大变量。因此我们一再看到，真正的价值都蕴藏在最前沿。

　　递归自我提升

　　主持人：你们这个领域的人经常谈论这样一个时刻：当 AI 变得足够强大，能够自我提升，然后这个进阶版本继续自我提升，以此类推。你们内部的一些研究人员认为那个时刻即将到来。它离我们到底还有多远？

　　达里奥·阿莫代：我不认为那是某个单一的时间点；我认为这是一个连续的过程。在某种程度上，我们已经看到了它的雏形——AI 已经能够为下一代 AI 提出架构建议。一年前，我们看到 AI 带来了 10% 到 15% 的全要素生产率（Total Factor Productivity）提升，而现在这个数字可能已经达到了 20% 或 30%。它可能还在翻倍。如同其他所有事物一样，我们正处在一条指数增长曲线上。

　　不存在这样一个“奇点时刻”：AI 突然自我提升、陷入失控或变得危险。我们面对的，是一条不断加速的指数曲线。在这条曲线的每一个节点上，我们都必须评估：是时候放慢脚步了，还是需要对这项技术施加更多的管控。我相信我们对管控的需求会与日俱增，但应对这一切的关键，在于理解这种指数增长背后的“平滑本质”。

　　我们能从两类人身上吸取教训：一类人曾经坚决反对任何 AI 监管，直到他们看到了某种现象，又突然主张将整个行业国有化。同样，另一类人曾经对 AI 的威力嗤之以鼻，随后又突然惊慌失措，声称它正在自我提升、即将失控并需要立即关闭。在这两种极端反应之间像溜溜球一样反复横跳，对于应对这项技术极其无益。

　　正确且明智的做法是保持冷静，避免恐慌。我们的应对措施，应当与技术威力的增强保持同步，平稳且循序渐进地升级。如果你看到某人做出那种神经质般、应激式的反应，这只能说明他们被打了个措手不及，而且他们对待此事的态度极不严肃。

　　达里奥最喜欢的书

　　主持人：我知道您最喜欢的书之一是《原子弹秘史》（The Making of the Atomic Bomb）。

　　达里奥·阿莫代：没错。

　　主持人：您觉得您和奥本海默（Oppenheimer）有相似之处吗？

　　达里奥·阿莫代：其实我最认同的人物是利奥·西拉德（Leo Szilard），他基本上是第一个提出链式反应概念的人。你看，我的观点是：我们不可能依靠那些“被神化”的个人，或者那些试图将自己置于一切舞台中心的人物来度过这次难关。这里需要的是权力制衡。很多强大的参与者在这里都有利益诉求，而让这一切走向善终的唯一途径，就是到处都存在着“制约与平衡”（Checks and Balances）。所以，从某种意义上说，我实际上把奥本海默视为一个失败的案例，一个不应该发生的典型。

　　文明崩溃

　　主持人：您曾说过，人类文明崩溃的几率大约在 10% 到 25% 之间。这个概率不容忽视。是否存在这样一种情况：导致文明崩溃的元凶，正是 Anthropic 开发的东西？

　　达里奥·阿莫代：我当然希望不会。我的看法是，我们所采取的行动是在降低这个概率，而不是提高它。这 10% 到 25% 的概率，根源在于这项技术有着极其直白的“实现配方”，世界上有众多国家，经济体中有众多公司，而且如果真空地带没有被填补，就会有新的公司源源不断地诞生。这就是我们面临的困境：我们正努力采取行动来降低这种概率，而且我认为，我们降低风险的程度远远超过我们引发风险的程度。

　　然而，这项技术固有的属性就是不可预测性。我们尝试在发布任何东西之前，对其进行构建和彻底的测试。如今发布的模型并不危险——或者至少我认为，除了网络威胁之外，它们并无实质的危险。我们努力在迭代过程中不断学习，并部署了数以万计的防御机制。事实上，我们在公司内部开展的工作，有一半都是在竭尽所能地降低风险，尽管风险永远不可能降为零。

　　我想说的是：假设市面上有一大堆航空公司，而你决定创办一家更安全的。你的航空公司可能会比其他所有同行安全 10 倍，但如果有人质问你：“你能保证你的飞机永远不会坠毁吗？”——你怎么可能给出保证呢？你怎么可能做得到呢？

　　主持人：但如果飞机有25%的坠毁概率，你肯定不会登机。

　　达里奥·阿莫代：没错，25%太高了。我们的目标就是把这个概率降得非常非常低。

　　信任

　　主持人：你们正在打造一种极其强大的技术，并有望从中获取巨大利益。我们凭什么信任你们？

　　达里奥·阿莫代：我的看法是，在任何一家公司刚起步时，特别是看看硅谷作为一个整体在过去几年的行为和思维方式，我认为从不信任开始是完全理性的——如果你对我一无所知，对Anthropic也一无所知。我认为硅谷已经失去了世界上太多的信任，现在必须重新赢回这份信任。

　　我们想要传达的信息是，我们确实与众不同，而这必须通过我们的实际行动来赢取。无论你是否赞同，我们都捍卫了自己的价值观。以Mythos模型为例，不发布这个如此强大的模型，确实让我们的商业利益受损。在此之前，我们还做过很多类似的小决定。

　　但我希望人们能审视我们的过往，并问问自己：如果把这些历史加在一起，关于我们的哪种假设最符合事实？每个人必须自己做出判断。但我认为，最站得住脚的假设是：我们在真诚地努力做正确的事。

　　组织总是不完美的，也难免出现机能障碍，我们一直在努力改进，让它运作得更好。期间会有许多失误和差错。但从根本上说，对于如何做正确的事，我们有着诚实且热忱的愿景，并且正在努力践行这一愿景。

　　主持人：那么，我们就在指数级增长的彼岸相见吧。

　　达里奥·阿莫代：希望如此。

　　主持人：看来你一直想当个好莱坞明星。