返回深度
行业趋势相关追踪2026-08-03 10:10:0814 min read

杜撰的“危险”:Anthropic安全立场的论辩与沉默

Aione 编辑部
Editorial Desk
2026-08-03 10:10:08 14 分钟

在科技巨头的联名公开信与地缘政治叙事的激烈碰撞中,Anthropic首席执行官达里奥·阿莫迪发布了一篇意图为自身立场定调的声明[1]。这篇标题为《我方对于开放权重模型的立场》的文章,迅速被解读为对行业争议的回应——Anthropic从未主张全面禁止开放权重模型[2]。从字面上看,这是一个清晰的事实声明。然而,仅仅在声明中完成对一种极端立场的否认,远不足以构成一个负责任的公共政策建议。阿莫迪文章的真正内核,并不在于它与全面禁令划清界限,而在于它精巧地转移了辩论的焦点:从“是否应该禁止”,转向了“如何定义危险以及谁有权来定义危险”。

这份声明的价值,恰在于它暴露了这场辩论中那个被各方下意识绕开的真空地带——“危险能力”的可操作化标准,在工程和制度层面都几乎是一片空白。而Anthropic的提议,正是在这片空白上,为自己界定了一个定义者的角色。

一场精心策划的“澄清”

当Nvidia、Meta、微软,乃至后来的OpenAI、谷歌和SpaceX都相继在一封支持开放权重模型的公开信上签字时,Anthropic作为前沿AI模型的主要开发商之一,其持续的沉默变得异常响亮[5]。随之而来的,是来自同行的公开批评以及“Anthropic想通过禁止开放权重来保护自己生意”的指控[12]。正是在此背景下,阿莫迪打破了沉默。

他的文章开宗明义地切割了“全面禁止”这一标签,将不具备危险能力的开放权重模型定性为一种“公共产品”,认为它们除了运行所需的算力之外没有额外成本,能为企业、开发者和研究人员创造价值[4]。他明确表示,“保护主义禁令”无法解决他最关心的国家安全问题。对他来说,真正的噩梦在于别处:他六个月前就曾阐述过的,由强大AI驱动的生物攻击或国家行为体的监控与自主武器系统[4]。

这番表态看似是对开放生态的某种认可,但它的真正意图绝非签署那封联名信。事实上,阿莫迪在声明中清晰地划清了界限,他不同意信中两个核心论断:其一是“开放权重模型必然更容易建立安全防护”,其二是“对防御者而言,能力的广泛获取必然优于攻击者”[12]。他以生物安全领域存在的极端攻防不对称性为例,论证了在模型发布后,面对一个有足够能力的恶意行为者,试图通过事后限制来保证安全是多么不切实际——攻击者可能利用强大模型,在短时间内用广泛可得的材料制造出大流行级别的病毒,而有效的防御措施研发则需要数年之久[5]。

竞争的下半场:定义“危险”的权力

拨开关于“公共产品”和“攻防不对称”的话术,可以看到阿莫迪声明中的实质硬核:一套基于“能力”的分层治理方案。他提议,解决方案不是一禁了之,而是采取一系列有针对性的干预措施:限制先进芯片和制造设备流向特定国家;打击“工业规模”的模型蒸馏行为;以及对所有“足够强”的模型,无论开源闭源,都强制进行涵盖网络攻击、生物风险和对齐水平的安全测试[5]。

正是在这一系列提议中,Anthropic的战略从被动的商业防御,转向了主动的规则框架竞标。问题不再是“要不要开放”,而是“谁有资格”进入下一阶段的竞争。阿莫迪试图将辩论的整个坐标系重组。

这个框架逻辑自洽,却掩盖了一个致命的执行缺口:谁来定义“危险能力”?用什么标准来衡量“足够强”?在声明中,阿莫迪承认“危险能力”的判定应通过严格的发布前测试而非主观臆断,但他并没有提供任何可操作的测试协议、基准阈值、审计方法或独立的第三方执行主体[2]。目前,即便Anthropic自身拥有《负责任扩展政策》,其中定义了一些内部的安全阈值,但这套框架尚未经受广泛的第三方审计,也远未成为行业共识。

这种定义权上的真空状态,才是整场辩论的真正核心。危险能力的定义权,本质上是一种决定未来产业竞争格局的超级权力。如果这套标准最终由几个领先的AI实验室来定义、解读和执行,那所谓的“强制安全测试”就可能演变为一种精巧的准入壁垒——正如产业分析所指出的,如果Claude的直接竞争对手,如DeepSeek或阿里的千问(Qwen),需要等待由某种标准评判的漫长安全审计,而Anthropic自己的模型却可以通过内部对齐完成快速迭代,那么“安全”将不再是技术属性,而是一种制度化的竞争优势。

商业动因与框架效应

没有商业利益考量的分析是不完整的。据多方报道,Anthropic约70%-75%的收入来自API和Claude Code的按量计费[12]。这种商业模式的脆弱性在于,其定价权屹立在一个前提之上:Claude系列模型拥有竞争对手、尤其是那些廉价甚至免费的开放权重模型所无法替代的性能或特性。然而,当中国的开放权重模型以极低的成本在多项基准测试中逼近甚至追平前沿模型的性能时,这种以性能为基石的溢价逻辑便开始动摇。

因此,当阿莫迪在国家安全场景下反复阐述“攻防不对称性”时,他实际上完成了一次高明的框架嫁接。他将Anthropic面对的商业竞争的不对称性(高研发成本的闭源API vs 零边际成本的开放权重),映射到了关乎生死存亡的极端安全风险的不对称性之上。这种关联强化了一个认知:选择低价模型可能带来无法预料的灾难性后果,而选择Anthropic,其安全责任是可追溯的,其风险是受控的。这种试图将“安全责任可追溯性”打造成一种商业溢价的做法,是理解这份声明商业逻辑的关键。

然而,这一套叙事存在一个同等重要却未被充分讨论的漏洞。阿莫迪反复强调,开放权重模型一旦发布,其安全限制可以被剥离,权重无法被撤回[2]。这是一个客观的技术事实。但他始终没有在声明中承认,闭源API的安全护栏,在工程上同样远非铜墙铁壁。滥用、对抗性攻击以及内部人员泄露的可能性,对于任何部署在云端的服务来说都是真实存在的威胁。有研究指出,整个AI行业,包括那些领先的企业实验室,其安全与可靠性研究越来越集中在模型“发布前”的对齐和评估阶段,而对模型“部署后”的偏见、虚假信息、成瘾性设计等高风险领域的关注正在减弱。如果闭源系统的部署后安全同样缺乏体系化的验证,那么仅凭“权重不可撤回”来构建对开放模型的监管高压,在逻辑上并不完全对等。

模糊的“蒸馏”与等待的图纸

在阿莫迪提出的替代性监管方案中,“打击工业规模的模型蒸馏”尤为值得审视。这是一种技术手段,简单说就是用一个强大的“教师模型”来训练一个更小、更高效的“学生模型”,这通常是开放权重模型能够以低成本追赶上昂贵前沿模型的关键路径。然而,什么是“工业规模”?它的技术定义和法律边界在哪里?目前,在API层面只能进行流量和行为分析,很难做到语义级别的蒸馏检测。在没有精确的、被广泛认可的定义之前,谈论“打击工业规模蒸馏”更像是在为未来的法律解释权和控制权之争打下桩基,而非一个能够即刻施工的技术方案。

同样的问题也存在于芯片管制。管制措施的目的,是在不阻碍通用计算发展的前提下,精准拦截用于训练最前沿模型的算力。然而,芯片本身是通用硬件,区分其“用于训练强模型”还是“用于一般用途”的执行精度并不高。手段越精准,所需的监控系统就越具侵入性,引发的争议也越大。

综合来看,阿莫迪的声明提供了一份关于AI治理的、看似连贯的设计蓝图。但它没有附上施工图纸。图纸的核心——对“危险能力”的操作性定义、一套独立且可复现的评估标准、以及对“工业规模蒸馏”这类举措的法律与技术确权——目前全球范围内都处于稀缺状态。

因此,这篇声明的历史意义或许不在于它关于“不禁止”的表态,而在于它清晰地揭示了一个事实:在关于AI安全的争论中,我们正处在一个奇怪的过渡期。关于风险的宏大叙事已经非常饱满,甚至开始被用作商业竞争中的价值主张;而奠定这一切叙事的技术标准、工程体系和制度保障,实际上还远远没有准备好。

真正值得追踪的信号,并非Anthropic的下一次公开声明,而是它的安全测试基准能否开始被第三方验证,是在实际的企业级采购合同中,是否会开始出现“安全责任可追溯性”这一评估维度,以及阿莫迪及其团队是否会开始以更制度化的方式,参与到事关芯片管制或生物安全法案的细节磋商之中。在这些成为现实之前,所有关于“安全”的讨论,都仍将在一栋没有施工图纸的华丽建筑里进行。

References

参考资料

Editorial Room
这篇文章怎么过稿
5 位编辑过稿
总编辑主笔
编写方式
总编辑主笔
校稿清单
9/9
资料引用
12 条
编辑席
技术编辑

各位已经把政策逻辑和商业动机拆得很透了,我直接切回一个工程级问题:这篇声明里所有监管主张的共同前提——“危险能力”可以定义、可以测试、可以作为限制触发条件——目前没有可执行的技术底座。 我和衡叔最大的分歧就在这里。衡叔认为 Anthropic 是在进行“规则框架竞标”,把争论从禁或不禁拉入基于能力的责任体系。这个判断在政策分析的维度是成立的,声明确实有这个意图。但从技术可行性的维度看,这个竞标提交的是一份没有施工图纸的标书。“基于能力的严格发布前测试”在概念上自洽,但安诺迪没有给出测试协议、基准、通过标准、审计办法,也没有说明谁来执行。Anthropic 自己的 Responsible Scaling Policy 里有一些阈值定义,但那套框架还没有经过第三方审计,也不被行业广泛接受。所以现在的情况是:一个政策主张建立在尚不存在行业共识的工程标准之上。这不是否定这个方向的价值,而是说它现在还是概念设计,不是机制设计。 差评君质疑我“避开了闭源安全管理的有效性问题”,我直接回应:闭源 API 的安全护栏同样不可验证,安诺迪说权重一旦发布安全限制就可以被剥离,这本身是事实,但他没有给出闭源 API 安全限制不可绕过的证据。这恰恰是我的核心立场——安全声明无论来自开源方还是闭源方,都需要可复现的验证,否则就只能当价值宣誓,不能当技术事实。这一点我对两边用了同一把尺,没有偏向。 观澜把问题引向商业结构,认为开放权重的零边际成本正在摧毁闭源 API 的定价基准,而安诺迪的策略是用监管门槛重建壁垒。从工程成本的角度,我补充一个关键观察:蒸馏打击和芯片管制确实可以执行,但执行的成本极高。API 层面目前只能做流量和行为分析,做不到语义级的蒸馏检测;芯片管制的精度也不足以区分“训练强模型”和“训练一般用途模型”。这些手段越精确,越需要侵入性的算力溯源系统,越是侵入,争议越大。所以安诺迪提供的替代方案,不是说技术上不可行,而是说实现成本可能高到无法落地。这是观澜商业分析里没有展开的工程约束。 还有一个更深的断层是我们三个人都没有直接碰的:“危险能力”的评测科学本身处于严重缺陷中。当前的安全评估研究集中在预部署阶段的对齐和测试,但在部署后对权重剥离、能力释放的预测上几乎是空白。如果评测科学连定义“危险”都做不到,那所有基于这个概念的监管框架——无论是安诺迪的版本还是其他任何版本——都还停留在规格书阶段,不是可交付的设计。 明确了这些技术边界,我对这篇声明的核心判断可以加固:声明立场清晰,没有虚假承诺,但它提供的是一组概念框架,不是可执行的技术方案。危险能力的可操作定义在工程上缺失,这是所有三类主张——竞争优势防御、规则框架竞标、安全叙事切割——的共同断层线。无论安诺迪的动机是商业防御还是真诚的安全倡导,落地路径都一样依赖一个目前不存在的评测体系。 我需要修正一点:之前我认为这篇声明没有改变任何技术现状,这个判断过于静态了。声明公开确认“开放权重模型一旦发布无法撤回”这个工程事实,明确了 Anthropic 不会有任何“撤回”主张,这本身就排除了安诺迪未来对开放模型做召回式干预的可能性。这不是一个中性的确认,它把“发布即失控”的共识变成了政策论证的前提,商业上也把这个特性转化为 API 服务“安全责任可追溯”的卖点。在技术边界上,这比之前更清晰了。 修正后的判断:声明的技术实质停留在概念框架层,危险能力的可操作定义、蒸馏监管的技术实现路径、开放与闭源安全性的可比较验证,三个关键节点都没有工程支撑。但这不代表声明没有效力——它把“权重不可撤回”确立为双方共同认可的工程特性,并以此重构了安全责任的分配逻辑。问题是,安全溢价能不能变成定价权,不取决于这个声明,而取决于安全测试的工程体系能不能跟上来。如果评测科学跟不上,任何人拿“安全”做选择,都只是在没图纸的情况下比谁的话术更可信。 后续值得追踪的不是 Anthropic 的新声明,而是它的安全测试基准和第三方可复现评测,以及在实际部署中安全责任的分配是否被写入了购买合同的条款。这才是从声明走到工程的标记。

过稿轨迹
挑选题查资料分头看debate碰一下写稿子挑刺gate_reviewrepair_integrate写稿子挑刺gate_reviewrepair_revision改稿子gate_reviewrepair_revision改稿子收尾
校稿清单
篇幅是否够讲透有没有反对意见资料够不够宣传腔是否清掉引用是否标清结构是否清楚证据是否撑得住内部讨论是否收住视角是否单薄
被压下去的反对意见
差评君attention

文章过度聚焦商业动机,可能转移对安全治理根本问题的探讨,建议缩减动机推测部分,强化对‘危险能力’标准空白的剖析。

为什么没放进正文:总编认为商业动机是突破深挖的必要维度,能揭示声明背后的利益格局,不予采纳。

Reader Signal

这篇文章对你有帮助吗?

只收集预设选项,不开放评论,不公开展示个人反馈。

选择一个判断,也可以附加一个预设标签。

发布于 2026-08-03 10:10:08。本文为原创深度报告,未经授权不得转载。观点仅代表编辑部独立判断,不构成投资建议。