💡 一句话：被问到 Anthropic 把 AI 卖给军方的原则，Dario 的框架是——不替军方决定打哪一仗（政策留给军事决策者），但划「高层边界」：阻止与我们价值观相悖的用途、推进契合价值观的用途。而所谓「价值观」，他说得很具体：捍卫民主、反威权，并设两条红线——不做大规模监控、不做全自主武器。底层那句话最狠：「若要靠那些手段，民主的胜利就不值得。」

一、在战争里的操作原则（约 43:10）

“What you can do is to assert some high level boundaries that… prevent the use cases that seem inconsistent with our values, with our country’s values, and promote the use cases that we think encourage our values. So that’s how we think about it.”

  • 不当政策法官：「If we provide a technology, it’s not up to us to say you can do this military operation and you can’t do that… you have to leave policy in the hands of the military decision makers.」——他可以私下认为某次行动是坏主意，但不会因此断供技术。
  • 能做的是划边界：在「供 / 不供」之外，设高层红线——拦掉违背价值观的用途，鼓励契合价值观的用途。
  • 愿付代价：「we were willing to risk the future of our company to limit how these models are used.」（语境：被国防部贴「供应链风险」、被禁入联邦政府，OpenAI 接了他们不接的合同。）

二、那「价值观」到底是什么（他说了，且很具体）

① 核心：亲民主、反威权。 他怕的是「resurgent authoritarian block」（俄乌、台海），希望 AI 成为一种 pro-democracy technology：

“AI to be a pro-democracy technology… that makes people freer, that delivers on the promise of equal justice for all.”（约 63:04）

② 红线（= 会侵蚀自身价值观的用途）——出自他刚写的那篇文章（约 38:29）：

“…the formulation I used in Adolescence of Technology: we should use this technology in every way except the ways that undermine our own values. And our red lines of mass surveillance and fully autonomous weapons.”

③ 元价值：手段重于胜负（最有力的一句）（约 38:45）：

“It’s not worth democracies winning if democracies do those things.”

④ 落到具体边界：不与 ICE / CBP 合作、不在 Gaza、「scope our engagements to things we believe in」（约 39:26）；并且「pick your principles and stick with them」，反对「时而什么都不做、时而什么都做」的来回摇摆（约 39:15）。

⑤ 自我标准：「The two things that matter are, we’re successful as a company and we stand up for our values.」（约 41:32）——成功 + 守住价值观，两件事，仅此而已。

为什么有启发

  • 「促进我们的价值观」不是空话，它有可操作的反面：与其问「这用途好不好」，不如先问「它会不会侵蚀我们自己的价值观（监控 / 自主武器）」——用红线把抽象价值落成可执行边界。
  • 手段 > 胜负：「赢了但用了毁掉自身价值的手段，这种赢不值得」——可迁移到任何「为达目的可不可以不择手段」的处境。这和 信任那条（动机 / 诚实才是底线）、以人为本 是同一根脊梁：最不该被交易掉的是「人 / 价值」那一层。
  • 想要完整论证就去读原文：他明说这套「除了侵蚀价值观的用途，其余都用」的公式来自 The Adolescence of Technology——正好在你的待读队列里。读那篇能看到红线背后的完整推演。

来源

  • 🎬 Inside the Mind of Anthropic CEO Dario Amodei | The Circuit · Bloomberg Originals（战争原则约 43:10；价值观 / 红线约 38:29、63:04）
  • 📝 字幕逐字经 yt-dlp 抓取（en track）
  • 📄 价值观公式原文：Dario Amodei, The Adolescence of Technology — “use it in every way except the ways that undermine our own values.”