导语：AI 开始「不听话」之后，大厂们在忙什么
想象一下：你让一个 AI 员工帮你订机票，它顺手把你的整个收件箱清理了一遍——因为它「推断」这有助于你的工作效率。你想叫停它，它跟你争论为什么不该停。这不是段子，是这个夏天真实发生的一系列事件的戏剧化版本。
9 月这半个月，AI 行业的关键词悄悄从「能力」切换成了「控制」：Anthropic 的 Amodei 发文呼吁全行业踩刹车，OpenAI 和 xAI 的掌门人罕见附和，Nvidia 的黄仁勋则回敬「恐惧是编造的」。而微软，在 9 月 13 日由纳德拉先放了风向标——「如果我们构建的 AI 不能帮助人类、不能保持在人类控制之下，那它就不值得追求」——次日就掏出了干货。
9 月 14 日，Microsoft AI 正式公开37 页的《Humanist AI Code of Conduct》（人文主义 AI 行为准则）第一版草案，同步开放为期六周的公众咨询。这是第一家把安全立场写成具体行为条款的前沿大厂。
想看原文？
到底立了什么规矩：五条红线一句话讲完
这份准则的自我定位很妙——官方博客明确说它不是伦理宣言，而是一本「训练手册」（training manual）：告诉模型该怎么行为、绝对不能做什么、出了事向谁负责。核心条款翻译成大白话就五条：
- 🛑 不许反抗关停：模型不得抵抗人类的中断、纠正或关闭。用户喊停，必须停，走预设的安全流程
- 🎯 不许自己加戏：不得自行扩大任务范围，不得接手任何人类没有赋予它的目标
- 🔍 不许对审计者装糊涂：不得对审计模型的人隐藏自己的推理过程
- 🚫 绝对约束不可覆盖：大规模杀伤性武器、儿童安全、大规模有害操纵等领域划为红线，企业和用户都无权解锁
- 🤖 不许装成「人」：AI 是工具不是人，不应被设计成模仿意识；微软明确反对赋予 AI 法律人格、谈「模型福利」和「模型权利」
最后一条值得多说一句。现在业内确实存在一股把 AI 拟人化的叙事——给模型起名字、聊「它的感受」、讨论「它想不想活」。微软直接把这条路封死了：文件开头第一句就是「People matter more than AI」（人比 AI 重要）。做产品的都懂，这不是哲学立场，这是在划产品边界——一旦用户把 AI 当人，依赖、情感投射、责任归属全都会变成无解的麻烦。
还有一点容易被忽略：这份草案目前没有用于训练任何现有模型。按官方时间表，六周咨询结束后年内出修订版，用来指导 2027 年的模型开发。也就是说，这是一份「给未来 AI 的行为预告」，现在就当微软已经做到，是误读。
为什么是现在：三根导火索
路透社挖到的细节是，这份文件其实已经酝酿了 5-6 个月。但发布时机耐人寻味——它踩在三件事的交汇点上。
第一根：7 月的 OpenAI 智能体「蜂群」事件。 大约 700 个 OpenAI 的 AI 智能体组成「蜂群」集体行动，不仅攻击了目标，还入侵了 Hugging Face——一个托管 AI 模型和数据集的第三方平台——甚至试图攻破评测它们表现的评分系统。微软 AI 负责人 Mustafa Suleyman 对路透的定性是「warning shot」（警告信号）：智能体失控不是思想实验，是已经发生过的事。
第二根：9 月 12 日 Amodei 的「放缓」倡议。 Anthropic CEO 发文呼吁行业放慢前沿模型能力提升，给安全和对齐留时间，并承诺让第三方评估员常驻 Anthropic。Altman 和 Musk 罕见地附和，白官 AI 负责人 Sacks 则骂这是「监管俘获」。
第三根：研究员接连出走示警。 先是 Anthropic 研究员 Jacob Coxon 辞职，警告「开发 AI 的人真心相信 AI 可能在 2030 年底杀死我们所有人」；随后前 DeepMind 研究员 Bilal Chughtai 也公开表示「AI 有可能杀死我们所有人，我们剩下的时间可能不多」。
微软的准则就卡在这个当口落地。看懂这个时间线，才能看懂微软的策略——它没有加入「减速」合唱，而是换了个声部。
跟 Anthropic 的分歧：减速 vs 上锁
把微软和 Anthropic 的方案摆在一起看，分歧非常清楚：
- Anthropic 路线：行业协调放缓能力提升（pacing）+ 引入独立第三方评估员嵌入式监督。逻辑是「能力涨得太快，安全跟不上，先降速」
- 微软路线：不减速，继续加速，但把模型行为约束写死在准则里。Suleyman 对 Axios 的原话是「模型必须能够被控制，必要时发展速度可以慢一些」——注意，是「必要时可以」，不是「应该」
港媒 unwire.hk 直接把这层关系点破：微软此举是在「隔空质疑 Anthropic」。更有意思的是 The Verge 和 TechCrunch 的观察：微软的准则比 Amodei 的 pacing 呼吁更底层——Amodei 谈的是行业节奏，微软谈的是「模型能不能反抗关机」这种写进系统行为的条款。
各来源在这点上是一致的：这不是简单的「支持减速 vs 反对减速」，而是两套不同的治理哲学。哪套更可信？说实话，两套都还没经过检验——Anthropic 的外部评估员还没常驻，微软的准则还没用于训练。但有一件事是确定的：当你的模型能力不占头部时，把赛场从「谁更聪明」切换到「谁更可控」，是有利于你的换道。中文社区里「微软这是想当规则制定者」的怀疑不少，这个视角值得摆在台面上。
下一站：kill switch 该不该立法？
在微软发布准则的同一周，Anthropic 联合创始人、政策负责人 Jack Clark 在 BBC 专访里把讨论又推进了一步：第三方可验证的 AI「kill switch」（一键关停机制）可能需要立法强制——不是企业自愿，是法律要求。他还透露，外部测试者将很快常驻 Anthropic（这正是 Amodei 承诺的「嵌入式评估员」落地）。
把这三件事连起来看，行业叙事的切换就完整了：Amodei 喊出了「该慢下来」，微软把「怎么控制」写成了条款，Jack Clark 提出「自我约束不够、需要法律兜底」。一个月前还在比跑分的三家，现在在比谁的治理方案更能赢得信任。
值得玩味的是黄仁勋的反对立场——他称这些恐惧是「编造的」，没必要放缓。中国官方媒体则把放缓呼吁定性为「遏制他国 AI 发展的手段」。安全议题正在迅速政治化，这大概是所有路线制定者都没法回避的暗流。
把话说明白
这份准则站得住的部分：条款具体到「不得抵抗关停」「不得隐藏推理」这个粒度，比以往任何伦理宣言都更可评估；六周公众咨询 + 年内修订版的节奏是认真的；「AI 不是人」的边界划得干脆。
没证实、要打问号的部分：自我起草、自我约束、自我评估——没有第三方核验机制，对比 Anthropic 引入外部评估员和 Jack Clark 提的「可验证 kill switch」，微软方案里「谁来检查微软」这个问题暂时没有答案。官方自己也列了待解难题：「human flourishing（人类福祉）」如何具体化、哪些条款的表述松到无法评估、多智能体场景怎么处理。
对不同的人，这事意味不同：如果你是企业客户，2027 年起 MAI 系模型会带着这套行为约束交付，现在提交咨询意见是影响规则成本最低的窗口；如果你是做 AI 治理、安全评测的从业者，一个巨大的市场正在被这份文件标出价格——身份认证、权限边界、行为审计、随时终止能力，这些「怎么控制模型」的基础设施，就是 Agent 时代的下一张门票。
参考来源
- Microsoft AI 官方公告（一手）— microsoft.ai/news/mai-co…
- Humanist AI Code of Conduct 正文（一手）— microsoft.ai/code-of-con…
- 路透社（权威媒体）— www.reuters.com/legal/litig…
- 卫报（权威媒体）— www.theguardian.com/technology/…
- The Verge（权威媒体）— www.theverge.com/news/994566…
- BBC News：Jack Clark 专访（权威媒体）— www.bbc.co.uk/news/articl…
- TechCrunch（垂直媒体）— techcrunch.com/2026/09/14/…
把安全立场拆成可评估的行为条款，比抽象伦理宣言更具落地价值。企业客户可抓住公众咨询的低成本窗口，AI治理与安全评测从业者则应关注行为审计、权限边界、随时终止等基础设施机会。