与埃森哲合作开展嵌入式评估

我们正与 Accenture 合作，对前沿 AI 开展独立评估。这是朝着我们 CEO 在文章《We Must Pace the Frontier》中所作承诺迈出的重要一步——将评估者嵌入 Anthropic 内部。

该合作将由 Accenture 旗下专注于 AI 的业务部门 Faculty 牵头，内容包括评估模型和开展 red-teaming、进行对齐评估，以及测试模型防护措施。Accenture 帮助众多行业的企业和政府部署 AI。他们对企业实际如何使用 AI 的理解塑造了其安全方法，他们也将把这一视角带入对我们模型的评估中。

Anthropic 和 Accenture 各自预计将在未来五年内投资至少 10 亿美元，用于建设这一领域的能力。

嵌入式评估是一种新做法，关于其将如何运作的许多细节仍在制定之中。与如今的外部评估者不同，嵌入式评估者将在 AI 公司内部工作，享有与员工相当的访问权限。这种权限使他们能够观察模型在训练中逐步成形，跟踪决定这些模型如何构建和部署的各项决策，并直接与员工交流。从这个有利位置出发，嵌入式评估者可以评估一家公司的运作方式，核实其是否履行了安全承诺，并识别盲点。他们还可以报告事件，让公众对收益与风险有更充分了解。

需要明确的是，独立嵌入式评估者并不会减轻我们的责任，反而有助于使责任更可验证。我们模型的安全性仍然是我们的责任。

目前，尚无标准规定嵌入式评估者应能访问哪些信息，或应如何报告他们的发现。也没有固定的体系来资助独立评估。长期来看，我们认为资金应来自集合基金或政府资源，正如我们在6月份的高级AI框架中所呼吁的那样。鉴于目前这两者都不存在，我们计划与不同评估者合作，采用不同的资助安排。

鉴于这项工作的重要性和紧迫性，Anthropic将直接资助埃森哲的工作。我们也在与METR及其他非营利评估者对话，以利用他们自身的资金试点嵌入式评估的要素。最终，我们认为前沿AI需要一个共享标准的评估者生态系统。

我们预计前沿实验室将同时与多家组织合作。我们的伙伴关系是非排他性的；Anthropic将在未来几周内宣布与其他评估者的合作，而埃森哲也将以类似身份与其他AI开发者合作。

我们将继续训练并发布前沿模型，希望独立评估者在此过程中与我们并肩工作。我们现在分享这些早期努力，以便人们和其他AI开发者能看到我们的流程。我们预计随着领域成熟，我们的方法也会演进，随着工作开始及我们引入更多评估者，我们将分享更多信息。