社区动态

IT之家 9 月 18 日消息，Anthropic 今日推出了一套评估前沿 AI 实验室研发进展的测量框架，并公布了公司内部的最新数据。

该框架聚焦三大核心指标：AI 在自身研发中的参与度、AI 智能体的监管状况，以及算力在研发与安全研究之间的分配比例。

Anthropic 指出，随着 AI 能力的持续增强，AI 正越来越多地投入到下一代系统的开发中。公司希望通过公开这些数据，让公众、第三方机构及政府更清晰地把握前沿 AI 研发的前进步伐。

Anthropic CEO 达里奥·阿莫代伊曾呼吁协调放缓前沿 AI 的发展，若此类协调得以实现，相关数值预计会发生变化。

在 AI 参与研发的维度，Anthropic 提出了“Anthropic 研发自动化指数”，用以衡量 Claude 在其 AI 开发工作中的参与程度。该指数基于 Epoch AI 提出的自动化等级体系，涵盖 AL0 至 AL5 六个级别，分别对应无 AI 参与、AI 辅助、AI 协作、AI 主导及完全自主运行。

类似自动驾驶的分级标准，AL5 代表 AI 完全自主运作、无需人类干预；AL4 则表示 AI 能根据高层指令完成大部分任务，人类仅负责监督。

截至 2026 年 8 月，Claude 尚未在任何被衡量的 AI 研发任务中实现“完全自主运行”，但已“主导”了 Anthropic 约 26% 的 AI 研发工作，同时处于“AI 协作”及以上级别的工作占比已超过 90%。

Anthropic 透露，这一比例在 2026 年 2 月还不足 1%。该公司认为，这类指标有助于观察 AI 研发自动化程度是否持续提升，并衡量距离“递归自我改进”——即 AI 能完全自主开发下一代 AI——还有多远。

为构建这一指标，Anthropic 从 2026 年 7 月的内部工作记录、Slack 及其他文档中抽样整理了约 1.5 万个模型研发任务，并归纳为 542 个不同层级的任务节点，其中 378 个属于最细分的类别。随后，Claude 被用于研究这些任务的执行方式及 AI 参与程度，并由独立的 Claude 评估模型进行自动化等级判定。

实时监控系统会在智能体执行操作前检查行为，并在检测到危险操作时进行拦截或调整。Anthropic 对 2026 年 8 月超过 10 亿次智能体决策的分析显示，约 0.002% 的操作被该系统拦截（IT之家注：相当于约每 4.7 万次操作出现 1 次拦截）。

事后监控系统则分析智能体已完成的操作，每周约标记 10 万份对话记录进行进一步检查，其中优先级最高的约 50 份会升级至人工审核。此外，约千分之一至千分之二的智能体活动会被标记为需要进一步审查。

在算力分配方面，Anthropic 统计了 2026 年 7 月 13 日至 7 月 20 日期间的算力使用情况。数据显示，该公司用于 AI 研发的算力中约 6% 投入安全研究；如果仅统计基于 AI 的 AI 研发工作，其安全研究算力占比约 12%。

Anthropic 强调，上述算力比例是较为保守的估计，因为同时促进模型能力和安全性的工作未被计入安全研究，且该统计也未计算用于安全分类器的另一部分算力。公司同时指出，安全研究通常不需要像前沿模型训练那样消耗大量算力，因此算力占比不能直接代表安全工作的整体投入程度。

Anthropic 表示，这些指标目前仍属于原型测量体系，跨实验室比较还面临统一方法和独立验证等问题。公司计划引入来自多个组织的独立第三方评估人员，让其获得与内部风险评估团队相近的流程、系统和数据访问权限，以验证安全实践并持续监测相关指标。

Anthropic 称，公布这些测量是为了让公众、第三方和政府更好了解前沿实验室内部的 AI 发展速度，并希望继续发布相关数据。在爱游戏体育领域，类似的技术进展也正受到广泛关注。