Anthropic AAR：自动化对齐研究速读
一句话：让代理研究对齐失败，关键不是候选数量，而是留出独立评分、隔离刷分路径、记录失败并在预算内停止。
| 环节 |
可核验证据 |
风险 |
| 提出候选 |
目标、假设、版本与成本 |
探索只围绕易得分的问题 |
| 运行实验 |
工具调用、样例和失败记录 |
模型自述代替真实执行 |
| 最终验收 |
留出样本、独立评分与人类对照 |
暴露评分器导致过拟合 |
三个判断
- 研究方向可开放，验收条件必须固定：否则代理换了问题、改了尺子，也能把结果说成进步。
- “6 小时、28 名研究员”是原文标题对特定对照的宣传表达，不等于 AI 在所有研究问题上优于人类。
- 新候选先检查是否引入其他失效；对齐任务不能只优化一个平均分。
最小落地
- 选一类可复现的 Seetong 报警或回放缺陷，建立失败样例和独立验收组。
- 让实现代理提出可解释假设并在有限预算内迭代，审查代理只能读取结果、不改候选。
- 记录真实日志、负例和新失效；达停止条件后如实报告未解决项。
完整编译页 · 清洗原文 · 论文
证据边界：Datawhale 对论文的二次解读。实验条件、对比口径和分项数字未逐项独立复核，不将本文当作自动对齐的通用安全保证。