经得起生产环境检验的研究。

打开模型，而不是绕着它猜

模型答得好，却没人说得出为什么——这样的模型没人敢审计。可解释性研究就是要给这个问题补上结构：回路、特征，以及经得起检验（而不是只停留在口头）的干预手段。

我们只认一条标准：发现必须能改变行为。找到了机制，就要能引导它、破坏它，还要能预测干预的后果——而且要在分析从没见过的任务上也做得到。

• 把“什么时候拒绝、什么时候含糊”这类行为，追到具体的回路上。
• 提取出来的特征，换模型规模、换检查点，依然稳定。
• 引导实验先押注预测再动手，灵不灵都发表。
• 工具链开放到这个程度：外部研究者不用我们搭手，就能复现。

一个解释如果没法用实验证伪，那它说的是我们的信心，不是模型。

让行为对得上意图

对齐不是讲礼貌。它衡量的是两件事之间的距离：你让它优化什么，它实际做了什么。任务越长、反馈越稀疏，这段距离就越大。

• 训练目标在设计上就承认：很多任务没有唯一正确的答案。
• 顶着压力也要诚实、校准——包括被调教得过于讨喜的那些地方。
• 可扩展监督：产出速度超过人审速度时，人仍然要站在回路里。
• 长程任务里的行为漂移，测出来，而不是想当然。

哪些路没走通

光靠偏好调优填不平这道沟：模型学到的是“哪种答案会被批准”，不是“哪种答案是对的”——两码事。我们的几篇阴性结果，就是被这个区别绊了几跤之后写下的。

作为研究仪器的基础设施

安全工作的瓶颈常常不是点子，而是验证一个点子的代价。所以钱花在了水管上——让假设一天之内就能跑起来：训练基础设施、评测框架、可复现性保障。

• 评测可以确定性回放——几个月后，分数照样推得出来。
• 污染检查常驻运行，不是发表前走过场。
• 集群调度不欺负小实验，不让它们排在大实验后面干等。

假设有人正耐心地探测这个模型

红队测试找的不是演示里会翻车的问题，而是演示里看不出来的问题：藏在检索内容里的注入指令、悄悄越权的工具调用、还有那种模型一眼认出来就开始“表演”的评测环境。

• 威胁模型写在功能上线前，不是写在事故后。
• 外部红队有权发表结论，公关团队拦不住。
• 发现要回流进扩展政策，不是变成一页 PPT。

这一切正如何落在真实工作上

总量数字会盖住真正要紧的细节：哪些任务交给了模型、发生在哪些职业里、到底是增强了人还是替换了人。我们定期发布基于匿名聚合数据的指数，方法全公开，批评尽管来。

• 按任务度量，不按岗位——岗位不过是任务的打包。
• 分区域、分行业，样本量和数字一起摆出来。
• 替代风险也要调研，不能只看采用率。

模型最有用的地方，是搜索空间最枯燥的地方

真正值得一提的收获，很少是模型自己冒出了洞见，而是它接过了研究里最乏味的中段——筛选候选、起草流程、 整理文献——让人更早碰到有意思的问题。

• 生物与材料发现，最终听湿实验的。
• 文献综述的每条引用，都核对过原文。
• 也给药费紧张的实验室做工具。

在影响还软的时候研究它

大多数技术的社会影响，都要等塑造它的设计决策过去几十年后才有人记录。我们等不起，趁研究还能改变产品就先做——哪怕结果对我们自己并不好看。

• 信任、依赖、技能会不会退化——做纵向追踪。
• 可及性：谁用得上、有哪些语言、付得起什么价。
• 公司外的独立研究者，有钱可申请。

近期论文

预印本与同行评审工作，按时间倒序。可公开的代码与数据均已附链接。