Anthropic 揭示“AI 训练 AI”新方法，比人类研究员成本更低、速度更快

IT之家 8 月 29 日消息， 用 AI 模型训练其他 AI 模型 ，正成为新一代 AI 实验室重点探索的方向。当地时间 28 日，Anthropic 研究员计划的一名研究人员展示了这种思路真正落地后可能呈现的样子。 Anthropic 发布了最新论文《自动化研究员能够可靠缓解对齐失效》，介绍如何利用 AI 系统改善模型在一系列对齐基准测试中的表现。研究团队针对 10 种具体的失调行为设置测试，自动化系统最终 让全部 10 项指标都有所改善，同时没有牺牲模型的整体能力 。 这套系统由 Anthropic 研究员计划成员陈岳翰（音译）领导开发，工作流程与传统科研相似。自动化系统会先查阅已有文献，提出训练方法，再按照方案训练模型 30 分钟，并通过多轮尝试逐步提高测试成绩。 有效方案会留下，无效方案则被淘汰，使整个研究过程能够快速扩大规模 。 论文指出，总体来看，这些结果初步证明，自动化对齐后训练有望在近期成为一种真正可行的方法。...