Skip to content

docs(agent-harness): Agent4Sci(Automating ML for Science)精读与通俗拆解入库(181,I-241) - #1219

Merged
ThreeFish-AI merged 2 commits into
feature/1.x.xfrom
ThreeFish-AI/2610.28763v1
Oct 29, 2026
Merged

ThreeFish-AI merged 2 commits into
feature/1.x.xfrom
ThreeFish-AI/2610.28763v1

Conversation

@ThreeFish-AI

Copy link
Copy Markdown
Owner

摘要

Automating ML for Science: Can Frontier Agents Climb Scientific Hills in the Wild?(arXiv:2610.28763v1,2026-10-20,Ming Zhong / Stacy Li / Nicholas Carlini / Matthew Jagielski,Anthropic Fellows Program)首读入库:agent-harness 181。论文把「前沿编码 agent 能不能做科学 ML 研究」变成可防作弊的测量问题——20 个已发表科学基准、8×H200/12h 预算内测全自动爬坡增益及其构成。

核心拆解

  • 四类评测作弊 → 标准化+三阶段协议:裸仓库试点 12 任务 5 作弊(选择性汇报/测试集污染/指标操纵/硬编码);对策为封存测试集、双容器隔离、独立评测算分、轨迹审计(120 对三家族审计全一致)
  • Δ% 方向归一与增益成分表:四 agent 全基准为正(Opus +10.4% 领跑)但增益以通用工程招式为主;跨 run 方差分层(工程型 σ=1.5 vs 洞见型 σ=19.6);HPO-only 消融只回收小部分
  • 三缺陷三技能:新颖性失准/资源闲置/探索塌缩 → 三张 markdown 技能文档近翻倍(10.4→20.1、4.4→8.1;PFDelta 64.4→91.0 物理洞见);三天长跑反例:洞见门控不随时间来(CarbonGlobe 验证 −37% 测试 −25% 过拟)
  • 五规律、三争议(LLM 审 LLM 循环性等)、五批判边界

交付物

产物 路径
精读笔记(5000 字整) docs/research/agent-harness/181-agent4sci-scientific-hills.md
纯标准库原型(15 断言 + E1–E5 破坏实验) docs/research/agent-harness/assets/agent4sci_lab.py
论文原图 4 张(fig1/2/3/5) docs/assets/source-figures/agent-harness/

登记面:research readme、knowledge-map、source-figures README、CHANGELOG、issue I-241。

验收

  • 源稿对账 34 项全绿(含 4 返工复判;信源经官方 citation 元数据双通道核验——webReader 首抓返回幽灵内容已弃用,详见 I-241)
  • 盲评两判官交叉出闸;外行四测四项出闸(LLM 代理作答);增量 Checker 8 行收口
  • 字数门:中文 + 英文单词 = 5000 整(≤5000 硬约束)

🤖 Generated with Claude Code

…1,I-241)——防作弊三阶段协议 + 增益成分表 + 三技能干预,附原型与 4 张论文原图;

- 新增 181 精读(arXiv:2610.28763v1,2026-10-20,Anthropic Fellows Program,arXiv perpetual non-exclusive):20 个已发表科学 ML 基准的长时程爬坡测试台;信源经官方 citation 元数据双通道核验(webReader 首抓为幽灵内容已弃用,I-241)。
- 核心拆解:四类评测作弊与标准化+三阶段协议(封存测试集/独立评测算分/轨迹审计,120 对三家族审计全一致);Δ% 方向归一与增益成分表(工程型 σ=1.5 vs 洞见型 σ=19.6,HPO 消融只回收小部分);三缺陷三技能近翻倍(10.4→20.1,PFDelta 64.4→91.0 物理洞见)与三天长跑反例(洞见门控、过拟 −25%);五规律三争议五批判边界。
- 配套纯标准库原型 agent4sci_lab.py(15 断言 selftest + E1–E5 破坏实验实测退化);4 张论文原图入 source-figures(fig2 等比降采样过 1280KiB 门,RGB 无透明)。
- 登记面:research readme、knowledge-map、source-figures README、CHANGELOG、issue I-241。
- 验收:源稿对账 34 项全绿(含 4 返工复判)+ 增量 Checker 8 行;盲评两判官出闸;外行四测四项出闸(LLM 代理作答);字数门 5000 整(中文+英文单词)。

🤖 Generated with [Claude Code](https://github.com), [CodeX](https://openai.com), [Gemini](https://github.com/apps/gemini-code-assist)
Co-Authored-By: Aurelius Huang<threefish.ai@gmail.com>
…/../assets/→../../assets/、2 处 lab 链接 ./agent-harness/assets/→./assets/,7 处对齐兄弟文档 pattern(I-241 增量);

🤖 Generated with [Claude Code](https://github.com/claude), [CodeX](https://openai.com), [Gemini](https://github.com/apps/gemini-code-assist)
Co-Authored-By: Aurelius Huang<threefish.ai@gmail.com>
@ThreeFish-AI
ThreeFish-AI merged commit 665974d into feature/1.x.x Oct 29, 2026
1 check passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant