Skip to content

docs(cognitive-context): 015 Memadapter 精读入库——记忆诱发谄媚的检索后治理 - #1217

Merged
ThreeFish-AI merged 2 commits into
feature/1.x.xfrom
ThreeFish-AI/memadapter-counterfactual-adaptation
Oct 28, 2026
Merged

ThreeFish-AI merged 2 commits into
feature/1.x.xfrom
ThreeFish-AI/memadapter-counterfactual-adaptation

Conversation

@ThreeFish-AI

Copy link
Copy Markdown
Owner

摘要

guided-learn 全流程交付《Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy》(arXiv:2610.05162v1,2026-10-04,CC BY 4.0)精读笔记,归入 cognitive-context 015。

一句话定位:MemAdapter 不决定「哪些记忆可用」,而决定「每条记忆在当前任务里能干什么、不能干什么」——把记忆安全从内容属性改写成任务条件属性。

交付物

类别 内容
精读笔记 docs/research/cognitive-context/015-memadapter-counterfactual-adaptation.md(实测字数 3985 ≤ 4000 上限,计数口径=中文字符+英文词元、不含 frontmatter)
原型 assets/memadapter_lab.py(纯标准库、确定性;九场景变体阶梯 3/9→7/9→8/9→9/9,E1–E4 破坏实验实测退化)
论文原图 4 张(图 1/2a/2b/3,CC BY 4.0 署名引用)入 source-figures 统一原图库并登记台账
archify 图 memadapter--three-stage-pipeline 四件套(finalize 四门回执随产物入库)
登记面 research readme / knowledge-map / mermaid README / CHANGELOG 四处同步

内容要点

  • 问题:受控实验证「准确且相关的记忆也诱发谄媚」(96.0%→77.3%,19.4% 翻错全部跟随记忆);风险不在内容在「被放进什么任务里用」。
  • 机制:检索后三道纯提示工序——反事实归纳任务无关使用边界(式 1–3,不看当前查询)→ 任务条件化使用指令(式 4)→ 证据锚定生成+支撑轨迹逐句核验(式 5);急救案例走查 1.5/5→5.0/5。
  • 实证:三基准五记忆系统三骨干:谄媚 FR@3(PersistBench,DeepSeek 单骨干)最多 −31pp、五系统平均分极差 34.68→4.97 收敛、消融三段递进、运行时与基线同量级。
  • 批判边界(5 条):无 Limitations 节、LLM 判官模型未披露、75 实例无置信区间、有益使用指标主表与附录表 7 互相矛盾(表 1 MemoryBank +6.00 vs 表 7 −1.00)、无显著性检验。
  • 五规律三争议(过滤派 vs 调节派且跨域维度过滤仍有独到价值 / MemSyco-Bench 一作即本文共同一作的同源自证 / 抗谄媚与个性化权衡未解)。

质量门禁

  • 源稿对账:38 行 + 返工 6 行复判 + 增量 10 行,COUNTS 全零;论文自身表 1/表 7 矛盾已在正文两说并陈。
  • 保真核对:INV 0/0、FENCE/REFS/FIG OK、HEDGE OK、CLEAN PROSE OK(v2 基线,勘误=v2 补四行 TASL 署名)。
  • 盲评:3 章 × 2 判官,ch1 返修回补、ch3/ch6 平局保留成稿。
  • 外行四测:读懂 ✓ / 看会 ✓(一轮修文档+同构变式复测)/ 听知题目 ✓(专名残留记已知局限)/ 学通 ✓;验收由 LLM 代理完成,未经真人验证。
  • pre-commit 全过;archify finalize 四门全绿。

🤖 Generated with Claude Code

- 精读笔记 015-memadapter-counterfactual-adaptation.md(arXiv:2610.05162v1,3985 字):受控实验证「准确记忆也诱发谄媚」(96.0%→77.3%)→ 检索后三道工序(反事实归纳边界 式1–3 → 任务条件化指令 式4 → 证据锚定生成+支撑轨迹核验 式5);三基准五系统三骨干主结果、消融与运行时;五规律三争议、批判边界五条(含主表与附录表 7 有益指标互相矛盾)。
- 纯标准库原型 memadapter_lab.py:九场景确定性仿真,变体阶梯 3/9→7/9→8/9→9/9,E1–E4 破坏实验实测退化。
- 论文原图 4 张(图 1/2a/2b/3,CC BY 4.0)入 source-figures 并登记台账;archify 三阶段机制图四件套(finalize 四门回执随产物)。
- 登记面同步:research readme、knowledge-map、mermaid README、CHANGELOG。

🤖 Generated with [Claude Code](https://github.com/claude), [CodeX](https://openai.com), [Gemini](https://github.com/apps/gemini-code-assist)
Co-Authored-By: Aurelius Huang<threefish.ai@gmail.com>
…),解 CHANGELOG 与 source-figures 台账冲突;

CHANGELOG [Unreleased] 保留两侧条目(015 在上,178/179 依远端序);source-figures README 拼接 Memadapter(cognitive-context)与 Harness²(agent-harness)两节。

🤖 Generated with [Claude Code](https://github.com/claude), [CodeX](https://openai.com), [Gemini](https://github.com/apps/gemini-code-assist)
Co-Authored-By: Aurelius Huang<threefish.ai@gmail.com>
@ThreeFish-AI
ThreeFish-AI merged commit 63e1dc9 into feature/1.x.x Oct 28, 2026
1 check passed
@ThreeFish-AI
ThreeFish-AI deleted the ThreeFish-AI/memadapter-counterfactual-adaptation branch November 1, 2026 03:15
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant