reinvent-the-punch-tape

[giscus[bot]]

reinvent-the-punch-tape

Agent 只有一个确定的会话。它是永续的，不结束、不分叉，只是不断向前。

https://psiace.me/zh/posts/reinvent-the-punch-tape/

[shenxiangzhuang]

锚点通常由一次 handoff 产生。当 Agent 识别到阶段已经变化，或者继续沿用当前重建起点会让状态变得混乱时，它会执行一次 handoff：把对下一阶段仍然必要的最小结构化状态写入日志，创建一个新的锚点，之后的状态重建从新锚点开始。

这里打包的不是对历史的摘要，而是面向下一阶段的状态；历史仍然完整地留在日志里。

请教下这里是说“锚点”的创建并不是“对历史的摘要”？ 那怎么实现这里的“锚点”呢？ 我感觉只要不是完全无关的任务，那Agent在handoff时对历史的摘要应该是不可避免的。当然如果“锚点”的定义是包含“摘要”的，那么关键是需要证明“锚点”的设计比摘要更有效，整个机制才能算是有效的吧。

[zdyxry]

类似于 Pi 这里的方式么？

[zdyxry]

https://github.com/badlogic/pi-mono/blob/main/packages/coding-agent/docs/compaction.md#how-it-works

[PsiACE]

@zdyxry 感谢，我今天仔细看了一下，还是有一些想法上的不同。可能我在文章中没有表达明确，比如：我希望 ai 能够有机会自主决定如何灵活的选择上下文，更具体地，某几组下标；再比如，我希望能够锚点和日志的机制是完全无损的，当然现在我们不得不因为一些原因看到工程上会有不少 summary 和 compact ，但是这些并不本质，或许有一天我们能看到一些更模型侧的动作。

[tmdhhl]

上下文窗口超出之后，auto_handoff会丢失截断之前的历史会话。只用当前的prompt给到大模型，那这次对话不就少了历史会话中的背景等信息？

[PsiACE]

上下文窗口超出之后，auto_handoff会丢失截断之前的历史会话。只用当前的prompt给到大模型，那这次对话不就少了历史会话中的背景等信息？

@tmdhhl 是的，所以在实践上，会在 anchor 放一些类似 summary 或者 ref id 的信息，并且提供一组用于检索 tape 上信息的工具

[tshu-w]

问题是我提的hhh，很深入的想法，感谢分享~

[qianyizhang]

是的。这也是描述的最后一点：引入subagent。
问题是，subagent的经历会被怎样保存：

• 压缩成文件？
• 本身也是一条无损tape？再把tape索引回来？

我在想显示地构建成manager-worker(s)是不是更简单清晰一点：

• 底层都是以tape构建的agent
• 人只与manager交流，manager负责workers的生命周期
• agent和人一样，only live one tape (life)

[PsiACE]

@qianyizhang 你可以看看 bub 里面 tape 的做法，也可以在这个想法上发展自己的做法，主要在于，在你的视角里，这些是独立的个体，还是一个整体，我想这就是两种范式的根本差异了

[qianyizhang]

在啰嗦几句

1. 本质是通过引入一层（组织级）抽象做separation of concern: manager为绕人，worker围绕具体事
2. tape本身是无损的，但可以按人工作习惯切分：人累了需要休息:大脑放空、回放：：manager每段context window快满了需要休息：clear context window、compaction。这2个周期可以以天为单位同步完成。

这么想，agent按席位收费似乎也可以😂

[qianyizhang]

🙏感谢分享

[PsiACE]

@qianyizhang 嗯嗯，这些都是后续具体的策略设计了，我觉得纸带和锚点的意义在于重新讨论了上下文问题的基本模型。

而且其实有很多工作都可以依赖这个进行，比如 agent 之间的通信和共享历史之类的。

[MyPrototypeWhat]

感谢分享,最近也在写上下文工程库,很多观点不谋而合
context-chef