Skip to content

feat(agent): 256K default context window capped per model; compaction scales with the window; MAX_STEPS 12, configurable - #228

Merged
avabbbb merged 1 commit into
mainfrom
harness/context-window
Nov 19, 2026
Merged

avabbbb merged 1 commit into
mainfrom
harness/context-window

Conversation

@avabbbb

@avabbbb avabbbb commented Nov 19, 2026

Copy link
Copy Markdown
Owner

做了什么

上下文窗口从写死 64k 改成默认 256K(262144),按模型封顶;压缩阈值随窗口按比例走;MAX_STEPS 默认 12 且可配置。

  • packages/core/src/llm-context.ts(新):DEFAULT_CONTEXT_WINDOW_TOKENS = 262144;KNOWN_CONTEXT_LIMITS 模型上限表(去网关前缀、小写匹配,覆盖全部内置预设模型);resolveContextWindow / agentContextWindow = min(服务 context_window → 全局 agent_context_window → 256K, 模型已知上限)。未知模型用配置值,溢出仍走原有「报超长 → 狠压一次重试」。
  • compaction.ts:compactionPolicyFor(window),预留 = 窗口 × 1/8、保留最近 = 窗口 × 1/4(旧 64k/8k/16k 的比例);DEFAULT_COMPACTION = 256K 那一点(预留 32768、保留 65536)。
  • host.ts:每个 Run 按所选模型算窗口,compaction 默认 compactionPolicyFor(contextWindow);llm_runtime 记 context_window / max_steps。新 deps contextWindow / defaultMaxSteps(只改了常量、startRun 的 maxSteps 一行和 llm 解析后两行,没碰 emit / reasoning 分支)。
  • agent/limits.ts:MAX_STEPS = 12、normalizeMaxSteps(1–40);请求 max_steps > 设置 agent_max_steps > 12。
  • config.ts:设置 JSON 加 agent_context_window(0 = 默认)、agent_max_steps(默认 12)、llm_api_configs[].context_window(0 = 未设)。只是设置 JSON 字段,不动 SQLite 表结构。
  • GET /api/agent/runtime/models:每个模型多 context_limit(已知上限 / null)和 context_window(当前设置下的实际窗口)。
  • 文档:DESIGN.md §8(步数、压缩、窗口说明和各模型实际窗口)。

测试

  • 新增 backend-ts/test/agent-context-window.test.ts(10 个):默认 / 封顶 / 配置优先级、预设模型全有上限、目录字段、比例、40K token 输入在 256K 不压而 32K 模型会压、提示词「最多调用 12 轮工具」、设置归一化、经 /api/config 的 run 实际窗口与步数。
  • agent-models.test.ts 更新目录断言。
  • backend-ts tsc --noEmit ✅;vitest run 29 files / 216 tests 全过。

…n scales with the window; MAX_STEPS 12 and configurable
@avabbbb
avabbbb merged commit 3e78b26 into main Nov 19, 2026
13 checks passed
@avabbbb
avabbbb deleted the harness/context-window branch November 19, 2026 07:40
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant