Skip to content

fix: 上游没正常走完 finish 时不再谎报成功(max_output_tokens / pause_turn / *-error / 无 finish 事件) - #39

Merged
MAXeaglet merged 2 commits into
MAXeaglet:masterfrom
xelr233:fix/issue-38-finish-reason
Sep 16, 2026
Merged

MAXeaglet merged 2 commits into
MAXeaglet:masterfrom
xelr233:fix/issue-38-finish-reason

Conversation

@xelr233

@xelr233 xelr233 commented Sep 14, 2026

Copy link
Copy Markdown
Contributor

修复 #38。

68664c2 修了 stop_reason 的一个成员('tool-calls' 连字符),方向完全正确 ——
但同一族里还有四个成员没处理,后果都比它更严重:上游明明截断了,下游收到的是「正常结束」。

现状

function mapFinishReason(reason) {
  switch (reason) {
    case 'tool-calls': return 'tool_calls';
    case 'length': return 'length';
    case 'stop': return 'stop';
    default: return reason || 'stop';       // ← 其余全部原样放行
  }
}
function mapAnthropicStopReason(finishReason) {
  ...
  default: return 'end_turn';               // ← 其余全部报成正常结束
}
情形 OpenAI 侧 Anthropic 侧 Responses 侧
max_output_tokens / model_context_window_exceeded 非法枚举 end_turn completed
pause_turn finish_reason:"pause_turn"(非法) end_turn completed
network-error 等 非法枚举 end_turn completed
无 finish 事件 直接 [DONE],连 finish_reason 块都没有 stopReason || 'end_turn' 无条件兜底 completed

CLI 侧的完整语义

// ① 截断类不止 'length'
function normalizeStopReason2(e){
  const t=(e??"").toLowerCase();
  return "tool_use"===t||"tool-calls"===t||"tool_calls"===t ? "tool_use"
       : "length"===t||"max_tokens"===t||"max_output_tokens"===t
         ||"model_context_window_exceeded"===t ? "max_tokens"
       : "end_turn"
}

// ② pause_turn 被续写循环吸收,永不外泄(Ph = 5)
for(let n=0;n<=Ph;n++){ ... if("pause_turn"!==o.rawFinishReason) break;
                        t.onContinuation?.({kind:"pause",attempt:n+1,maxAttempts:Ph}) }

// ③ provider 中途断掉
function isNetworkFailureFinish(e){ return void 0!==e && /^(?:network|connection|upstream)[-_\s]?error$/i.test(e.trim()) }
if (isNetworkFailureFinish(s)) throw transportError({ ..., status:502, retryable:!0 });

// ④ 没有 finish 事件(m 就是 sawFinish 标志位)
if(!m) throw transportError({ message:"Stream ended unexpectedly before completion (no finish event) — response was truncated",
                              status:502, retryable:!0 });

改法

  • mapFinishReason 全量归一化:length 家族(含 max_output_tokens /
    model_context_window_exceeded)→ length;network|connection|upstream[-_ ]error →
    upstream_error。未知值原样返回,不再静默折成 stop。
  • mapAnthropicStopReason 增加 pause_turn / refusal 原样透出:pause_turn 是
    Anthropic 的合法枚举,表示「这一轮被暂停,后面还有」,CLI 是靠自动续写把它吸收掉的;
    代理不自动续写,就必须如实上报。
  • 新增 toOpenAIFinishReason:pause_turn → length(OpenAI 没有对应枚举,
    折成 length 至少有「输出不完整」的含义,折成 stop 就是谎报完成)。
  • 新增 incompleteUpstreamDetail(sawFinish, finishReason) 与 incompleteUpstreamError(),
    三条协议共用一套判定。
  • 六处补 sawFinish 跟踪:没走完 finish 时,非流式报 502 可重试,
    流式发 error 事件而不是补一个假的结束标志(message_stop / [DONE])。
  • Responses 流式原先直接比对原始值 finishReason === 'length',改为用归一化后的值 ——
    否则 max_output_tokens 会漏判成 completed。
  • 流式路径把「没有正常结束」判定排在「零输出」之前:上游压根没发 finish 时,
    「no finish event」才是根因,按 429 报会把真正的原因盖掉。

关于 sawFinish 的口径

判定的是「上游给过任何完成信号」:终态 finish,以及本代理一直在处理的 finish-step。
(finish-step 并不在 CLI 的事件集里 —— dist/cli.mjs 中 0 处出现 —— 但既然代理认它,
就不能让它变成「没完成」,否则会把原本正常的响应误判成 502。真正要拦的是
「一个完成信号都没有就断了」。)

没有做自动续写

CLI 遇到 pause_turn 会重发同一个请求体并拼接 content / usage,最多 6 次。
本 PR 没有照做,理由是:续写语义依赖服务端行为(重发是否幂等、返回的是续接内容还是从头再来),
在没有真实 key 的情况下无法验证;而「如实上报 pause_turn」不会丢内容 ——
下游(尤其是 Anthropic 原生 SDK)本来就知道该怎么续。
如果确实要做续写,那应该是另一个 PR,并且需要先确认服务端语义。

测试

新增 test/stream-end.test.mjs:三种协议 × 四种情形 = 12 条,外加 3 条回归
(正常 stop 仍照常完成、tool-calls 仍报 tool_use/tool_calls、max_output_tokens
在 Responses 上报 incomplete),共 15 条。

node --test test/*.test.mjs   →  pass 15 / fail 0

只带这一组测试所需的脚手架:test/helpers.mjs 与 package.json 的 test 脚本。
helpers.mjs 与 PR #34 中的文件逐字节一致,两边先后合并都不会冲突
(git 对「两侧新增同一份相同内容」不视为冲突),所以本 PR 不依赖 #34。

复验

curl -sSL "$(curl -sS https://registry.npmjs.org/command-code/latest \
  | grep -o 'https://registry.npmjs.org/command-code/-/command-code-[^"]*\.tgz' | head -1)" \
  | tar xzO package/dist/cli.mjs > cli.mjs

grep -o 'function normalizeStopReason2([^}]*}' cli.mjs
grep -o 'function isNetworkFailureFinish([^}]*}'  cli.mjs
grep -o 'Stream ended unexpectedly before completion[^"]*' cli.mjs
grep -o 'Ph=[0-9]*' cli.mjs

Loading
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants