DeepSeek-R1 推理模型 <think> 破坏 JSON 解析或陷入无限复读死循环

DeepSeek-R1 等推理模型固定先输出 `<think>...</think>` 再输出正文。若强行开启顶层 `"format": "json"` 语法锁，会强行压制思考过程导致推理智商断崖式下跌；若不开启则直接破坏下游 JSON.parse。

1. 调用推理模型时不加顶层 `"format": "json"`，允许其正常完成 `<think>...</think>` 思考链。
2. 在下游代码或 n8n 节点中先用一行正则剥离 `<think>[\s\S]*?<\/think>` 及代码块标记，再执行 JSON.parse()。

export function parseReasoningJson(raw: string) {
  const withoutThink = raw.replace(/<think>[\s\S]*?<\/think>/gi, '').trim();
  const cleanJson = withoutThink
    .replace(/^\s*```(?:json)?\s*/i, '')
    .replace(/\s*```\s*$/i, '')
    .trim();
  return JSON.parse(cleanJson);
}

[边界说明]工程选型建议：若仅需高速确定性字段提取而无需多步逻辑推理，应直接选用 Qwen2.5-Instruct 而非 R1 推理模型。

DeepSeek-R1 官方技术报告明确指出：在量化后的 R1 蒸馏模型上设置 `temperature: 0`（贪婪采样）极易导致注意力头在自我反思词元上陷入无限复读死循环。

1. 将推理模型的采样参数固定在官方推荐甜点区间：`temperature: 0.6`、`top_p: 0.95`。
2. 在 Q4_K_M 量化档位下可配合设置 `repeat_penalty: 1.05` 进一步抑制长文复读。

{
  "model": "deepseek-r1:14b",
  "options": {
    "temperature": 0.6,
    "top_p": 0.95,
    "repeat_penalty": 1.05,
    "num_ctx": 16384
  }
}

[边界说明]同时注意：调用 DeepSeek-R1 系列模型时建议将所有指令合并放入 user 消息中，避免额外 system prompt 干扰思考模板。

`max_tokens`（或 `num_predict`）同时统计 `<think>` 内部词元与最终回答词元。若沿用普通模型的 512/1024 上限，模型在思考阶段就会把配额耗尽。

1. 调用 DeepSeek-R1 时，将 `num_predict` / `max_tokens` 至少设为 `4096`，并将 `num_ctx` 设为 `16384`。
2. 在消费结果前先检测是否包含闭合的 `</think>` 标签，若无则判定为思考超时截断。

if (rawResponse.includes('<think>') && !rawResponse.includes('</think>')) {
  throw new Error('Reasoning model exhausted max_tokens inside <think> block before producing final answer');
}

[边界说明]实测表明，中等复杂度的代码分析或排障任务平均会消耗 600–1,800 个思考 Token 后才会开始输出正式结论。