Qwen3.5-4B
理解能力专项增强技术方案

1. 背景与目标

原始 Qwen3.5-4B 已具备通用对话与思考能力，但 4B 参数规模决定了其开放领域知识、 长链抽象推理和复杂指令稳定性存在上限。当前目标不是扩大知识量，而是提高“听懂、补全、判断、拆解和路由”的能力。

1.1 成功定义

• 同一知识条件下，模型对用户真实意图、约束、指代和歧义的识别明显优于原始模型。
• 不知道事实时优先形成检索需求，不把缺失知识伪装成理解结论。
• 在多轮对话中，能区分长期目标、当前任务、用户临时修正和已废弃条件。
• 增强后不明显损害通用表达、基础推理、中文自然度和工具调用格式稳定性。

1.2 非目标

• 把 4B 全面训练成 32B 级别的通用模型。
• 把百科、新闻、代码库和个人记忆写入模型参数。
• 通过更长回答或更长思维链制造“更聪明”的表象。
• 第一阶段直接做全参数训练、模型结构改造或强化学习基础设施。

2. 能力边界

3. 技术决策

3.1 不采用的底层改造

4. 总体架构

模型作为“认知核心”，外部知识作为可更新的证据层。理解与回答之间增加稳定的中间表示。

4.1 快慢双路径

4.2 依赖方向

5. 理解中间层（Understanding IR）

中间层不是给用户看的“思维链”，而是供系统路由和校验使用的结构化语义表示。 生产环境默认不向前端暴露。

{
  "intent": {
    "primary": "用户真正要完成的目标",
    "secondary": ["次要目标"],
    "confidence": 0.91
  },
  "context_refs": [
    {"mention": "这个", "resolved_to": "上一轮讨论的训练方案"}
  ],
  "constraints": {
    "explicit": ["只增强理解能力"],
    "implicit": ["知识允许外部获取", "需要本地可运行"]
  },
  "ambiguities": [],
  "missing_information": [],
  "knowledge_requests": [
    {
      "query": "当前模型/框架兼容性",
      "source_type": "official_docs",
      "freshness": "latest"
    }
  ],
  "plan": [
    "建立基线评测",
    "生成理解专项数据",
    "执行 QLoRA SFT",
    "执行偏好优化",
    "回归测试并部署"
  ],
  "answer_policy": {
    "mode": "deep",
    "must_cite": true,
    "escalate": false
  }
}

5.1 设计原则

• 字段少而稳定：只保留会影响路由、回答或评测的语义。
• 允许空值：模型不应为了填满 JSON 而制造歧义或缺失信息。
• 区分事实与假设：显式条件、隐含条件和系统推断必须分开。
• 置信度仅作辅助：不能把模型自报置信度当作真实概率，应结合规则和校准集。

6. 数据工程

效果上限主要由数据决定。训练数据必须围绕“理解错误”设计，而不是围绕“知识问答”设计。

6.1 数据构成建议

6.2 数据规模

以上为工程起始范围，不是效果保证。应由学习曲线决定是否继续扩充。

6.3 教师蒸馏流水线

1. 收集真实或仿真的多轮对话，只保留与理解能力相关的样本。
2. 强教师模型生成：真实意图、约束、指代、歧义、知识缺口、正确行动和最终回答。
3. 使用第二个教师或规则进行批判，重点寻找遗漏约束和虚构信息。
4. 生成至少一个“表面理解/错误行动”负例，形成 DPO 数据。
5. 对高难样本进行人工抽检；优先修正标签逻辑，而不是润色文字。

6.4 防止知识污染

6.5 数据格式

{
  "messages": [
    {"role": "system", "content": "你是理解与任务路由核心。"},
    {"role": "user", "content": "用户历史、当前消息、可用工具与外部证据"},
    {"role": "assistant", "content": "结构化 Understanding IR + 最终回答"}
  ],
  "metadata": {
    "capabilities": ["coreference", "constraint_extraction"],
    "difficulty": 3,
    "requires_external_knowledge": false,
    "source": "synthetic+human_reviewed"
  }
}

7. 训练方案

7.1 LoRA 目标层

# 伪代码：先检查，再配置；不要假设模块名称
for name, module in model.named_modules():
    if is_linear(module) and name.startswith("language_model"):
        print(name, module.__class__.__name__)

# 推荐原则
target = "语言骨干中的主要 Linear 层"
exclude = ["vision_encoder", "embed_tokens", "lm_head"]
strategy = "先小范围注意力/DeltaNet投影；不足时再扩至 all-linear"

LoRA 冻结原权重并训练低秩更新矩阵，可显著减少可训练参数；适配器可合并回基座， 便于部署和回滚。^[3]

7.2 起始超参数

7.3 硬件策略

7.4 训练技术栈

Transformers PEFT TRL bitsandbytes Datasets Accelerate Unsloth（可选） Weights & Biases / MLflow（可选）

8. 推理与部署策略

8.1 思考模式路由

Qwen3.5 默认使用 thinking mode，也支持通过接口参数关闭思考；官方同时给出了 thinking 与 non-thinking 的建议采样参数。^[1] 生产环境不应固定使用一种模式，而应由理解复杂度路由。

8.2 量化策略

• 建立 BF16/FP16 参考结果，再比较 Q8、Q6 和 Q4；不要仅按显存选择。
• 理解核心优先 Q6/Q8；Q4 仅在速度或显存压力明显时采用。
• 量化验收必须单独统计：约束遗漏、指代错误、JSON 格式错误和工具路由错误。

8.3 服务路径

Qwen3.5 模型卡列出了 Transformers、vLLM、SGLang、KTransformers 等兼容方式，并提供量化入口。^[1]

8.4 外部知识安全边界

• 外部网页、文档和记忆均作为“数据”，不得覆盖系统指令。
• 证据附带来源、抓取时间、有效期和可信等级。
• 工具调用采用 allowlist 和 JSON Schema；危险操作需要单独确认。
• 回答前检查：每个关键结论是否有证据或被明确标记为推断。

9. 评测与验收

核心原则：评测“理解是否正确”，而不是只评测“答案是否像强模型”。

9.1 自建 UnderstandingBench-CN

以上为建议验收阈值，可在首轮基线完成后调整；相对提升比绝对分数更重要。

9.2 测试集结构

• Gold Set：人工审核的 1,000–3,000 条核心测试，训练过程永不使用。
• Challenge Set：反事实、长上下文、多个冲突条件、诱导盲猜、工具注入攻击。
• Personal Style Set：来自实际交流风格的省略句、短句和项目上下文。
• Regression Set：普通聊天、摘要、翻译、基础逻辑、结构化输出和工具调用。

9.3 评测方法

1. 结构字段使用程序化指标：Exact Match、F1、JSON Schema 成功率。
2. 开放回答采用双教师盲评，并随机抽取人工复核。
3. 所有模型使用相同上下文、采样设置、知识证据和输出限制。
4. 同时记录延迟、首 token 时间、总 token、显存和工具调用次数。

10. 实施计划与代码结构

10.1 分阶段交付

10.2 推荐仓库结构

qwen-understanding-core/
├─ apps/
│  ├─ api/                    # OpenAI-compatible API / orchestration
│  └─ evaluator/              # 评测 UI 与报告
├─ packages/
│  ├─ understanding-schema/   # IR JSON Schema
│  ├─ context-builder/        # 上下文与记忆组装
│  ├─ knowledge-router/       # 搜索/RAG/API/强模型端口
│  ├─ evidence-normalizer/    # 来源、时间、置信度标准化
│  └─ safety-policy/          # 工具 allowlist 与注入防护
├─ training/
│  ├─ datasets/
│  ├─ sft/
│  ├─ dpo/
│  ├─ configs/
│  └─ checkpoints/
├─ evaluation/
│  ├─ gold/
│  ├─ challenge/
│  ├─ regression/
│  └─ reports/
└─ docs/
   └─ adr/

10.3 模型版本策略

understanding-core-v1.0.0
├─ base_model: Qwen/Qwen3.5-4B@固定 revision
├─ dataset: understanding-cn-v1.0
├─ adapter: sft-dpo-r16
├─ inference_profile: q6-thinking-router-v1
├─ schema_version: understanding-ir-v1
└─ evaluation_report: benchmark-2026-xx-xx.json

11. 风险与对策

12. Architecture Decision Records

13. 方案自审

• 目标一致：训练数据和验收指标均围绕理解，而不是知识记忆。
• 复杂度可控：V1 不修改架构，优先 LoRA，可快速回滚和比较。
• 依赖可替换：搜索、记忆、数据库和云模型通过端口隔离。
• 有客观证据：先冻结测试集，使用结构指标与盲测，不凭主观聊天感受。
• 适配本地硬件：RTX 4070 Laptop 可完成试验和部署，重实验可临时使用大显存 GPU。
• 风险已覆盖：包括遗忘、过度推断、量化损失、教师偏差和提示注入。

14. 参考资料

1. Qwen / Qwen3.5-4B Model Card： https://huggingface.co/Qwen/Qwen3.5-4B
2. Qwen / Qwen3.5-4B-Base Model Card： https://huggingface.co/Qwen/Qwen3.5-4B-Base
3. Hugging Face PEFT — LoRA： https://huggingface.co/docs/peft/main/conceptual_guides/lora
4. Hugging Face TRL — DPO Trainer： https://huggingface.co/docs/trl/dpo_trainer

注：训练超参数和验收阈值为本方案的工程起始建议，并非官方推荐值；应以实际基线和消融实验结果调整。