CX CosmoxOne AGI → SI
首页 / DomainLLM

DomainLLM

垂直领域大模型定制:评估前置、渐进式、可量化、可终止。

垂直领域大模型定制,不该靠碰运气

很多团队的微调之路是:不评估基座能力就开练、知识缺口和能力缺口混着治、人工出 benchmark 一拖数月、技术堆叠加满却效果平平。DomainLLM 提供一套评估前置、渐进式、可量化、可终止、多尺寸适配的标准化流水线,覆盖从需求评估到生产部署的端到端全流程。

核心方法论

① 评估前置,永远不跳过

先跑领域知识分层评测量化基座原生能力,再跑业务端到端基线锚定差距,用诊断结果驱动方案,不盲目上训练。

② 知识与能力分离

知识缺失(给资料就能答对)→ 知识库 / RAG,量大高频再 CPT、蒸馏;能力缺失(给资料也答不好)→ SFT / LoRA,高要求再全参 + DPO。

③ 渐进式流水线,每步可终止

前置评估 → 外挂知识库 → 轻量微调 → 深度知识注入 → 全参精调 → 偏好对齐 → 混合部署。每阶段独立验收,达标即停,不堆叠技术。

④ Benchmark AI 自动生成

70% 基于客户真实素材改写 + 30% AI 扩展衍生;三层架构(知识诊断 / 能力诊断 / 端到端业务);四重过滤:事实校验、难度校准、反事实验证、污染检测。

多尺寸模型适配

不盲目追求大参数。针对 14.8B / 27B / 32B 稠密模型与 MoE 提供全维度对比与适配指南:小尺寸做高频轻任务,中尺寸做主力,MoE 应对复杂推理,把算力花在刀刃上。

训练方法矩阵

方法 适用问题 成本
LoRA / QLoRA 能力缺失的轻量修复,快速验证 低
全参 SFT 高要求的格式 / 逻辑 / 风格对齐 高
蒸馏(CoT) 把大模型的推理链教给小模型 中
CPT 持续预训练 大体量、高频更新的领域知识注入 高
DPO / GRPO 偏好对齐,输出更稳更可用 中

两个特色扩展

GUI

GUI 桌面自动化 VLM

截图采集、录屏转操作轨迹、说明书转训练数据、Grounding 准确率评估(IoU / 坐标偏差)、动作执行与 LoRA 训练——让模型学会「看着屏幕干活」。

决策

业务大脑与仿真决策(L1–L3)

工具注册表 + 仿真适配层 + 决策护栏(数值溯源 / 硬约束 / 越权拦截);补货场景端到端编排:SS / ROP / EOQ 模型 + 库存仿真 + 人工确认门。

给决策者的一句话

DomainLLM 把「要不要微调、怎么微调、值不值」变成可量化的诊断报告——在花第一张 GPU 账单之前,你就知道收益上限。

咨询模型定制 GitHub ↗