L5 · 由简入深系列 · 工程实战
10 天,把通用大模型训成你的「专属员工」:微调与部署
全程中文 · 从「为什么要微调」讲到「上线成 API 服务」· 三个真实可算的交互实验台
📌 这是 L5(工程实战层)。学完你能用自己的数据,在消费级显卡上微调一个 7B 模型,并把它部署成能 7×24 小时服务的接口。建议先学完 L1~L4——本阶会用到 L2 的提示词、L3 的梯度下降、L4 的数据与工具概念。
💡 怎么用:每天点开一张卡片,先读教程再玩下面的演示;学完勾选「我已掌握」,进度条会自动增长(保存在你本机浏览器)。三个演示台建议在浏览器里亲手试——LoRA 参数量、训练损失曲线、量化显存,亲手拖一遍比读十遍都清楚。
🎮 互动演示(真实计算,浏览器内运行)
三个演示台都基于真实公式在浏览器里实时计算,不依赖外部模型——拖一拖滑块,直观感受「四两拨千斤」。
① LoRA 参数量台:到底省了多少?
冻结底座、只训一个小小的旁路 A×B。拖动滑块,看可训练参数从「几十亿」降到「几千万」。
全量参数 —
LoRA 可训练 —
占比 —
省了约 —
② 训练损失模拟台:学习率与过拟合
调学习率、训练轮数、数据量,看训练损失(绿)和验证损失(橙)的走向。复现第六章的过拟合与发散。
③ 量化显存台:把大模型塞进你的显卡
选模型大小与精度,算权重占多少 GB;再选你的显卡,看能不能装下(含约 20% 推理开销)。
7B