调整参数,实时观察模型内部发生了什么。完成每个实验的目标,像通关一样掌握 LLM。
默认开启🧮真实计算:浏览器内用 TensorFlow.js 真训练一个 2→8→6→1 的小神经网络。调整超参数,使训练结束时 Loss < 0.5 且 Accuracy > 90%。试着理解每个参数如何影响真实收敛。
每个格子表示“行 token 对列 token 的关注程度”。颜色越深,注意力权重越高。切换不同的注意力头,观察模型关注的模式差异。
不同的头学会关注不同的关系——有的看位置,有的看语法,有的看语义。这就是“多头”注意力的意义。
提示词:“今天天气真”,看看模型会预测下一个什么词。
输入文本,观察不同分词策略如何将文本拆分为 token。理解 BPE、WordPiece 等算法的核心思想。
分别用4 种策略对同一段文本分词,观察 token 数量的差异。理解为什么 BPE 是主流方案。
找到一对余弦相似度 > 0.8 的词语组合,并找到一对相似度 < 0.2 的组合。
每个词被映射为一个高维向量。这里用 2D 投影展示词语之间的语义关系——距离越近,语义越相似。
让优化器找到全局最小值(Loss < 0.01)。试试不同的损失函数和学习率组合,理解动量如何帮助跳出局部最优。
LLM 一次能「看到」的文本长度有限(上下文窗口)。超出窗口的内容会被截断或遗忘。调整窗口大小,观察模型如何处理长文本。
调整参数使模型能正确回忆文本开头和结尾的关键信息(信息保留率 > 80%),同时观察到「中间遗忘」现象。
作为人类标注员,对模型生成的两个回答进行排序。你的反馈将训练奖励模型,进而用 PPO 强化优化 LLM 的输出质量。
完成 5 轮标注,观察奖励模型分数如何随着人类反馈的积累而提升。理解 RLHF 如何让模型学会「说人话」。
在保留足够 token 的前提下,把平均质量拉到 0.75 以上,并保留至少 10% 代码与 15% 书籍——训练出能力均衡的模型。
用少于 0.5% 的可训参数把微调 loss 降到 < 0.6。打开 Loss Mask 观察只对回答计算 loss 的效果。
把显存占用压到 24GB 以内且精度损失 < 3%,同时用 KV Cache 大幅降低每 token 计算量。观察 KV Cache 显存随上下文的增长。
开启后每个新 token 复用历史 K/V,计算量从 O(n²) 降为 O(n);代价是把历史 K/V 存在显存里。关掉它显存省了,但每步重算全部历史。
调节参数,让查询「LoRA 是什么」的召回率 > 80% 且 噪声率 < 20%,拼出正确答案。