Foundations

目录

• LLM 推理工程图解：Prefill、Decode 与 KV Cache
• LLM 推理服务图解：队列、批处理与资源调度
• LLM 生成图解：Decoder-only、Logits 与逐 Token 输出
• Self-Attention 图解：QKV、缩放、Mask 与加权读取
• Tensor 与 Shape 图解：维度、Stride 与广播
• Transformer Block 图解：多头注意力、FFN 与残差
• Transformer 入门图解：Token、Embedding 与信息流
• Transformer 注意力机制：从点积到多头计算
• 图解 Transformer：自注意力、位置编码与编码器解码器
• 数值精度与显存：FP32、BF16、量化及混合精度
• 模型如何运行在 GPU：Kernel、存储层次与性能瓶颈
• 深度学习常见层与算子：Linear、Norm 与 Softmax
• 深度学习模型入门：参数权重、网络结构与计算图
• 训练与推理的区别：前向、反向与显存账本