个人机器学习学习笔记,使用 Markdown 与 Obsidian 编写。
- Task 1:Transformer 分类器实现与工程技巧
- Task 2:从零实现 mini-GPT
- Task 2.1:Byte-level BPE 分词器
- Task 2.2:RoPE 旋转位置编码
- Task 2.3:Causal Attention 与 KV Cache
- Task 2.4:mini-GPT 模型构建与生成
- Task 2.5:训练、评估与困惑度调优
- Task 3:SFT、DPO 与大模型后训练
- Task 3.1:LoRA 与 Adapter 生命周期
- Task 3.2:SFT 数据与 Assistant-Only Loss
- Task 3.3:DPO 偏好优化
- Task 3.4:训练工程与故障排查
- Task 3.5:S1-S5 实验复盘
- Task 4:RAG 检索增强生成
- Task 4.1:Chunking 与 BGE Embedding
- Task 4.2:FAISS 检索与 RAG 评估
- Task 4.3:Reranker 与 Tokenizer 模板
- Task 4.4:RAG 生成与 Query 增强
- Task 4.5:完整数据流与实验复盘
- Task 5:Tool Agent 与 ReAct 学习索引
- Task 5.1:ReAct 循环与消息协议
- Task 5.2:工具 Schema、路由与安全边界
- Task 5.3:评测设计与实验复盘
- Task 5.4:现代 Agent 优化与工程实践
公共附件存放在 assets/,项目专属附件存放在对应 Task 目录的 assets/ 中。