Nanotron 项目详解：Hugging Face 的大模型预训练框架怎么做分布式训练
从 3D 并行、ZeRO、Pipeline Schedule 和 Checkpoint 拆解 Hugging Face 大模型预训练框架。
0
|
0
OpenClaw 源码导读：个人 AI 助手的网关、通道、插件与运行时架构
从 CLI、Gateway、Channel、Plugin SDK 和 Agent Runtime 读懂个人 AI 助手的运行时架构。
0
|
0
Week 4：数据库速成——从 Storage、Index、Query Optimization 到 Vector DB 与 RAG
从存储、索引和查询优化建立数据库心智模型，并把它映射到 Vector DB、RAG 与 LLM Memory。
0
|
0
Week 3：分布式系统速成——MapReduce、Raft、容错与 Distributed KV Store
用 MapReduce、Raft、容错和分布式 KV Store 理解 AI 工作流与多 Agent 系统的底层结构。
0
|
0
Week 2：GPU 与推理加速——从 Kernel、算子融合到 LLM Serving
从 GPU 执行模型、Kernel 与算子融合出发，理解 KV Cache、batching 和 LLM Serving 的性能瓶颈。
0
|
0
Week 1：DL 框架与 Autograd——从计算图、反向传播到 Mini Autograd 实现
从计算图和链式法则出发，实现一个支持反向传播的 mini autograd，并讨论显存优化。
0
|
0
无锁并发入门：从 CAS 到 Atomic Ring Buffer
从 CAS 和内存序出发，解释 busy polling、Atomic Ring Buffer 与 CPU Cache 对低延迟程序的影响。
0
|
0