LLM 技术路线：从 Transformer 到训练、推理与应用
一份系统化 LLM 学习路线，覆盖 Transformer、预训练、SFT、RLHF、RAG、Agent、推理优化、评测和工程项目。
1
|
0
标签
AI Infra
AI Infra 工程路线：从后端基础到 Agent 平台
一份面向工程同学的 AI Infra 学习路线，覆盖后端基础、RAG、Agent Runtime、模型服务、评测观测、稳定性工程和项目落地。
0
|
0
从零实现多模态 RAG：BM25、Dense 检索、RRF 融合、MMR 重排全部手写
用纯 NumPy 手写 BM25、Dense 检索、RRF 融合和 MMR 重排，构建可评测的多模态 RAG。
0
|
0
从零实现 LLM 推理引擎：深挖 vLLM 的六大核心优化
通过可测试的 Python 实现，讲清 Paged KV Cache、Continuous Batching、Chunked Prefill 等六项推理优化。
0
|
0
Claude Code 上下文管理：请求前减负、Auto Compact 与应急恢复
基于源码区分请求前优化、高水位压缩和 API 报错恢复，厘清 Microcompact、Full Compact 与 Auto Compact 的关系。
0
|
0
Nanotron 项目详解：Hugging Face 的大模型预训练框架怎么做分布式训练
从 3D 并行、ZeRO、Pipeline Schedule 和 Checkpoint 拆解 Hugging Face 大模型预训练框架。
0
|
0
OpenClaw 源码导读：个人 AI 助手的网关、通道、插件与运行时架构
从 CLI、Gateway、Channel、Plugin SDK 和 Agent Runtime 读懂个人 AI 助手的运行时架构。
0
|
0