M3 精读:可伸缩视觉 Token 如何加速多模态推理 2026-07-20 2026-07-22 AI 多模态大模型 / 推理加速 / 视觉 Token 压缩 / M3 / LLaVA / ICLR 从嵌套视觉 Token、多尺度训练目标与预填充成本出发,拆解 ICLR 2025 的 M3 如何在同一多模态大模型中按需切换推理粒度。 9 | 0
BLIP-2 精读:用 Q-Former 接通冻结视觉编码器与大语言模型 2026-07-20 2026-07-22 AI 多模态 / 视觉语言模型 / BLIP-2 / Q-Former / 参数高效训练 / ICML 从 Q-Former、三种表征学习目标与两阶段预训练出发,拆解 BLIP-2 如何用冻结视觉编码器和冻结 LLM 构建多模态模型。 9 | 0
DPO 精读:不用 PPO,如何直接从偏好数据对齐语言模型 2026-07-19 2026-07-22 AI LLM / DPO / RLHF / 偏好对齐 / 模型后训练 / NeurIPS 从 KL 约束的 RLHF 目标出发,推导 DPO 的闭式策略映射、偏好损失、训练流程、实验边界与复现要点。 5 | 0
QLoRA 精读:4-bit 量化如何把 65B 微调压进单卡 2026-07-18 2026-07-22 AI LLM / QLoRA / LoRA / 模型量化 / 参数高效微调 / NeurIPS 从 NF4、双重量化、Paged Optimizer 与全层 LoRA 出发,拆解 QLoRA 的显存账本、训练流程、实验边界和复现要点。 2 | 0
Transformer、ViT 与 CLIP 基础:从三篇代表论文到高频面试题 2026-07-13 2026-07-22 AI Transformer / ViT / CLIP / 多模态 / 深度学习 / 面试 以三篇代表论文为主线,串起 Transformer、Vision Transformer 与 CLIP 的结构、目标和面试高频题。 5 | 0
LLM 技术路线:从 Transformer 到训练、推理与应用 2026-07-09 2026-07-22 技术 LLM / 大模型训练 / 推理优化 / AI Infra / RAG / Agent / 面试 一份系统化 LLM 学习路线,覆盖 Transformer、预训练、SFT、RLHF、RAG、Agent、推理优化、评测和工程项目。 4 | 0
AI Infra 工程路线:从后端基础到 Agent 平台 2026-07-09 2026-07-22 技术 AI Infra / Agent / RAG / 后端架构 / 稳定性工程 / 面试 一份面向工程同学的 AI Infra 学习路线,覆盖后端基础、RAG、Agent Runtime、模型服务、评测观测、稳定性工程和项目落地。 6 | 0
从零实现多模态 RAG:BM25、Dense 检索、RRF 融合、MMR 重排全部手写 2026-06-30 2026-07-22 AI RAG / 多模态 / AI Infra / BM25 / 向量检索 / 混合检索 / 实习求职 用纯 NumPy 手写 BM25、Dense 检索、RRF 融合和 MMR 重排,构建可评测的多模态 RAG。 3 | 0
从零实现 LLM 推理引擎:深挖 vLLM 的六大核心优化 2026-06-30 2026-07-22 AI LLM / AI Infra / vLLM / PagedAttention / 推理优化 / 投机解码 / 实习求职 通过可测试的 Python 实现,讲清 Paged KV Cache、Continuous Batching、Chunked Prefill 等六项推理优化。 3 | 0
Kafka 入门:生产者、Broker、消费者和“消费”到底是什么意思 2026-06-09 2026-07-22 技术 Kafka / 消息队列 / 后端 / 面试 / 推荐系统 用推荐系统里的用户行为日志为例,讲清楚 Kafka 的作用、Producer、Broker、Consumer、Topic、Partition、Offset 和消费语义。 4 | 0