新芽专题介绍:多模态大模型的个性化与推理加速 2026-08-10 2026-08-10 AI 多模态大模型 / 个性化(训练侧) / 推理加速 / 参数高效微调 / 模型量化 / 视觉Token剪枝 / 新芽专题 面向新芽学子的专题导览:梳理多模态大模型在个性化(训练侧)与推理加速(推理侧)两条主线上的核心思想、代表方法、主要挑战,并给出带链接的 66 篇文献地图与分阶段学习路径。 9 | 0
SparseVLM 精读:让问题决定保留哪些视觉 Token 2026-07-23 2026-07-23 AI 多模态大模型 / 推理加速 / 视觉 Token 裁剪 / 稀疏推理 / SparseVLM / LLaVA / ICML 从文本 rater、逐层视觉 Token 稀疏化与被裁 Token 回收出发,拆解 ICML 2025 的 SparseVLM 如何在不训练新参数的前提下加速多模态大模型推理。 9 | 0
DeeR-VLA 精读:用动态早退加速多模态机器人推理 2026-07-22 2026-07-22 AI 多模态大模型 / 推理加速 / 动态早退 / VLA / 机器人学习 / NeurIPS 从多出口 MLLM、动作一致性判据与预算约束出发,拆解 NeurIPS 2024 的 DeeR-VLA 如何动态跳过 LLM 层,实现多模态机器人推理加速。 17 | 0
M3 精读:可伸缩视觉 Token 如何加速多模态推理 2026-07-20 2026-07-22 AI 多模态大模型 / 推理加速 / 视觉 Token 压缩 / M3 / LLaVA / ICLR 从嵌套视觉 Token、多尺度训练目标与预填充成本出发,拆解 ICLR 2025 的 M3 如何在同一多模态大模型中按需切换推理粒度。 9 | 0
Week 2:GPU 与推理加速——从 Kernel、算子融合到 LLM Serving 2026-05-05 2026-07-22 技术 深度学习 / GPU / 推理加速 / LLM / CMU 10-414 / vLLM / TensorRT 从 GPU 执行模型、Kernel 与算子融合出发,理解 KV Cache、batching 和 LLM Serving 的性能瓶颈。 5 | 0