从 Actor、Critic 到 PPO Loss:用 GSM8K 理解语言模型强化学习 2026-10-07 2026-10-07 AI LLM / PPO / 强化学习 / GSM8K / verl / 模型后训练 从 GSM8K 和 verl 实验出发,理解 PPO 中的 Actor、Critic、奖励对齐、GAE、概率比与反向传播。 3 | 0
从 Mac 到单卡 GPU:Qwen2.5-VL 部署、GRPO 与计数 LoRA 实践 2026-08-19 2026-10-23 AI Qwen2.5-VL / 多模态 / SGLang / verl / GRPO / 推理优化 / MLX 在 M2 Pro 和云端单卡上部署 Qwen2.5-VL-3B,实测连续批处理、前缀缓存与 SGLang 参数调优,再用 verl 完成多模态 GRPO 更新和同条件前后评测,记录有效优化、兼容性问题与未观察到提升的结果。 6 | 0