https://blog-seeker.pages.dev于混沌淘金，向秩序前行。致模型，亦致求索者。zh-CNWed, 13 May 2026 00:00:00 GMThttps://blog-seeker.pages.dev/posts/kv_cachehttps://blog-seeker.pages.dev/posts/kv_cacheWed, 13 May 2026 00:00:00 GMTKV Cache 已经不只是一个推理优化细节，而是长上下文、多模态、Agent 服务的成本中枢。本文从显存公式讲起，沿系统管理、模型架构、动态压缩、量化与 Offloading 五条路线，重新整理 2026 年前后的 KV Cache 技术版图。AI 推理优化研究KV CacheLLM推理优化长上下文系统架构https://blog-seeker.pages.dev/posts/advanced_decodinghttps://blog-seeker.pages.dev/posts/advanced_decodingThu, 05 Mar 2026 00:00:00 GMT从概率分布干预到系统级软硬件协同，深度拆解 DoLa、CFG、投机解码家族 (EAGLE/SSD) 以及多词预测 (Medusa/MTPC) 的数学原理与工程实现。混沌有序LLMInferenceSpeculative DecodingMTPSystem 2Reinforcement Learninghttps://blog-seeker.pages.dev/posts/grpo_varietieshttps://blog-seeker.pages.dev/posts/grpo_varietiesWed, 25 Feb 2026 00:00:00 GMT从 DAPO、GSPO、LUSPO 到 Dr.GRPO、GMPO、PMPO，一文拆解 GRPO 变体的核心动机、目标函数与工程改造路径。混沌有序RLHFGRPOPost-traininghttps://blog-seeker.pages.dev/posts/opdhttps://blog-seeker.pages.dev/posts/opdWed, 25 Feb 2026 00:00:00 GMT在算力与标注数据双重受限下，On-Policy Distillation 如何用 Reverse KL、γ=0 与在线探索实现高效后训练。混沌有序LLMDistillationPost-traininghttps://blog-seeker.pages.dev/posts/decoding_algorithmshttps://blog-seeker.pages.dev/posts/decoding_algorithmsMon, 23 Feb 2026 00:00:00 GMTGreedy、Beam、Top-K、Top-P、Min-P、Contrastive 与 Constrained Decoding 的底层机制与 PyTorch 实现全景拆解。混沌有序LLMDecodingSamplinghttps://blog-seeker.pages.dev/posts/lorahttps://blog-seeker.pages.dev/posts/loraSun, 22 Feb 2026 00:00:00 GMT从 LoRA、LoRA+、PiSSA、DoRA 到 TinyLoRA 与 LoRA-Mixer，一文看懂参数高效微调的核心机制与工程取舍。混沌有序LoRAPEFTFine-tuninghttps://blog-seeker.pages.dev/posts/dpo_varietieshttps://blog-seeker.pages.dev/posts/dpo_varietiesSat, 21 Feb 2026 00:00:00 GMT各大顶级实验室爆改 DPO出了一套极其华丽的招式表混沌有序Reinforcement Learninghttps://blog-seeker.pages.dev/posts/ppo_dpo_grpohttps://blog-seeker.pages.dev/posts/ppo_dpo_grpoFri, 20 Feb 2026 00:00:00 GMT在探讨大语言模型（LLM）的对齐算法之前，我们需要先理清模型训练的宏观图景。大模型的训练通常分为三个阶段：预训练（Pre-training）、指令微调（SFT）和人类偏好对齐（RLHF/Alignment）。混沌有序Reinforcement Learning