mini-sglang：用最小代码看懂大模型推理引擎
mini-sglang：用最小代码看懂大模型推理引擎Mini-SGLang 是一款轻量易读的推理框架（仅约 5000 行 Python 代码），通过基数缓存、分块预填充、重叠调度、张量并行，以及 FlashAttention/FlashInfer 内核等优化方案，实现大语言模型的
从零手搓 mini-sglang：Datawhale 这门课把推理引擎拆开讲
Datawhale 联合 SGLang 团队创立的 RadixArk 推出的开源课程，先把 KV Cache、prefill/decode、compute-bound 与 memory-bound 这些推理核心概念讲透，再带你从零写出一个 mini-sglang，最后回到真实 S
Mini-SGLang，30万行缩为5000行，大模型推理高性能教学研究模版
SGLang发布了Mini-SGLang。将30万行代码的庞然大物浓缩为5000行，在保留Radix Attention和Overlap Scheduling等核心特性的同时，为大模型推理提供了一个高性能的教学与研究模版。大语言模型的推理服务正在变得越来越复杂。
GitHub 总计超 77,000 Star，大模型推理框架 vLLM、SGLang 是如何炼成的？
vLLM 和 SGLang 的社区发展故事。作者 | 赵晨、夏小雅责编 | Echo Tang出品丨AI 科技大本营（ID：rgznai100）首先，什么是 LLM 推理？
Kimi K3.1藏不住了
就在10月22日凌晨，一款名为Kibitz的神秘模型出现在了Arena，被网友怀疑是K3.1。而在同一项测试中，GPT-6 Astra Max虽然也完成了作品，却花了大约三倍于Kibitz的时间。
1亿美元种子轮！SGLang团队RadixArk，打造下一代开放AI基础设施
5 月 5 日，AI 基础设施初创公司 RadixArk 宣布完成 1 亿美元种子轮融资，投后估值 4 亿美元。如果说 2023 年的 Anthropic、2024 年的 Mistral、2025 年的 Thinking Machines Lab 各自代表了 AI 模型层一次方向性的下注，那么 2026 年的 RadixArk 下注的东西更底层、也更漫长:让前沿 AI 的建设权，真正回到足够多的人手里。
MiniMax-M2.7 开源了！大模型进入自主进化的新阶段。
MiniMax-M2.7是MiniMax公司推出的M2系列新一代旗舰开源大模型，于2026年4月正式开源其模型权重。该模型基于混合专家（MoE）架构，总参数量达到2300亿，其中激活参数量为100亿（激活率4.3%），支持200K上下文长度。M2.
SGLang：大模型推理的性能优化，为什么这很重要？
【科技圈De那点事-报道】3月8日消息，模型训练是一次性的成本，但推理是持续性的开销——推理效率直接决定AI应用能不能赚钱。如果你关注AI基础设施，可能会注意到一个趋势：大家的注意力正在从"怎么训练更大的模型"转向"怎么更高效地运行模型"。这背后的逻辑很简单。
GitHub 超 16,000 Star！开源大模型推理框架 SGLang 中国首场 Workshop 来啦，GOSIM一起相约
责编 | 唐小引 Echo Tang亲爱的开发者们，大模型领域最著名、热度最高、DeepSeek 推荐使用的开源推理引擎之一——SGLang 在国内的首场 Workshop 线下活动来啦！
1亿美元种子轮！SGLang团队RadixArk，打造下一代开放AI基础设施
来源：市场资讯（来源：机器之心Pro）机器之心发布5 月 5 日，AI 基础设施初创公司 RadixArk 宣布完成 1 亿美元种子轮融资，投后估值 4 亿美元。无论金额、估值还是投资人阵容，这都是 2026 年 AI Infra 赛道中目前最重的一笔早期下注。