Published at 2026-09-18 | Last Update 2026-09-18
最近梳理了下vllm从接收API请求到cuda计算通讯的流程图,记录在流程图中,从一个请求出发,鸟瞰整个技术架构和深入某些技术细节,同时可用梳理整个知识体系,遂有了此篇文章,同时也在不断修改和更新。