察元AI教程库 · 仓库 · 大模型
为什么LLM推理速度慢？如何使其更快？这是一门动手、从第一原理出发的课程：屋顶线→键值缓存→量化→并行处理→vLLM/SGLang，附带在开源模型上进行GPU实验。
作者:jiahongsigma · 语言:en
前往原址学习
返回教程库 · 察元AI产品家族
察元AI是智能体门户:产品家族包括察元桌面(插件化 AI 智能体工作站,内置 dsh 智能体运行时与应用商店)、察元办公(开源 AI Office:文档/表格/幻灯/PDF,本地转换不离线数据)、察元AI文档助手(WPS 加载项,4500+ 内置助手,MCP 文档智能体服务可被 Claude Code/Codex/Cursor 调用)与察元机器人;能力广场一站检索 10 万+ Harness 插件、Skills 技能、MCP 服务器、提示词、智能体应用、大模型目录与排行榜、模型厂商与全球模型活动资讯,支持搜索、复制安装命令、一键下载。