察元AI教程库 · 视频 · 部署

本地模型进入flash时代了！笔记本单卡跑Qwen3.8-27B本地模型 576 tok/s ！5090L 24G 150W功耗 70度 Q4 ninfer

单卡笔记本跑 27B 大模型：RTX 5090 Laptop 本地部署 Qwen3.8-27B 实录 配置：i9-14900HX（24核32线程）+ RTX 5090 Laptop 24GB GDDR7 + 48GB 内存，Windows 11 原生环境，无 WSL、无 Docker、无 Linux。 模型与引擎：Qwen3.8-27B（2026-08 开源，Apache 2.0），…

作者:上只当麻_1047008888 · 语言:zh

前往原址学习

简介

单卡笔记本跑 27B 大模型：RTX 5090 Laptop 本地部署 Qwen3.8-27B 实录 配置：i9-14900HX（24核32线程）+ RTX 5090 Laptop 24GB GDDR7 + 48GB 内存，Windows 11 原生环境，无 WSL、无 Docker、无 Linux。 模型与引擎：Qwen3.8-27B（2026-08 开源，Apache 2.0），NVFP4 量化后权重 16.78GB；推理引擎 ninfer，MSVC + CUDA 13.4 源码本地编译。开启 MTP

返回教程库 · 察元AI产品家族