察元AI教程库 · 视频 · 部署

Bonsai2 27B：三值压缩Qwen3.8 27B 装进 5.9GB，基准保住 98.2%

Prism ML 发布 Ternary Bonsai 2 27B：把 Qwen3.8 27B 的权重压成三值（正一、零、负一）加 FP16 分组缩放，平均每个权重 1.76 bit，整个文件 5.9GB，比全精度小 9 倍多，综合分 83.9 对 85.4，保留 98.2%（上一代是 95%）。六个维度里五个保住 96% 以上，指令跟随 102% 反超全精度。…

作者:探索未至之境 · 语言:zh

前往原址学习

简介

Prism ML 发布 Ternary Bonsai 2 27B：把 Qwen3.8 27B 的权重压成三值（正一、零、负一）加 FP16 分组缩放，平均每个权重 1.76 bit，整个文件 5.9GB，比全精度小 9 倍多，综合分 83.9 对 85.4，保留 98.2%（上一代是 95%）。六个维度里五个保住 96% 以上，指令跟随 102% 反超全精度。RTX 5090 每秒 143 token，M5 Max 46.8，RTX 4090 每 token 0.714 毫瓦时，比 8B 全精度省 40%

返回教程库 · 察元AI产品家族