察元AI教程库 · 仓库 · 部署

BigMoeOnEdge

在仅使用12GB内存的手机上运行比内存更大的Mixture-of-Experts(MoE)模型,无需GPU,仅使用CPU,无损,基于原生llama.cpp

作者:Helldez · 语言:en

前往原址学习

简介

在仅使用12GB内存的手机上运行比内存更大的Mixture-of-Experts(MoE)模型,无需GPU,仅使用CPU,无损,基于原生llama.cpp

返回教程库 · 察元AI产品家族