察元AI教程库 · 仓库 · 部署

omlx

适用于苹果硅芯片的LLM推理服务器,支持连续批处理和SSD缓存,可通过macOS菜单栏管理

作者:jundot · 语言:en

前往原址学习

简介

适用于苹果硅芯片的LLM推理服务器,支持连续批处理和SSD缓存,可通过macOS菜单栏管理

返回教程库 · 察元AI产品家族