察元AI教程库 · 仓库 · 部署

vllm-swift

基于 mlx-swift 开发的 vLLM Metal 插件,实现 Apple Silicon 上高性能的大语言模型推理。

作者:TheTom · 语言:en

前往原址学习

简介

基于 mlx-swift 开发的 vLLM Metal 插件,实现 Apple Silicon 上高性能的大语言模型推理。

返回教程库 · 察元AI产品家族