察元AI教程库 · 仓库 · 部署

embeddedllm

EmbeddedLLM:嵌入式设备部署的API服务器。目前支持CUDA/OpenVINO/IpexLLM/DirectML/ CPU。

作者:EmbeddedLLM · 语言:en

前往原址学习

简介

EmbeddedLLM:嵌入式设备部署的API服务器。目前支持CUDA/OpenVINO/IpexLLM/DirectML/ CPU。

返回教程库 · 察元AI产品家族