察元AI教程库 · 仓库 · 部署

推理

只需修改一行代码,即可将GPT替换为任意LLM。Xinference让你能够通过一个统一的、生产级的推理API,在云端、本地或笔记本上运行开源的语音、多模态模型。

作者:xorbitsai · 语言:en

前往原址学习

简介

只需修改一行代码,即可将GPT替换为任意LLM。Xinference让你能够通过一个统一的、生产级的推理API,在云端、本地或笔记本上运行开源的语音、多模态模型。

返回教程库 · 察元AI产品家族