察元AI教程库 · 仓库 · 部署

llm-inference

llm-inference 是一个用于发布和管理 LLM 推理的平台，提供丰富的开箱即用功能，用于模型部署，例如 UI 界面、RESTful API、自动扩展、计算资源管理、监控等。

作者:OpenCSGs · 语言:en

前往原址学习

简介

llm-inference 是一个用于发布和管理 LLM 推理的平台，提供丰富的开箱即用功能，用于模型部署，例如 UI 界面、RESTful API、自动扩展、计算资源管理、监控等。

返回教程库 · 察元AI产品家族