察元AI教程库 · 仓库 · 部署

LLM部署演示

一个自托管的 LLM 聊天应用,使用 vLLM + Streamlit + Docker,支持本地部署或 AWS EC2 部署。

作者:vishakhasadhwani · 语言:en

前往原址学习

简介

一个自托管的 LLM 聊天应用,使用 vLLM + Streamlit + Docker,支持本地部署或 AWS EC2 部署。

返回教程库 · 察元AI产品家族