察元AI教程库 · 仓库 · 微调
3阶段LLMOps金融顾问。在AWS上部署的流式流水线,全天候收集、嵌入实时数据到QdrantDB。训练流水线在无服务器GPU上微调模型,并在WandB注册中记录最佳模型。推理流水线从注册中下载最佳模型进行推理,使用Langchain进行处理。
作者:MuhammadBinUsman03 · 语言:en
3阶段LLMOps金融顾问。在AWS上部署的流式流水线,全天候收集、嵌入实时数据到QdrantDB。训练流水线在无服务器GPU上微调模型,并在WandB注册中记录最佳模型。推理流水线从注册中下载最佳模型进行推理,使用Langchain进行处理。