察元AI教程库 · 仓库 · 部署

dash-infer

DashInfer是一个原生LLM推理引擎,旨在在各种硬件架构(包括CUDA、x86和ARMv9)上实现业界领先的性能。

作者:modelscope · 语言:en

前往原址学习

简介

DashInfer是一个原生LLM推理引擎,旨在在各种硬件架构(包括CUDA、x86和ARMv9)上实现业界领先的性能。

返回教程库 · 察元AI产品家族