察元AI教程库 · 仓库 · 部署

FlexLLM

用于快速开发LLM加速器的可组合HLS库。FlexLLM支持时空混合架构，提供可参数化模块模板，针对prefill和decode阶段进行定制，并配备全面的量化工具，实现硬件高效且准确的部署。

作者:Crazy-James26 · 语言:en

前往原址学习

简介

用于快速开发LLM加速器的可组合HLS库。FlexLLM支持时空混合架构，提供可参数化模块模板，针对prefill和decode阶段进行定制，并配备全面的量化工具，实现硬件高效且准确的部署。

返回教程库 · 察元AI产品家族