察元AI教程库 · 仓库 · 部署
一种推理芯片设计，在FPGA上运行真实的大语言模型（Qwen2.5-0.5B）——一个Transformer解码器层以RTL实现，每个硅片比特级精确匹配黄金模型。测得速率为0.56 token/s，性能提升140倍，有完整证据链。
作者:SigmanticAI · 语言:en
一种推理芯片设计，在FPGA上运行真实的大语言模型（Qwen2.5-0.5B）——一个Transformer解码器层以RTL实现，每个硅片比特级精确匹配黄金模型。测得速率为0.56 token/s，性能提升140倍，有完整证据链。