察元AI教程库 · 仓库 · 微调

MoE-LoRA

通过参数高效微调(LoRA)将大语言模型(LLM)适配为专家混合模型,并将 LoRA 注入前馈网络(FFN)

作者:maidacundo · 语言:en

前往原址学习

简介

通过参数高效微调(LoRA)将大语言模型(LLM)适配为专家混合模型,并将 LoRA 注入前馈网络(FFN)

返回教程库 · 察元AI产品家族