察元AI教程库 · 仓库 · 微调
RWKV-ASR
本仓库是一个探索性实验,旨在使已冻结的预训练RWKV语言模型能够接受语音模态输入。我们借鉴了SLAM_ASR的想法,将RWKV语言模型作为LLM,而不是直接编写提示模板,而是直接对RWKV的初始状态进行了微调。
作者:AGENDD · 语言:en
前往原址学习
简介
本仓库是一个探索性实验,旨在使已冻结的预训练RWKV语言模型能够接受语音模态输入。我们借鉴了SLAM_ASR的想法,将RWKV语言模型作为LLM,而不是直接编写提示模板,而是直接对RWKV的初始状态进行了微调。
返回教程库 · 察元AI产品家族