察元AI教程库 · 仓库 · 微调

Spry

论文《Thinking Forward: 基于前向模式自动微分的高效联邦微调语言模型》（NeurIPS 2024）的代码实现。Spry 是一种联邦学习算法，通过前向模式自动微分实现 LLM 微调，实现低内存占用、高准确率和快速收敛

作者:Astuary · 语言:en

前往原址学习

简介

论文《Thinking Forward: 基于前向模式自动微分的高效联邦微调语言模型》（NeurIPS 2024）的代码实现。Spry 是一种联邦学习算法，通过前向模式自动微分实现 LLM 微调，实现低内存占用、高准确率和快速收敛

返回教程库 · 察元AI产品家族