察元AI教程库 · 仓库 · 微调

低成本大模型微调

使用Google Colab进行低成本大语言模型（LLM）微调的动手教程，包含AirLLM优化、参数高效方法（LoRA、QLoRA）以及教师-学生模型的知识蒸馏。

作者:Asuskf · 语言:en

简介

使用Google Colab进行低成本大语言模型（LLM）微调的动手教程，包含AirLLM优化、参数高效方法（LoRA、QLoRA）以及教师-学生模型的知识蒸馏。