察元AI教程库 · 仓库 · 微调
先进的 LLM 微调技术:SFT(LoRA、QLoRA、DoRA、P-/前缀调优)、GRPO、DPO、ORPO、KTO 和 PPO;支持可组合的正确性/格式奖励以及 LLM-as-a-Judge 评估(DeepEval、Evidently AI),涵盖数学、多跳、医疗及通用问答任务,适用于 Llama 3、Mistral、Phi-4、Gemma 和 Qwen3。基于 TRL 和 PEFT 构建
作者:avnlp · 语言:en
先进的 LLM 微调技术:SFT(LoRA、QLoRA、DoRA、P-/前缀调优)、GRPO、DPO、ORPO、KTO 和 PPO;支持可组合的正确性/格式奖励以及 LLM-as-a-Judge 评估(DeepEval、Evidently AI),涵盖数学、多跳、医疗及通用问答任务,适用于 Llama 3、Mistral、Phi-4、Gemma 和 Qwen3。基于 TRL 和 PEFT 构建