察元AI教程库 · 仓库 · 微调

从零开始构建最小化llm

使用 PyTorch 从零实现一个轻量级 LLM,遵循 Minimind 教程。包含完整的预训练、SFT、LoRA 微调以及对齐算法(PPO、DPO、GRPO)的实现,包含个人定制修改。

作者:Relilah-Wareen · 语言:en

前往原址学习

简介

使用 PyTorch 从零实现一个轻量级 LLM,遵循 Minimind 教程。包含完整的预训练、SFT、LoRA 微调以及对齐算法(PPO、DPO、GRPO)的实现,包含个人定制修改。

返回教程库 · 察元AI产品家族