察元AI教程库 · 仓库 · 大模型
一个动手课程,使用PyTorch从零构建现代LLM,包含26个可运行的Jupyter Notebook,涵盖分词器、注意力机制、Mixture of Experts(MoE)、强化学习人类反馈(RLHF)、推理、评估和蒸馏等主题。
作者:walkinglabs · 语言:en
一个动手课程,使用PyTorch从零构建现代LLM,包含26个可运行的Jupyter Notebook,涵盖分词器、注意力机制、Mixture of Experts(MoE)、强化学习人类反馈(RLHF)、推理、评估和蒸馏等主题。