察元AI教程库 · 视频 · 微调
MiniMind 是从零训练的超小语言模型：稠密主线约 6400 万参数，不是套别人的壳做推理。 大模型动辄几百亿，个人电脑通常只能微调。这个开源项目把预训练、对话微调、LoRA、对齐和强化学习整条链路都公开了，核心算法手写实现。项目文档里，从零复现大约两小时、租卡成本大约三块钱量级。 本地：8GB 显存能聊天，16GB 能从零训练起步。…
作者:硬刷新Blink · 语言:zh
MiniMind 是从零训练的超小语言模型：稠密主线约 6400 万参数，不是套别人的壳做推理。 大模型动辄几百亿，个人电脑通常只能微调。这个开源项目把预训练、对话微调、LoRA、对齐和强化学习整条链路都公开了，核心算法手写实现。项目文档里，从零复现大约两小时、租卡成本大约三块钱量级。 本地：8GB 显存能聊天，16GB 能从零训练起步。 项目：https://github.com/jingyaogong/minimind 要装到自己的机器上，私信我，我帮你落地。