开发者200美元训练1B模型

Reddit用户分享从零训练1.1B参数LLM的个人项目，使用FineWeb-Edu约20B tokens预训练，再用OpenHermes进行LoRA微调。作者开源代码、基础模型、指令微调模型与GGUF权重，称总成本约200美元。

事件进展（1 篇报道）

1. 2026-08-11 05:44
   Reddit r/LocalLLaMA I trained a 1B-parameter LLM from scratch on 20B tokens for about $200

← 返回首页