parameter-golf

Parameter Golf 是一个面向极致参数压缩的语言模型训练挑战项目，目标是在严格约束（16MB 模型体积、10分钟内完成训练）下实现最优 FineWeb 验证集压缩性能（bits per byte）。项目鼓励探索轻量架构设计（如参数绑定、深度递归）、低精度量化（QAT、bitnets）、高效 tokenizer 及测试时优化等技术路径，强调在固定参数规模下的性能上限挖掘。适用于模型压缩研究、边缘端语言模型开发、AI 竞赛与教学实践等场景，尤其适合关注计算效率与存储受限部署的研究者和工程师。