
texts-to-transformer
Doriandarko
Train a tiny Transformer from scratch on your iMessage history, entirely on your Mac.
AI 简介
这是一个在 Apple Silicon Mac 上本地训练微型 Transformer 语言模型的开源项目,专为个性化风格建模设计。它从零开始训练 tokenizer 和模型,完整支持 iMessage 历史数据的安全快照、文本提取、HMAC 伪匿名化、泄漏鲁棒的数据集划分、MLX 框架下的轻量级 decoder-only Transformer 训练及本地终端对话交互。模型参数仅约 138 万,上下文窗口 256 token,不依赖预训练,专注复现用户个人表达习惯(如用词、节奏、惯用语),但不具备通用推理或事实问答能力。适用于希望在完全离线、隐私优先环境下构建个人写作风格模型的技术用户。
Python
MIT License390
Stars
37
Forks
94
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天+107
综合评分54.74
默认分支main