
OpenMythos
kyegomez
A theoretical reconstruction of the Claude Mythos architecture, built from first principles using the available research literature.
AI 简介
OpenMythos 是一个基于公开研究文献对 Claude Mythos 架构进行理论重建的开源项目。该项目使用 Python 语言实现了一个具有三阶段(Prelude、Recurrent Block 和 Coda)的循环深度变换器(RDT),支持 MLA 和 GQA 两种注意力机制,并在前馈网络中采用了稀疏混合专家系统,以适应计算资源和推理深度的变化。其设计特别适合于需要探索可变深度推理能力以及对模型架构有深入理解需求的研究者或开发者。MIT 许可证下发布,社区活跃,提供了详细的安装与使用指南。
Python
MIT License13.7k
Stars
3.1k
Forks
173
Watchers
17
Issues
Star 增长
今日0
近 7 天+98
近 30 天+362
综合评分100
默认分支main