talos-vs-macbook

该项目是一个轻量级Transformer推理性能基准测试工具，用于对比不同实现方式在M4 Max MacBook Pro上的吞吐量与能效表现。核心功能包括纯Python、NumPy、MLX（CPU/GPU）及手写C（含NEON优化与Q4.12量化）五种microGPT模型（4192参数）前向推理实现，并与TALOS-V2 FPGA硬件方案进行量化对比；技术特点聚焦极小模型下的调度开销分析、L1缓存友好设计及跨平台低开销C实现。适用于AI硬件加速评估、边缘端超轻量模型部署验证及编译器/运行时性能调优等场景。