rahul238xaviers

large-language-model

rahul238xaviers

暂无描述

AI 简介

这是一个面向Rust代码补全任务的1.6B参数GPT类大语言模型,专为Apple Silicon(M系列芯片)平台设计,基于MLX框架实现训练与推理。核心特点包括:针对Metal加速优化、支持GQA分组查询注意力、内置稳定内存管理机制以应对大模型OOM问题,并提供基于Gradio的交互式开发体验界面。项目强调工程实践可复现性,完整记录从架构设计、硬件适配到解码引擎改进的全流程。适用于在Mac本地环境进行轻量级Rust编程辅助、AI模型训练教学演示及Apple Silicon平台上的LLM部署研究。

Python
Apache License 2.0
42
Stars
8
Forks
1
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天+1
综合评分39.96
默认分支main