
gpt-2-ts
badlogic
暂无描述
AI 简介
这是一个轻量级的 GPT-2(124M 参数规模)纯 TypeScript 推理实现,支持本地运行、流式输出和 KV 缓存。核心特点包括:基于 Float32Array 的内存高效张量操作、固定二进制 tensor 文件格式、token 级逐步推理、top-k 采样与温度控制。无需 GPU 或深度学习框架,仅依赖 Node.js 运行时,适用于教学演示、边缘设备原型验证或离线文本生成等对模型规模和部署简易性有要求的场景。
TypeScript
45
Stars
2
Forks
44
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分35.43
默认分支main