jadore801120

attention-is-all-you-need-pytorch

jadore801120

A PyTorch implementation of the Transformer model in "Attention is All You Need".

AI 简介

这是一个基于PyTorch实现的经典Transformer模型(源自论文《Attention is All You Need》)的开源项目。它完整复现了自注意力机制、多头注意力、位置编码、层归一化等核心组件,支持机器翻译任务的训练与推理,并提供WMT德英数据集的预处理、训练和翻译示例流程。项目采用模块化设计,代码结构清晰,便于学习Transformer原理与PyTorch工程实践。适用于自然语言处理教学、模型原理验证及轻量级NLP任务基线实验,尤其适合希望深入理解注意力机制而非直接部署生产系统的开发者与研究者。

Python
MIT License
9.8k
Stars
2.1k
Forks
91
Watchers
66
Issues

Star 增长

今日0
近 7 天0
近 30 天+10
综合评分66.96
默认分支master