Chinese-BERT-wwm

这是一个面向中文自然语言处理的预训练语言模型系列，基于BERT架构并采用全词掩码（Whole Word Masking）策略进行优化训练。核心包括BERT-wwm、BERT-wwm-ext、RoBERTa-wwm-ext等变体，显著提升中文分词粒度下的语义建模能力；支持PyTorch与TensorFlow 2框架，可通过Hugging Face Transformers或PaddleHub便捷调用。项目由哈工大讯飞联合实验室（HFL）发布，适用于中文文本分类、命名实体识别、机器阅读理解等下游任务，尤其适合需兼顾精度与中文词汇边界的NLP研发场景。