large_concept_model

Large Concept Models（LCM）是一种在句子级语义表征空间中进行语言建模的新型架构，将语言生成建模为概念序列的自回归预测。其核心基于SONAR多语言嵌入空间，将句子映射为语言与模态无关的‘概念’单元，并支持MSE回归与双塔扩散两种生成范式；模型规模达1.6B参数，训练数据达1.3万亿token。适用于跨语言语义理解、低资源语言生成、概念级可控文本生成及多模态对齐等需要高层语义抽象的NLP任务。