Intern-S2-Mobius分离知识推理
Intern-S2-Mobius提出将知识存储与推理算子解耦的模型架构,以共享FFN记忆存放知识向量、多路Self-Attn Reasoner迭代检索并组合推理。其7B从零训练模型用约62.6%基线训练数据达到相近下游分数,显示出更高知识压缩与推理效率。
事件进展(1 篇报道)
-
2026-08-17 20:49
Intern-S2-Mobius提出将知识存储与推理算子解耦的模型架构,以共享FFN记忆存放知识向量、多路Self-Attn Reasoner迭代检索并组合推理。其7B从零训练模型用约62.6%基线训练数据达到相近下游分数,显示出更高知识压缩与推理效率。