当前位置:首页 > 报告详情

陈恺_万亿参数科学多模态大模型 Intern-S1-Pro技术解析.pdf

上传人: 蓝*** 编号:1270098 2026-06-20 33页 9.07MB

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
1. **核心模型**:Intern-S1/Pro为科学多模态大模型,MoE架构(241B/1T参数),通用与科学能力超越InternVL3、Qwen2.5-VL等,8项科学评测超Grok-4。 2. **技术突破**:动态Tokenizer处理科学模态,傅里叶位置编码(FoPE)解决周期扩展退化,混合专家路由机制保障负载均衡。 3. **训练数据**:5.5T高质量科学语料,含跨领域数据与合成引擎,生物领域表现优于专用SOTA模型。 4. **算法创新**:CompassVerifier强化验证,InternBootCamp(1000+任务)提升推理能力,POLAR奖励模型实现SOTA偏好建模。 5. **性能表现**:BootcampEVAL任务分数提升35+点,混合任务训练涌现新能力,数学/科学场景推理显著增强。
**科学新星?** (Intern-S1在科学评测中超越Grok-4,其突破点是什么?) **万亿参数?** (MoE架构如何解决万亿参数模型的训练难题?) **验证新法?** (CompassVerifier如何提升模型在数学推理中的可靠性?)
客服
商务合作
小程序
服务号
折叠