11/11
2800 亿参数,只激活 140 亿:ERNIE 5.5 的多路由 MoE 亮相
小互分享 ERNIE 5.5 Flash Preview 的架构细节,称其采用多路由 MoE 与混合稀疏注意力,重点瞄准专家选择和长上下文的显存开销。
AI 江湖,暗流涌动。
把值得追的每一次风起,第一时间传给你。
小互分享 ERNIE 5.5 Flash Preview 的架构细节,称其采用多路由 MoE 与混合稀疏注意力,重点瞄准专家选择和长上下文的显存开销。
MiniMax 发布开放权重图像模型 H3-Image,覆盖文生图、参考图生成与图像编辑。公司称,模型可在 10 秒内生成 4096×4096 图像,并支持最多 16 张参考图,已提供 API、MiniMax Code 与 Hailuo 使用入口。