跳到正文
量子位· 量子位的朋友们·· 3 小时前AI 评分72

百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

AI 导读

百度于11月5日正式开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用 MoE 架构,总参数量2800亿,每个 Token 激活140亿参数,使用33.5万亿个 Token 完成预训练。

来源:量子位 · qbitai.com