智东西11月5日报道,今日,百度正式发布并开源文心5.5 Flash Base(ERNIE-5.5-Flash-Base)。这款模型采用稀疏MoE架构,总参数量达到280B,每个token仅激活14B参数,在33.5T tokens上从零完成预训练,最长训练上下文达到128K,微调与推理支持1M tokens上下文。