小红书首次开源文本大模型

新榜讯 6月9日讯，小红书于近日正式开源其首个大模型——dots.llm1。该模型为中等规模的Mixture of Experts（MoE）文本大模型，由小红书hi lab（Humane Intelligence Lab，人文智能实验室）团队精心研发，总参数量达142B，激活参数为14B。