上传这个模子的组织叫做「yofo-happy-panda」，他分享了一段LLM的设置装备摆设文件，oss代表开源软件，可能支撑多语种或代码夹杂输入；· 词表跨越20万，每个token激活4个）；他不只也正在Hugging Face上发觉这个模子，以至还有一位OpenAI点赞了他的爆料推文。这组参数像是一个基于MoE（Mixture of Experts）夹杂专家架构的高容量模子，但也有滑动窗口和扩展RoPE，· 留意力头多达64个，这是很多模子扩展上下文的一种体例（如GPT-4 Turbo利用的体例）；· 36层Transformer，20b和120b代表了两个参数版本。· 利用RoPE的NTK插值版本，