这组参数像是一个基于MoE（Mixture of Experts）夹杂专家架构的高容量模子，· 上下文窗口为4096，· 36层Transformer，正在只要不到「1分钟」的时间窗口！gpt属于OpenAI，具备以下几个特点：幸运的是，表白模子可能具备处置更长上下文的能力；

　　共有三名。20b和120b代表了两个参数版本。上传这个模子的组织叫做「yofo-happy-panda」，以至还有一位OpenAI点赞了他的爆料推文。正在它被删除之前，· 利用RoPE的NTK插值版本？