分享到：
- 微信
- 微博
分享到微信打开微信，点击底部的“发现”， |
2024/11/05
15:41【腾讯发布MoE大语言模型】11月5日，腾讯发布Hunyuan-large。据官方数字，该模型是业界参数规模最大的开源MoE（专家）大语言模型，总参数389B，上下文长度256K，模型层数64层，用到了合成数据。腾讯机器学习平台总监康战辉表示，今天业内用的更多还是自然数据，但自然数据增长跟不上模型的需求。（第一财经记者 郑栩彤）
举报
分享到微信打开微信，点击底部的“发现”， |
15:41【腾讯发布MoE大语言模型】11月5日，腾讯发布Hunyuan-large。据官方数字，该模型是业界参数规模最大的开源MoE（专家）大语言模型，总参数389B，上下文长度256K，模型层数64层，用到了合成数据。腾讯机器学习平台总监康战辉表示，今天业内用的更多还是自然数据，但自然数据增长跟不上模型的需求。（第一财经记者 郑栩彤）