腾讯开源 Hy4 旗舰 MoE 模型:770B 总参数、49B 激活、1M 上下文
腾讯混元 Hy 团队在 Hugging Face 开源 Hy4、Hy4-FP8 与预训练 Hy4-base 权重。Hy4 是新一代 MoE 旗舰多模态模型,语言骨干总参数 770B,每 token 激活 49B 文本参数加 1.23B 视觉参数,支持文本、图像与视频理解,上下文长度 1,048,576 tokens,采用 Tencent Hy License。
🧩 Tencent · PRODUCT
Tencent Hy 是腾讯的开放权重模型系列,Hy4 flash 于 2026 年 11 月 17 日发布 instruct、FP8 和 base 三个版本,权重同步上架 Hugging Face、ModelScope 与 GitCode。
Hy4 flash 是面向成本效率的 MoE 多模态模型:约 220B 总参数(含 63.5B Engram)、每 token 约 12B 激活,支持文本和图像输入、1M 上下文;官方定位是低成本日常生产力任务。
| 项目 | 适用 | 说明 |
|---|---|---|
| 开放权重 | Hy4 flash / FP8 / Base | Hugging Face / ModelScope / GitCode |
| 上下文 | 1,048,576 tokens | 文本 + 图像输入 |
| 许可证 | Tencent Hy License | 使用前检查商用与再分发条款 |
腾讯混元 Hy 团队在 Hugging Face 开源 Hy4、Hy4-FP8 与预训练 Hy4-base 权重。Hy4 是新一代 MoE 旗舰多模态模型,语言骨干总参数 770B,每 token 激活 49B 文本参数加 1.23B 视觉参数,支持文本、图像与视频理解,上下文长度 1,048,576 tokens,采用 Tencent Hy License。
腾讯混元 Hy 团队在 Hugging Face 上线 Hy4-base:新一代 MoE 旗舰模型的预训练基础版本,支持文本、图像与视频理解,语言主干总参数 770B;权重以腾讯自定义 Hy 许可开放,并提供 ModelScope、GitCode 与 GGUF 入口。
腾讯混元发布 Hy4 flash、FP8 和 Base 开放权重,220B 总参数(含 63.5B Engram)、每 token 约 12B 激活,支持文本/图像输入和 1M 上下文;采用 Tencent Hy License。
模型权重公开可下载,但采用 Tencent Hy License 自定义许可证;更准确说是开放权重,商用和再分发需按许可证执行。
约 220B 总参数(含 63.5B Engram),每 token 约 12B 激活,支持 1M 上下文。
Hugging Face、ModelScope 和 GitCode 都有 instruct、FP8 和 base 权重。