Hy-MT2 Translation
在 AGX Orin 和 AGX Thor 上部署 Hy-MT2 翻译模型
应用介绍
1. Hy-MT2-1.8B BF16 AGX Orin、AGX Thor 8 GiB Orin 约 34.0 token/秒 2. Hy-MT2-7B BF16 AGX Orin、AGX Thor 24 GiB Orin 约 9.8 token/秒 3. Hy-MT2-1.8B FP8 AGX Thor 16 GiB Thor 约 105.7 token/秒 4. Thor FP8 的实测首字响应时间约 22.1 毫秒 5. Orin 1.8B 在采样翻译测试中约 97.9 毫秒
应用截图
移动端截图
应用信息
原创应用