产品详情
T4
产品特性
极具突破性的推理性能
Tesla T4 引入革命性的 Turing Tensor Core 技术,具备人工智能推理的多精度计算性能。从 FP32 到 FP16 再到 INT8,又到 INT4 精度,T4 的性能比 CPU 高出 40 倍,实现性能的重大突破。
先进的实时推理
响应性是提高用户参与度的关键,范围涉及诸多服务,例如:会话式人工智能、推荐系统和可视化搜索。随着模型准确性和复杂性的提高,目前立即交付正确答案所需的计算能力也在呈指数级提升。Tesla T4 可提供 优于 40 倍的低延时高吞吐量,进而可以实时满足更多的请求。
视频转码性能
随着在线视频的数量呈指数级增长,人们对有效搜索以及从视频中获取洞察力的解决方案的需求也与日俱增。Tesla T4 为人工智能视频应用提供极具突破性的性能,其专用的硬件转码引擎将解码性能提升至上一代 GPU 的两倍。T4 可以解码多达 38 个全高清视频流,从而可以轻松地将可扩展的深度学习集成到视频管线中,以提供创新的智能视频服务。
产品参数
产品型号 | T4 |
CUDA核心数量 | 2560 |
Tensor核心数量 | 320 |
CUDA核心频率 | 1582MHz |
显存容量 | 16GB |
显存带宽 | 320GB/s |
显存类型 | GDDR6 |
INT4 | 260TOPS |
INT8 | 130TOPS |
半精度性能(峰值) | 16.2TFLOFPS |
单精计算性能(峰值) | 8.1TFLOFPS |
双精计算性能(峰值) | 320TFLOFPS |
互联带宽(双向) | 32GB/s |
功耗 | 75W |