GPU 云服务器（Cloud GPU Service）是基于 GPU 的快速、稳定、弹性的计算服务，主要应用于深度学习训练/推理、图形图像处理以及科学计算等场景。 GPU 云服务器提供和标准 CVM 云服务器一致的方便快捷的管理方式。GPU 云服务器通过其强大的快速处理海量数据的计算性能，有效解放用户的计算压力，提升业务处理效率与竞争力。
为什么选择 GPU 云服务器
GPU 云服务器与自建 GPU 服务器对比：
优势 | GPU 云服务器 | 自建 GPU 服务器 |
弹性 | 只需几分钟时间即可轻松获取一个或若干个高性能计算实例。 可按需灵活定制，一键升级到更高性能和容量的实例规格，实现快速、平滑扩容，满足业务快速发展需要。 | 机器固定配置，难以满足变化的需求 |
性能 | 透传 GPU 性能，高效发挥 GPU 性能。 单机峰值计算能力突破 125.6T Flops 单精度浮点运算，62.4T Flops 双精度浮点运算。 | 用户手工容灾，依赖于硬件健壮性。 数据物理单点，数据安全不可控。 |
易用 | 与腾讯云云服务器 CVM、负载均衡 CLB 等多种云产品无缝接入，内网流量免费。 和云服务器 CVM 采用一致的管理方式，无需跳板机登录，简单易用。 清晰的 GPU 驱动的安装、部署指引，免去高学习成本。 | 购买装机管理，自行实现硬件扩展、驱动安装。 需跳板机登录，操作复杂。 |
安全 | 不同用户间资源全面隔离，数据安全有保障。 完善的安全组和网络 ACL 设置让您能控制进出实例和子网的网络入出站流量并进行安全过滤。 与云安全无缝对接，享有云服务器同等的基础云安全基础防护和高防服务。 | 不同用户共享资源，数据不隔离。 需额外购买安全防护服务。 |
成本 | 提供包月购买方式，无需大量资金投资购置物理服务器。 硬件跟随主流 GPU 更新步伐，免除硬件更新带来的置换烦恼。 服务器运维成本低，无需预先采购、准备硬件资源，有效降低基础设施建设投入。 | 高服务器投资运营成本。 设备高功耗，需硬件改造适配。 为保障服务稳定需高额的运维 IT 成本。 |
GPU 云服务器与 CPU 云服务器对比：
维度 | GPU | CPU |
核心数量 | 数千个加速核心（双卡 M40 高达 6144 个加速核心） | 几十个核心 |
产品特点 | 1. 高效众多的运算单元（ALU）支持并行处理 2. 多线程以到达超大并行吞吐量 3. 简单的逻辑控制 | 1. 复杂的逻辑控制单元 2. 强大的算数运算单元（ALU） 3. 复杂的逻辑控制 |
适用场景 | 计算密集、易于并行的程序 | 逻辑控制、串行运算的程序 |
应用场景
GPU 云服务器具有超强的并行计算能力，适用于 AI 训练、AI 推理、科学计算、云游戏、云渲染、视频编解码等场景。
AI训练
GPU 计算型实例 GN10Xp、GT4 搭载 V100、A100 GPU，具有强大的双精度浮点运算能力，配备 300～600GB/s NVLink，适用于大规模 AI 训练加速。
GPU 计算型实例 PNV4ne 搭载 A10 GPU，支持 弹性 RDMA 网卡，可极大地降低了 CPU 负载和网络延迟，适用于分布式 AI 训练加速。
AI推理
GPU 计算型实例 PNV4、GN7 搭载 A10、T4 GPU，提供高性能功耗比的单精度浮点算力，广泛应用于在线和离线推理业务场景。
NPU 计算型 PTX1搭载紫霄C100加速卡，适用于 AI 推理场景，在 CV、OCR、NLP 等场景性价比优越。
科学计算
GPU 计算型实例 GN10Xp、GT4 搭载 V100、A100 GPU，具有大显存，高算力，低时延卡间互联的特点，为计算流体动力学、地震分析 、基因组学等科学计算场景需求提供大规模并行计算能力。
云游戏
GPU 渲染型 GNV4v、GN7vw 搭载 A10、T4 GPU，配备适用于云游戏渲染场景的 GRID 驱动，提供 1/2、1/4 的 GPU 切分规格，实现在保障高画质、低时延前提下，画质单路游戏成本优化。
GPU 渲染型 GA3 搭载腾讯云星星海 GA01，专为云游戏场景研发，可实现 1/6 细粒度切分，提供超高性价比的云游戏解决方案。
云渲染
GPU渲染型 GNV4、GN7vw 搭载 A10、T4 GPU，配备适用于渲染场景的 GRID 驱动，可实现图片、影视的快速渲染，提高影视动画、工业设计等场景的在离线渲染效率。
视频编解码
视频增强型 GN7vi 搭载 T4 GPU，配置腾讯自研的明眸视频融合 AI 技术，包括极速高清编解码引擎和画质增强工具包，适用于点播、直播场景。
