GPU 云服务器(GPU Cloud Computing,GPU)是基于 GPU 应用的计算服务,具有实时高速的并行计算和浮点计算能力,适应用于 3D 图形应用程序、视频解码、深度学习、科学计算等应用场景。我们提供和标准云服务器一致的管理方式,有效解放您的计算压力,提升产品的计算处理效率与竞争力。

GPU 云服务器采用业界顶级的服务器级别 GPU,为客户提供稳定,可靠以及弹性的高性能计算基础设施。

GPU 云上应用

相比 GPU 传统线下应用,云上 GPU 主要服务以海量数据为特征的高性能计算,有下面三大应用领域:

  • 视频编解码:GPU 一般都集成了专用的视频编解码硬件单元,相比 CPU 提供了更快的视频处理速度,是目前网络视频流处理的高性能选择。

  • 图形图像处理:GPU 的传统用途,在云上面主要应用在高性能设计办公(CAD/CAE),云游戏等场景。

  • 通用计算:把 GPU 强大的浮点运算能力应用到深度学习训练/推理,科学计算等场景。

产品分类策略

腾讯云 GPU 产品命名是按照 GPU 的主要功能和 GPU 供应商来定义的,“渲染型 GPU GA?”代表实例采用的是 AMD GPU,主打 3D 渲染;“计算型 GPU GN?”代表实例采用的是 NVIDIA GPU,主打通用计算。

渲染型 GPU

  • 3D 图形渲染

  • 图像处理

  • 视频编解码

计算型 GPU

  • 深度学习

  • 科学计算

  • 视频编解码

  • 3D 图形渲染

由于 NVIDIA 产品定位的原因,其 GPU 在走产品融合的路线,计算型 GPU 也逐步开放出了渲染(图形图像处理)能力。腾讯云 GPU 产品的功能分类只代表该产品的默认用途。

GPU 虚拟化技术

腾讯云目前所采用的 GPU 虚拟化技术主要为直通(Direct Pass-Through)或 PCIE 硬件虚拟化(SRIOV);腾讯云正在研究开发最新一代的 GPU 虚拟化技术,保证产品性能与功能的同时,提供更好的灵活性。

GPU 云服务器(GPU Cloud Computing)是基于 GPU 的快速、稳定、弹性的计算服务,主要应用于深度学习训练\推理、图形图像处理以及科学计算等场景。 GPU 云服务器提供和标准 CVM 云服务器一致的方便快捷的管理方式。GPU 云服务器通过其强大的快速处理海量数据的计算性能,有效解放用户的计算压力,提升业务处理效率与竞争力。

为什么选择 GPU 云服务器

GPU 云服务器 与自建 GPU 服务器对比:

优势
GPU云服务器
自建GPU服务器
弹性
  • 只需几分钟时间即可轻松获取一个或若干个高性能计算实例。

  • 可按需灵活定制,一键升级到更高性能和容量的实例规格,实现快速、平滑扩容,满足业务快速发展需要。

    机器固定配置,难以满足变化的需求
    性能
    • 透传 GPU 性能,高效发挥 GPU 性能。

    • 单机峰值计算能力突破 125.6T Flops 单精度浮点运算,62.4T Flops 双精度浮点运算。

      • 用户手工容灾,依赖于硬件健壮性。

      • 数据物理单点,数据安全不可控。

        易用
        • 与腾讯云云服务器 CVM、负载均衡 CLB 等多种云产品无缝接入,内网流量免费。

        • 和云服务器 CVM 采用一致的管理方式,无需跳板机登录,简单易用。

        • 清晰的 GPU 驱动的安装、部署指引,免去高学习成本。

          • 购买装机管理,自行实现硬件扩展、驱动安装。

          • 需跳板机登录,操作复杂。

            安全
            • 不同用户间资源全面隔离,数据安全有保障;

            • 完善的安全组和网络 ACL 设置让您能控制进出实例和子网的网络入出站流量并进行安全过滤。

            • 与云安全无缝对接,享有云服务器同等的基础云安全基础防护和高防服务。

              • 不同用户共享资源,数据不隔离。

              • 需额外购买安全防护服务。

                成本
                • 提供包月购买方式,无需大量资金投资购置物理服务器。

                • 硬件跟随主流 GPU 更新步伐,免除硬件更新带来的置换烦恼。

                • 服务器运维成本低,无需预先采购、准备硬件资源,有效降低基础设施建设投入。

                  • 高服务器投资运营成本。

                  • 设备高功耗,需硬件改。

                  • 为保障服务稳定需高额的运维 IT 成本。

                    GPU 云服务器与 CPU 云服务器对比:
                    www.ksyuwei.cn

                    维度GPUCPU
                    核心数量数千个加速核心(双卡 M40 高达 6144 个加速核心)几十个核心
                    产品特点1. 高效众多的运算单元(ALU)支持并行处理
                    2. 多线程以到达超大并行吞吐量
                    3. 简单的逻辑控制
                    1. 复杂的逻辑控制单元
                    2. 强大的算数运算单元(ALU)
                    3. 简单的逻辑控制
                    适用场景计算密集、易于并行的程序逻辑控制、串行运算的程序

                    性能卓越可靠

                    实时加速计算
                    GPU 云服务器具有超强的计算性能:

                    • 采用主流的 GPU 和 CPU。

                    • 提供了强大的单双精度浮点运算能力,单机峰值计算能力最高突破125.6T Flops单精度浮点运算及62/4T Flops双精度浮点运算。

                    服务稳定安全

                    GPU 云服务器提供安全可靠的网络环境和完善的防护服务:

                    • GPU 云服务器位于 25G 网络环境中(部分10G网络),内网时延低,提供优秀的计算能力。

                    • 支持和 云服务器CVM 、 私有网络 VPC 、 负载均衡 CLB 等的业务对接,不增加额外的管理和运维成本,内网流量免费。

                    • 完善的 安全组 和 网络 ACL 设置,让您能控制进出实例和子网的网络入出站流量,并进行安全过滤。

                    • 与云安全无缝对接,享有云服务器同等的基础云安全基础防护和高防服务,详情请参考 了解网络与安全性详情

                    实例部署迅速

                    GPU 云服务器支付流程简单,即买即用,详情请参考 购买指导
                    GPU 云服务器入门简单,用户可以迅速搭建一个 GPU 示例,并且与云服务器 CVM 采用一致的管理方式,无需跳板机登录,简单易用,详情请参考 
                    快速入门
                    GPU 云服务器与 
                    负载均衡 CLBSSD 云硬盘 等多种云产品无缝接入,清晰的 Nvidia 显卡驱动的安装、部署指引,无需硬件扩展、驱动安装。

                    海量计算处理

                    GPU 云服务器超强的计算功能可应用于海量数据处理方面的运算。如搜索、大数据推荐、智能输入法等:
                    • 原本需要数天完成的数据量,采用 GPU 云服务器在数小时内即可完成运算。
                    • 原本需要数十台 CPU 云服务器共同运算集群,采用单台 GPU 云服务器可完成。
                    www.ksyuwei.cn

                    深度学习模型

                    GPU 云服务器可作为深度学习训练的平台:

                    1. GPU 云服务器可直接加速计算服务,亦可直接与外界连接通信。

                    2. GPU 云服务器和云服务器 CVM 搭配使用,云服务器为 GPU 云服务器提供计算平台。

                    3. 对象存储 COS 可以为 GPU 云服务器提供大数据量的云存储服务。
                      www.ksyuwei.cn

                    简单深度学习模型

                    用户可以使用 GPU 云服务器作为简单深度学习训练系统,帮助完成基本的深度学习模型。
                    www.ksyuwei.cn

                    复杂深度学习模型

                    结合云服务器 CVM 提供的计算服务、对象存储 COS 提供的云存储服务、云数据库 MySQL 提供的在线数据库服务、云监控和大禹提供的安全监控服务,可搭建一个功能完备的深度学习离线训练系统,帮助高效、安全地完成各种离线训练任务。www.ksyuwei.cn

                    腾讯云推出渲染型 GPU 渲染型 GA2 实例,搭配 AMD 最新 S7150 系列 GPU,单 GPU 核心具有2048个 处理器核心,单 GPU 最高可达 3.77 TFLOPS 单精度浮点运算,建议用于非线性编辑、 视频编解码、 图形加速可视化和 3D 设计等 GPU 渲染场景。

                    非线性编辑场景

                    非线性剪辑是电影和电视后期制作中的一种现代剪接方式。有大量的图形图像处理负载,需要可视化 GPU 处理图片及可视化设计,同时需要大量计算、内存或存储来存储及处理媒资数据。将媒资数据存储在云端,网络剪辑环境下可实现项目共享,多人本地终端同时工作,分别进行剪辑、字幕、特技、调色、包装。
                    www.ksyuwei.cn

                    渲染场景

                    渲染是用软件从模型生成图像的过程,应用在视频、模拟和电影电视制作等广泛领域。渲染业务场景需要 GPU 显卡实现图形加速及实时渲染,同时需要大量计算、内存或存储。高性能计算能力及图形渲染能力,实现在线图形渲染处理,大大缩短制作周期,提升整体效率。
                    www.ksyuwei.cn

                    远程图形工作站

                    远程图形工作站是一种服务器和客户端采用相互分离的形式,通过专用网络连接到主机来进行日常的工作的工作站。主机服务器一般集中部署在信息中心机房,通过 GPU 显卡处理图形工作负载,客户端的终端通过连接键盘、鼠标、显示器通过专用网络连接到主机来进行日常的工作。
                    www.ksyuwei.cn

                    说明:

                    GPU 云服务器作为 CVM 云服务器的一类特殊实例,购买、 操作、维护等方式与 CVM 云服务器一致,详细说明参考 云服务器文档

                    为了更好的使用 GPU 云服务器,请仔细阅读并关注以下使用注意事项:

                    1. 备份数据

                    GPU 云服务器目提供强大的计算能力。GN2,GN8 实例可选择搭载本地 SSD 硬盘,但为避免极端情况下的数据丢失,请务必定期备份数据,以保证数据的安全性。
                    为保证数据更加安全可靠,也可以单独购买弹性云盘并挂载。

                    2. 及时续费

                    GPU 云服务器到期前7天开始,用户会收到到期提醒,如需继续使用请及时续费。否则,到期时实例会被关机断网并进入回收站,请务必确保在服务到期前及时续费或备份数据。

                    3. 外接设备

                    GPU 云服务器暂不支持直接加载外接硬件设备,如硬件加密狗,U 盘,外接硬盘,银行 U key 等。

                    4. 配置升级

                    GPU 云服务器暂不支持配置升降级。

                    5. 禁止说明

                    • 禁止使用 GPU 云服务器做流量穿透服务,最高处以关停并锁定实例的处罚并清退处理。

                    • 禁止使用 GPU 云服务器针对淘宝等电商网站从事刷单、刷销量、刷广告等虚假网站交易的网络行为。

                    www.ksyuwei.cn

                    www.ksyuwei.cn

                    www.ksyuwei.cnwww.ksyuwei.cnwww.ksyuwei.cnwww.ksyuwei.cnwww.ksyuwei.cn

                    什么是 NVIDIA Tesla?

                    NVIDIA Tesla(特斯拉)是 NVIDIA 继专业加速卡 QUADRO 及娱乐图形卡 GeForce 系列后,推出的一个全新的产品线,主要应用于于广大科学研究的高性能计算需求。利用 NVIDIA® Tesla® GPU 加速器更快地处理要求超级严格的 HPC 与超大规模数据中心的工作负载。

                    什么是加速计算?

                    加速计算是指使用硬件加速器或协同处理器来执行浮点数计算和图形处理,比使用在 CPU 上运行的软件更高效。腾讯云提供三种加速计算选型:适用于通用计算的 GPU 计算型(GN2、GN8)和适用于图形密集型应用程序的 GPU 渲染型 GA2。

                    GPU 相对于 CPU 有哪些优势?

                    GPU 比 CPU 拥有更多的逻辑运算单元(ALU),支持多线程大规模并行计算。

                    何时应选择使用 GPU 的实例?

                    GPU 实例最适用于并行度极高的应用程序,例如,使用数千个线程的工作负载。当图形处理有大量的计算要求,其中的每个任务都相对较小时,执行的一组操作形成了一个管道,而此管道的吞吐量要比单个操作的延迟更为重要。要构建能充分利用这种并行度的应用程序,用户需要掌握 GPU 设备的专项知识,了解如何针对各种图形 API(DirectX、OpenGL) 或 GPU 计算编程模型(CUDA、OpenCL)进行编程。

                    GPU 云服务器如何计费?

                    目前 GPU 云服务器支持包年包月计费模式和按量计费模式。包年包月计费模式需要您提前按单月或数月支付 GPU 云服务器的费用,适用于设备需求量长期稳定的成熟业务。按量计费模式是按秒计费,按小时结算,随时购买随时释放,适用于电商抢购等设备需求量瞬间大幅波动的场景。具体内容请参阅 价格总览。

                    GPU 云服务器的配置是否可以升级、降配?

                    GPU 云服务器暂不支持对实例进行升级、降配。

                    什么是 SSD 本地盘?

                    SSD 本地盘是来自云服务器所在物理机的本地存储,该类存储为实例提供块级别的数据访问能力,具有低时延、高随机 IOPS、高吞吐量的 I/O 能力。 GPU 计算型搭载 SSD 本地盘,不支持硬件(CPU、内存)的升级,仅支持带宽的升级。

                    GPU 云服务器是否支持访问 CVM ?

                    支持,GPU 云服务器具有内网 IP 和 公网 IP,支持与 CVM 等其他云产品互通访问。


                    • 名称: GPU云服务器
                    • 关键词: GPU云服务器,高性能服务器,高速计算,腾讯云