什么是FPGA云服务器?有哪些优势,应用于那些场景?

2022年5月24日 59点热度 0人点赞 0条评论

FPGA云服务器是一类提供了现场可编程门阵列(FPGA)的实例规格。由于FPGA硬件的可重配特性,您可以快速擦写和重配已创建的FPGA硬件加速应用,同时拥有低时延硬件与资源弹性。

阿里云FPGA云服务器参考https://www.aliyun.com/product/ecs/fpga

FaaS平台介绍

传统FPGA开发硬件周期长,开发难度大,硬件加速算法的发布和部署保护要求也非常高。FPGA云服务器平台FaaS(FPGA as a Service)在云端提供统一硬件平台与中间件,可大大降低加速器的开发与部署成本。您无需了解底层硬件即可快速开发和部署自己的定制加速器,也可以直接使用加速器提供商提供的加速服务。

FaaS包括三个组件:

  • 硬件基础设施:FPGA云服务器、硬件加速开发和部署平台(Intel、Xilinx)。
  • 云上配套开发环境:厂商配套软件(Quartus、Vivado)、第三方EDA软件(仿真、模拟)。
  • FPGA IP开发生态:图片转码、基因计算、数据加密、视频压缩、硬件仿真设计、深度学习(预测/训练)等。

阿里云基于FaaS平台推出了FPGA云服务器,在提供FPGA加速能力的同时,保留了与普通ECS实例一致的使用体验。您在创建ECS实例时,选择企业级异构计算规格即可。实例规格的详细信息,请参见实例规格族

功能特性

  • 统一性

    兼容多种FPGA器件(Intel、Xilinx),支持Multi-boot的Shell烧写,更可靠,易移植开发。

  • FPGA虚拟化

    自主研发的FPGA软硬件虚拟化方案,实现上云安全隔离要求。支持热升级功能,在不中断业务的前提下,对部分用户逻辑进行在线重配置,以实现新的功能。

  • 联合仿真平台

    支持Intel和Xilinx器件,您无须更改原有设计即可进行软硬件联合仿真,降低输出FPGA高性价比算力的复杂度。

  • 互联拓扑动态可配置

    支持1片、2片、4片FPGA互联拓扑,可动态配置拓扑,实现最高性价比。同卡FPGA之间使用高速互联通道,应用实现两片FPGA之间实时、大批量数据搬运时,不存在带宽瓶颈。

工具套件

FaaS平台提供HDK和SDK套件,搭建更加高效、统一的开发及部署平台。
FaaS平台架构
  • HDK采用Shell+Role的组合方式,保证Shell的最轻量化和稳定性,同时兼顾便捷性和灵活性。
  • SDK包括两部分:
    • HDK对应的主机端驱动(Drivers)与软件库(Libraries),和HDK的Shell、Role相对应,一起为您提供统一灵活的软件支持。
    • FPGA管理工具faascmd套件,为您提供云上FPGA管理服务,包括BIT/DCP文件安全校验、FPGA镜像生成、下载及管理、FPGA加速卡状态查询反馈等功能。

    FaaS的镜像相关操作依赖于阿里云OSS存储,因此使用FPGA云服务器时必须开通OSS服务,具体操作请参见开通OSS服务

产品计费

FPGA云服务器的计费相关功能和云服务器ECS一致,其中,计算资源(vCPU和内存)、镜像、块存储、公网带宽以及快照等资源涉及计费。

常见的计费方式如下所示:

  • 包年包月:按一定时长购买资源,先付费后使用。
  • 按量付费:按需开通和释放资源,先使用后付费。
  • 抢占式实例:通过竞价模式抢占库存充足的计算资源,相对按量付费实例有一定的折扣,但是存在回收机制。
  • 预留实例券:搭配按量付费实例使用的抵扣券,承诺使用指定配置的实例(包括实例规格、地域可用区等),以折扣价抵扣计算资源的账单。
  • 节省计划:搭配按量付费实例使用的折扣权益计划,承诺使用稳定数量的资源(以元/小时为单位衡量),以折扣价抵扣计算资源、系统盘等资源的账单。
  • 存储容量单位包:搭配按量付费存储产品使用的资源包,承诺使用指定容量的存储资源,以折扣价抵扣块存储、NAS、OSS等资源的账单。

产品优势

FPGA云服务器具有独特优越的加速性能和经济实惠的性价比,并且易于复用已有的FPGA设计。

  • 分钟级交付

    基于阿里云弹性计算框架,您可以几分钟内轻松创建FPGA实例,创建自定义的专用硬件加速器。

  • 独特优越的加速性能

    FPGA器件通过PCIe 3.0接口与上层应用程序通信。对应用中消耗大量的CPU计算,系统可以选择性的交给FPGA专用硬件进行加速计算。释放CPU资源用于支持更大的应用访问量和吞吐量。您可选高配FPGA特性,共同使用一个地址空间相互通信速度高达48 Gbit/s。

  • 经济实惠的性价比

    购买FPGA实例时,无需单独购买FPGA器件和板卡。FPGA实例支持按量付费,可随时释放,实现轻资产开发,降低项目研发期间的投入成本。

  • 可复用已有的设计

    如果您已经有现成的FPGA工程,可以利用阿里云提供的开发环境和硬件支持包(BSP)轻松地将已有工程导入云端,并在FPGA实例中使用。阿里云提供了Intel、Xilinx主流的开发软件工具链,FPGA实例中的FPGA器件也兼顾两家,方便您根据原设计的具体情况进行合理选择,无缝迁移。

应用场景

直播实时视频转码

阿里云异构GPU/FPGA服务器重点支持2019年双11猫晚直播的实时视频转码,以高画质、低带宽、高分辨率、实时的综合优势服务猫晚当天直播业务4K、2K、1080P等各个分辨率的转码。其中FPGA H.265高清编码、720P节省带宽21.6%,GPU云服务器支持高并发实时视频流5000路以上,并逐步上升到峰值6200路每分钟,且顺利度过洪峰。异构GPU云服务器还参与实时家居渲染图片生成等业务,首次提供了大量算力强劲的ebmgn6v裸金属实例,支持淘宝渲染方提升几十倍的渲染性能,第一次实现秒级实时渲染,完成总计超过5000张大型家居渲染图。异构FPGA图片转码业务则以3K+片的超大集群,为淘宝图片空间提供高达数百万QPS的处理能力,承担了双十一淘宝图片85%的流量,预计节省计算成本3亿。

人工智能

目前,GPU是人工智能技术方案的首选,原因在于两个方面:

  • GPU具有完善的生态和高并行度的计算力,能很好地帮助您实现方案和部署上线。
  • 人工智能的发展仍处于早期阶段,各个行业正在从算法层面尝试寻找商业落地的可能性,是一个从0到1的过程。

可以预见在未来几年,人工智能落地应用越来越多,大规模商业部署渐渐成为可能。这时对于更低功耗、更低成本、更低处理延时、更多定制化等方面的需求将会逐渐凸显。在人工智能大规模商业部署(推理应用)中,f3实例将具备独特的性能优势和广阔的潜在空间。

GPU计算的处理优势在于拥有众多专用的并行计算单元以及超高的显存带宽,让多路大规模数据搬移和快速并行计算成为典型的计算模式,但该模式也导致了每路数据的处理延迟增加。在具有低延迟需求的在线业务场景中,例如语音识别等,在Batch值较小的情况下,f3实例的处理延时仅为GPU的1/10。

深度神经网络计算的一个发展趋势是降低数据表示的精度,降低网络对于计算力的需求,以提高计算吞吐量。从双精度浮点到单精度浮点,再到定点处理,而定点运算是FPGA的传统优势。与GPU相比,FPGA内部配备了众多的定点处理单元,甚至可以将整个FPGA芯片的内部逻辑资源配置成定点处理单元,进而具备了超高的定点运算能力。

基因测序

基因测序是一种新型基因检测技术,能够从血液或唾液中分析测定基因全序列,预测罹患多种疾病的可能性。基因测序技术能锁定个人病变基因,提前预防和治疗,目前一个广为人知的用途是针对唐氏综合征的无创产前基因检测。随着基因测序技术的快速发展,基因数据的生成呈现指数级增长,应用也越来越广泛,对分析能力提出更高要求。

传统的计算系统通过采用多个高端CPU搭建HPC系统实现了缩短时间的目的,但导致成本增加,行业应用规模以及基因企业发展规模受限。目前中国内地基因企业面临基因计算成本偏高,但业务需求旺盛的行业困境,急需高性价比的算力资源。

以人类全基因组(WGS)分析为例,使用一台16 vCPU、64 GiB的CPU实例,完成单个WGS分析耗时近100小时,而f3实例可以在30分钟以内完成,极大地缩减了计算时间,降低了成本。

IC设计原型验证

在传统的数字IC设计流程中,使用FPGA搭建芯片原型验证平台测试功能是一个重要环节,验证过程需要大量的FPGA逻辑单元。而对于传统数字芯片设计公司,购买或者自研复杂的FPGA验证单板或平台,不仅耗时耗力,而且本不是公司主要业务方案。加之FPGA平台升级换代速度快过芯片设计周期,大型数字芯片设计中追求更大逻辑量FGPA板卡,需要不断研制最新fpga板卡一直是个痛点。

f3实例选用单芯片逻辑单元达250万个的VU9P,支持双芯片600 Gbit/s互联以及多板卡间的100 Gbit/s互联。f3实例最多支持16个VU9P芯片,充分满足了数字芯片原型验证阶段对于大逻辑量的需求。同时选择f3实例还可以避免维护复杂FPGA板卡,缩减了验证平台的维护成本。

云端压缩的计算加速

云上用户在进行大数据存储、高速网络传输时,常常因为实例性能需要在效率和成本之间做出取舍。gzip是一种广泛用于互联网服务的压缩工具,但传统的CPU实现gzip效率低、耗时长、难以支撑较大流量。使用带有FPGA的计算实例进行gzip压缩,性能比仅用CPU的普通实例提升8~10倍,充分满足用户的数据压缩需求。

在后台服务日志压缩、网站静态资源文件压缩、批量计算任务压缩、分布式存储压缩等方面均可使用FPGA进行加速。

数据库加速

以大型互联网公司为例,每天处理的数据量级都在PB,每天更新的网页以亿计,每24小时更新的日志超过PB,因此需要大型的集群处理大规模的数据。在处理大规模数据时,数据仓库的性能直接影响数据本身的处理能力。

f3实例得益于FPGA细颗粒度的数据处理能力、高并发度的并行计算能力,能够大幅提升数据库产品的性能。

  • 以数据库处理中的排序单元为例,在PostgreSQL的核心处理单元加速中,f3实例的性能比只使用CPU提升10倍以上。
  • 以时序数据处理为例,时序数据广泛应用于物联网(IoT)设备监控系统、企业能源管理系统(EMS)、生产安全监控系统、电力检测系统等行业场景,f3实例单路数据吞吐性能是单核CPU的30倍以上。

zdc1228@163.com

这个人很懒,什么都没留下

文章评论