高通交付首批CloudAI100加速器和边缘方案开发套件:从终端到云端AI的联合

在 2019 年 4 月,高通公司发布了一款专用于云端 AI 加速的处理器 Qualcomm Cloud AI 100,采用 7nm 工艺,性能比当时业界最先进的 AI 推理解决方案高出 10 倍以上 。
而在 2020 年 9 月 16 日,高通宣布 AI 推理加速器 Cloud AI 100 已经面向全球部分客户出货 。
高通 Qualcomm Cloud AI 100 加速器拥有先进的信号处理能力和领先的能效,能够支持诸多运行环境对于 AI 解决方案的需求,包括数据中心、云端边缘、边缘设备和 5G 基础设施等 。
而全新宣布的 Qualcomm Cloud AI 100 边缘方案开发套件通过提供一整套面向 AI 处理的系统级解决方案,支持高达 24 路的 1080p 视频流和 5G 连接,旨在加速边缘应用的普及 。
硬件方面,Qualcomm Cloud AI 100 支持高达 400TOPS 的 AI 算力,同时在 7nm 工艺的加持下,拥有出色的性能功耗比,旨在提供业界领先的 AI 推理效率 。Qualcomm Cloud AI 100 还支持从 15W 到 75W 功率的多种设备形态,其中包括 PCI-E 卡 。
至于 Qualcomm Cloud AI 100 软件套件,其中包含一套完整的工具栈,并支持 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes 。
该软件套件包括具备编译器和模拟器的 Qualcomm Cloud AI 100 应用 SDK,以及具备 runtimes、API、内核驱动程序和工具的平台 SDK,旨在支持 Qualcomm Cloud AI 100 平台在多个运行环境中的开发、测试及部署 。
Qualcomm Cloud AI 100 开发套件由三个模组化的 Qualcomm 组件构成:
Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理
Qualcomm 骁龙 865 模组化平台——支持应用和视频处理
骁龙 X55 调制解调器及射频系统模组——支持全球运营商的预认证模组实现领先的 5G 连接能力
总体来说,Qualcomm Cloud AI 100 边缘方案开发套件是已经优化的系统级解决方案,能够提供高性能的 AI 推理、视频处理和 5G 连接 。
高级副总裁、计算与边缘云业务总经理 Keith Kressin 表示:“高通在提供拥有业界领先的性能功耗比、从边缘到云端的高性能 AI 解决方案方面处于绝佳地位 。目前,Qualcomm Cloud AI 100 正面向全球部分客户出货,我们预计采用该产品的商用设备将于 2021 年上半年面市 。”
随着 AI 技术在社会生产、生活中的应用越来越深入,AI 产业的规模也在不断增大,小到我们手上的智能手机,大到工业生产的设备,越来越需要 AI 的助力 。这些 AI 中,有数据采集、计算、决策都在前端设备本地进行的终端 AI,也有数据训练、处理都是在云端进行的云端 AI 。而未来终端 AI 和云端 AI 都不可能孤立存在,两者的彼此无缝协同联动才是大势所趋 。
此背景下,在终端侧 AI 领域有着强大号召力的高通,通过 Qualcomm Cloud AI 100 加速器和开发套件将自身的 AI 实力拓展到云端,就很容易理解了 。
过去高通一直以来给人的印象都是终端侧 AI 的坚定执行者,基于骁龙 AI Engine 人工智能引擎,高通通过终端 AI 为这个星球上一半以上的智能手机提供 AI 运算,方便人们的生活 。但我们不知道的是,除了终端侧 AI,高通在运算 AI 方面也拥有深厚的积累,事实上,高通一直都在促进终端 AI 和云端 AI 的合作与协同,是分布式 AI 的先行者和践行者 。
【高通交付首批CloudAI100加速器和边缘方案开发套件:从终端到云端AI的联合】 而本次交付的 Qualcomm Cloud AI 100 加速器和边缘方案开发套件,峰值性能能达到骁龙 855 和骁龙 820 的的 3 至 50 倍,就是高通在云端 AI 方面强大实力的最好例证 。随着 5G 商业部署的深入,高通将推进 AI 在运算进行大规模的训练和推理,然后通过高速率低时延的 5G 网络,将 AI 的具体能力和执行落实到边缘终端侧,让边缘计算和云端的运算实时协同,既拥有强大的运算性能,又拥有极低的时延,从而让 AI 能够赋能社会生产生活的各方各面,彻底变革我们的生活方式 。
责任编辑:psy

    推荐阅读