加入收藏 | 设为首页 | 会员中心 | 我要投稿 桂林站长网 (https://www.0773zz.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 云计算 > 正文

云计算步入异构时代后,AI的算力逐渐 扩大

发布时间:2021-05-11 22:05:29 所属栏目:云计算 来源:互联网
导读:在今年的科技抗疫的大背景下,我们突然意识到云计算对于攻克病毒、战胜疫情所蕴含的巨大价值。从支持病毒基因测序、新药研发、蛋白筛选等,到新冠疑似病例的CT诊断,以及遍布交通枢纽的行人实时测温,背后都离不开AI算力的支持。 IDC在2020发布的《中国人工

在今年的科技抗疫的大背景下,我们突然意识到云计算对于攻克病毒、战胜疫情所蕴含的巨大价值。从支持病毒基因测序、新药研发、蛋白筛选等,到新冠疑似病例的CT诊断,以及遍布交通枢纽的行人实时测温,背后都离不开AI算力的支持。

IDC在2020发布的《中国人工智能云服务市场研究报告》显示,2019年中国AI云服务市场规模达1.66亿美元,2018至2024年CAGR将达到93.6%,AI能力已成为用户进行云服务选型时的重要考量因素。

2020年,AI计算已经成为云计算产业发展的加速剂和助推器。对于中小企业和社会组织,直接拥抱AI技术,面临着人才匮乏、技术门槛过高、可投入资源不足等问题。那么,通过云服务的方式,获取AI软件应用及AI算力就是企业数字化转型发展的必然趋势。

从“云化”再到“AI化”,这一趋势背后,正是云计算以虚拟化技术为基础实现的计算、网络和存储的三大资源池化。其中,以GPU、FPGA、NPU等异构加速器在云计算数据中心的增长,构成了云端的弹性的异构计算资源,可以向需要企业客户提供弹性AI计算资源。

此前,受限于网络带宽和时延,异构加速器的池化规模仍然受到很大的瓶颈。由于异构加速器产品规格繁多,大大损害了资源的池化能力;内存的分配仍然限制在单台计算节点内,造成了大量内存的碎片和浪费。随着一些Gen-Z、 CXL等cache一致性总线和高速互联协议的出现,这些异构计算资源以及内存的大规模池化将成为可能。

目前,国内已经有云厂商通过软件池化的方式,首次实现GPU、FPGA、NPU等异构加速器与CPU/内存的解耦。未来3~5年内,随着GPU、FPGA、内存等计算资源的大规模池化,计算资源将实现极致并池,引领云计算基础设施的未来,为用户带来更加极致弹性的云原生计算和存储服务器系统。

以阿里云为例,其神龙AI加速器和FastGPU等极速部署工具,就通过池化算力带来灵活的计算调度,云服务器从特定配置向serverless方向发展。这些可帮助客户在训练场景下提升2倍到10倍的性能,在推理场景下提升2倍到4倍的性能,节省至少50%的成本。

云上AI计算的一个显著变化,就是从几年前占比80%的AI训练、20%的AI推理,到如今的各占比一半,云端AI计算已经面向各行各业,突破传统的单一深度学习训练任务,变成显著的训练推理、云桌面、图形图像设计等多元化场景。

云上异构计算成为最能发挥AI效率的计算方式。

(编辑:桂林站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!