【芯观点】 数据中心大变形:看英伟达如何颠覆冯·诺伊曼架构
芯观点──聚焦国内外产业大事件,汇聚中外名人专家观点,剖析行业发展动态,带你读懂未来趋势!
数据正在撬动我们的地球,更改变着人类的各个小世界——制造、工业、商业、医疗、教育……所有的行业都在经历前所未有的智能化重塑。
数据作为重要的资源和生产要素,已经成为世界范围内的共识。而这一切背后的支点——数据中心——计算和存储数据的区域,必将是未来科技企业角逐的圣地。
如今,这个“支点”也必须面临大变革。
因为随着AI、机器学习等应用的深入所带来的数据大爆炸,对算力提出了更高要求。据IDC统计,全球算力的需求每3.5个月就会翻一倍,远远超过了当前算力的增长速度。在此驱动下,全球计算、存储和网络基础设施必须发生根本转变。
“数据中心目前正进行一场变革,即从冯·诺依曼架构的数据中心转向以数据为中心的架构。”英伟达网络事业部亚太区市场开发高级总监宋庆春表示,而其背后的原因很简单,数据大爆炸,原来的冯·诺伊曼架构下,将数据输送至服务器的CPU芯片中进行计算的方式逐渐难以招架。
以数据为中心的新架构
以冯·诺依曼架构为基础的数据中心里,所有的计算会以CPU或GPU为中心,即所用的数据需传送到CPU或GPU上。基于两者强大的算力,这样的架构解决了数据中心计算性能的问题。
这就是x86双雄:英特尔与AMD的角逐之地,作为老牌计算芯片,服务器仍旧是CPU的主场。英特尔也很快意识到在数据爆炸的当下,无论是云端还是边缘服务器,越来越多的厂商都开始通过AI来加速数据处理,而CPU并不是执行此类运算的最佳载体。
因而在第一代至强可扩展处理器开始英特尔便引入AVX-512指令集,随后第二代又引入深度学习加速技术,到了最新的第三代进一步对软硬件整体进行优化。而AMD凭借先进工艺,和高核心数量正逐步侵占英特尔的地位。
另一边对着数据中心虎视眈眈的英伟达,除了绕开x86的险地,推出Arm架构的CPU外,围绕手上的三U体系,英伟达对数据中心的计算架构提出了新的见解。
不过,英伟达选择了新的道路:让计算围绕数据因地制宜。
宋庆春指出,数据在网络通信过程中,很多通信模型会制约整个系统性能的发展,用传统的冯·诺依曼架构的计算模型就会造成网络拥塞。无论是提升带宽还是降低延迟都无法解决这一问题,如何继续提升数据中心的性能成了业界面临的新挑战。
以数据为中心的新架构就此被提出。宋庆春解释,新架构的特征是数据在哪,计算就在那:当数据在GPU上,计算就在GPU上;当数据在网络中传输时,计算就在网络中。
通过这样的方式即可解决网络传输中的丢包问题或其他瓶颈。新架构可以使通讯延时降低10倍以上,因而网络计算成为现在以数据为中心的架构的关键技术之一。
但这场变革需要帮手,因为围绕数据密集型应用已进入多芯片融合时代,CPU、GPU、FPGA等已入列,被誉为继CPU、GPU后的第三颗算力芯片——DPU,将成为这场变革的关键因素。
DPU扮演何种角色?
DPU即Data Processing Unit,是面向数据中心的基础架构处理器。“DPU就是做那些CPU做不好,GPU做不了的计算任务。”中科院计算所研究院、中科驭数创始人兼CEO鄢贵海曾对表示,“作为最新发展起来的处理器的一个大类,DPU产生的背景是数字智能时代,数据爆发导致的‘端-边-云一体化’趋势带来对计算延迟、数据安全、资源虚拟化的需求。”
DPU有可能成为继CPU和GPU之后的第三颗算力芯片,在英伟达眼中,它的出现为以数据为中心的新计算架构带来不同的思路,它的到来解放了CPU和GPU的计算资源。
宋庆春表示,此前以CPU为主体的系统里,所有操作都用CPU来做。以Open vSWITCH(OVS)为例,若用CPU来运行,会占用许多CPU的资源,但包转发率非常低,但用DPU来操作,包转发率大幅提升,CPU的计算资源又被解放了。更值得关注的是,当用DPU运行时,实现了业务和基础设施操作的分离,大幅降低了长尾延时。
在去年宣布推出DPU芯片时,英伟达创始人黄仁勋就表示,数据中心已成为新型计算单元,在现代化、安全的加速数据中心中,DPU已成为其重要的组成部分。CPU、GPU和DPU的结合,可构成完全可编程的单一AI计算单元,提供前所未有的安全性和算力。
在今年的GTC大会上,英伟达又迎来自己DPU产品线BlueField的新迭代。
作为业内首款400G以太网和NDR InfiniBand DPU,BlueField-3具有出色的网络性能。相比上一代产品,它具有5倍加速计算能力、16个Arm A78 CPU核,和4倍的加密速度。BlueField-3也是首款支持第五代PCIe总线并提供数据中心时间同步加速的DPU。BlueField-3可为NVIDIA Morpheus提供实时的网络可视化、网络威胁的检测与响应,以及监控、遥测和代理服务,Morpheus是一个先进的基于AI的云原生网络安全平台。此外,BlueField-3利用NVIDIA DOCA(集数据中心于芯片的架构)软件开发包的优势,为开发者提供一个完整、开放的软件平台,开发者可在BlueField DPU上开发软件定义和硬件加速的网络、存储、安全和管理等应用。
黄仁勋在GTC上表示:“现代超大规模云技术推动数据中心从基础上走向了新的架构,利用一种专门针对数据中心基础架构软件而设计的新型处理器,来卸载和加速由虚拟化、网络、存储、安全和其它云原生AI服务产生的巨大计算负荷。BlueField DPU正是为此而生。”
DPU的应用生态系统正逐步建立,领先的服务器制造商戴尔、浪潮、联想和超微正在将BlueField DPU集成到他们的系统中。全球云服务供应商都在使用BlueField DPU来加速他们的业务,如百度、京东和UCloud。
以UCloud为例,据UCloud资深技术专家马彦青介绍,从2018年起,UCloud 便开始积极探索基于BlueField DPU的高性能裸金属物理云方案,并在去年上半年成功上线裸金属物理云1.0。通过DPU集成的多核ARM CPU快速将物理云基础架构软件从x86迁移到DPU中,满足了物理云客户高带宽、低延时的网络需求。裸金属物理云2.0继承了1.0版本的优点,在取代原先传统物理云独立网关的模式,打通公有云网络的同时,内网带宽也实现了升级,采用bonding后可达到40Gbps水平。经测试,裸金属云盘可以达到约40万IOPS的高吞吐,真正实现灵活性与性能的兼顾。
他表示,选用DPU的初衷既是为了解决网络性能的瓶颈问题,也是为了降低成本。
在GTC 2021上,黄仁勋在接受在内的媒体群访时表示,未来属于零信任、云原生、高计算性能的数据中心,最终也是在一个强大的芯片上建立前沿数据中心。DPU与GPU的结合将会非常重要,在将来会看到数以亿计的服务器级别的电脑在全球铺设开。
多芯片融合时代的到来
“X”PU芯片的应运而生,作为服务器领域的常年霸主,英特尔也不得不面对并承认这个事实。在第三代志强发布会上,英特尔表示,过去一年,英特尔也一直在转型,从一家CPU公司转型为一个XPU平台公司,X代表很多不同的产品,包括FPGA、AI加速芯片等。
另一边,向服务器领域施展拳脚的英伟达在发布面向数据中心的CPU之后,三U阵容正蓄势待发。而在DPU这条赛道上,除传统巨头外,一些初创企业如中科驭数、Pensando等也正开发DPU产品。
宋庆春对指出,数据中心已进入多芯片融合时代,在大部分数据中心里都有GPU的身影。未来的数据中心会以AI为核心,AI正成为数据中心里非常关键的技术。对于英伟达而言,未来的数据中心走向3U一体的架构后,为计算带来非常理想的优化空间,可根据计算类型为其分配最优的算力芯片,从而构建性能最佳的数据中心。
随着DPU的崛起,数据中心成为了新的计算单元,囊括计算、存储、通信各单元,甚至到未来会实现从单芯片到超级计算机的统一架构。“未来CPU、GPU、DPU之间的关系即是如何合理分配数据计算的位置,实现多芯片融合计算的最佳拍档。”宋庆春说道。
(Sharon)
,一伊和姜涛怎么了,iphone4s中国上市时间,挣的组词 http://www.cityruyi.com/lm-2/lm-1/7461.html- 标签:,汽车喷水电机,余额宝转出要手续费吗,飞马国际股票
- 编辑:马拉文
- 相关文章
-
【芯观点】 数据中心大变形:看英伟达如何颠覆冯·诺伊曼架构
芯观点──聚焦国内外产业大事件,汇聚中外名人专家观点,剖析行业发展动态,带你读懂未来趋势! 数据正在撬动我们的地球,更改变着人类的…
-
【每日收评】集微指数涨0.03% 有研新材靶材相关产线满产
A股三大指数今日集体小幅收涨,日K线齐收四连阳。沪指收盘上涨0.80%,收报3557.41点;深证成指上涨0.38%,收报14696.29点;创业板指上涨0.…
- 【IPO价值观】江波龙境外采购占9成,主要封装厂京元电陷入停工危机
- 华天科技:51亿元定增申请获中国证监会受理
- 晶瑞股份:半导体光刻胶、高纯试剂等产品产销两旺
- 晶振市场现状:32.768K晶振为王,得温补者得天下
- 【芯观点】内卷与依存,美国三大半导体设备供应商的众生相