切换到宽版
  • 72阅读
  • 1回复

[数码讨论]AI时代,Arm是无可规避生态与平台[7P] [复制链接]

上一主题 下一主题
在线jjybzxw

UID: 551814

 

发帖
168001
金币
275215
道行
2004
原创
2404
奖券
2775
斑龄
35
道券
1005
获奖
0
座驾
设备
摄影级
在线时间: 38225(小时)
注册时间: 2008-10-01
最后登录: 2025-07-13

上周,5月22日,Arm在北京召开了一场沟通会,主题内容是关于Arm在AI领域的进展。官方的演讲者是Arm高级副总裁兼终端事业部总经理Chris Bergey,最前边先挑一点我个人觉得比较重要的信息。

名义上,Chris说这次沟通会没有新品发布,实际上他透露了一个非常重要的新品信息:“Arm将在今年晚些时候推出新的 Armv9 旗舰 CPU(代号Travis)。届时,在目前业内 IPC 性能最高的 Arm 处理器基础上,再次实现两位数的 IPC 性能提升。”

关于这一新IP的AI能力,Chris表示:“这也将是第一代引入 Armv9 可伸缩矩阵扩展 (Scalable Matrix Extensions) 的处理器。该扩展功能是专门为加速 AI 工作负载而设计的,并将成为安卓生态系统中最先进的可伸缩矩阵扩展实现。”

Chris也提到了Arm在GPU IP上的持续投入,“迅速被中国生态系统视为手机高性能 GPU 的领先提供商”,结合演讲上下文,我觉得应该是指联发科和玄戒。

这场沟通会最主要的议题,就是Arm在AI领域的成绩总结以及Arm 计算平台在未来AI领域的重要作用。确实,现在说到AI,大家最先想到的都是OpenAI的模型和NVIDIA家的算力卡,但其实Arm在AI领域起到的作用非常大——在这里我就不按Chris演讲的顺序来说,而是按我自己的理解挑着说。

首先就是端侧AI,在我熟悉的智能手机领域,大量Arm驱动下的芯片,都可以实现很强的AI推理运算了,这一点是毋庸置疑的。不过,现在最大的热点已经来到了AI智能体,Chris就提到有初创公司利用AI进行编程代码审查和修改,以及用AI提升客户服务和支持,不到100人的规模就实现了超过1亿美元的营收。

但实体AI领域机会也同样大把。比如各种形态的机器人,因为实体AI的加入,很多设备都在不同场景下自主工作得非常不错。Chris坦言它们现在工作的结果与人工操作还有相当的差距, 不过,在接下来的一到三年内,当这些设备处于自主模式运行时,其表现将能够媲美人类操作。这将带来巨大的发展机遇。

这是端侧部分Arm取得的成绩。

再来看云端,我觉得这应该是Chirs想要表达的重点:不要认为Arm只在移动设备上被大量采用,从云端到端侧,Arm都具备很强的技术优势和市场占有率。

Chris说,Arm在AI领域有明显的三大优势:

第一,可移植性。Arm 架构在云端和端侧的广泛应用,以及平台的通用性,使得同一个AI应用实现平滑的移植;

第二,节能,吞口小。当前数据中心的能耗已经从兆瓦级 (MW) 跃升至吉瓦 (GW) 级,其中超过 50% 实际上来自于机架和半导体设备,在节能这件事上,Arm从诞生到现在都比友商有优势;

第三,生态优势。基于Arm 架构的芯片累计出货量已经超过3100亿颗,开发者阵营已经超过2200万人,无论硬件出货量还是软件支持,都是天文数字级别。

在这里就要提到Arm在2024年推出的Kleidi,这是一个软件库,能够集成全球主流的 AI 框架,腾讯混元的Angel机器学习框架也在其中。在这个开发环境中,软件开发者的效率能得到大幅度的提升。

基于上边的几大优势,Arm 架构也被很多大型云服务提供商所使用,比如亚马逊云科技(AWS)就在去年秋天宣布,其自身有相当部分负载是由基于Arm架构的AWS Graviton处理器承担,特别是过去两年,AWS新增算力中,有50%来自Graviton,且其重要客户(不包括 Amazon)也有超过90%使用Arm架构。原因无他,能耗优势,电贵啊!

Chris在这里提到,Arm平台易于移植的特性在此发挥了重要的作用,最初云服务提供商为了省电转向Arm,随之第三方负载也转向Arm平台,此举直接带来40%的能效提升,“预计 Arm 架构将占据半数2025年出货到头部云服务提供商的算力”,成本节省看得见。

正因为云端和端侧双管齐下,Chris说“在2025年,Arm架构将占据超过40%的PC与平板整体出货量”。

在这个地方,Chris还Cue了一下老黄:“ NVIDIA DGX Spark,它搭载了 10 个 Arm Cortex-X925 核心和 10 个 Cortex-A725 核心,并配备了可实现高达 1 PetaFLOPs(即每秒 10^15 次浮点运算) AI 性能的 GPU。这是一种将数据中心级别的计算能力带到了桌面级产品”。看来强如NV,在AI终端上也离不开Arm。

在这里我也想到了不久前上海车展联发科技的天玑座舱旗舰芯片发布会,核心技术搭子也是Arm架构和NV,也许未来在高算力终端的IP选择上,我们还会经常看到这样的组合,它们在一起可以共同推高AP、AI和视觉处理效率。

写在最后:

在AI时代,云端AI和端侧AI相结合的混合型AI共同向前发展是行业的共识,在这方面Arm的确是有优势的。更重要的是,数量庞大的端侧终端中,有很大一部分是不具备GPU、NPU这些独立计算单元的,在运行AI任务时还是非常依赖CPU(Chris给出的数据是有约70%的AI应用还是基于CPU运算开发),这对Arm来说,就是巨大的机会。

山庄提示: 道行不够,道券不够?---☆点此充值☆
 
在线jjybzxw

UID: 551814


发帖
168001
金币
275215
道行
2004
原创
2404
奖券
2775
斑龄
35
道券
1005
获奖
0
座驾
设备
摄影级
在线时间: 38225(小时)
注册时间: 2008-10-01
最后登录: 2025-07-13
只看该作者 沙发  发表于: 05-30
Arm在AI领域的进展与优势

上周,5月22日,Arm在北京召开了一场沟通会,主题内容是关于Arm在AI领域的进展。官方的演讲者是Arm高级副总裁兼终端事业部总经理Chris Bergey。以下是关于这场沟通会的一些重要信息和分析。

新品预告:Travis CPU

Chris Bergey在沟通会上透露了一个重要的新品信息:“Arm将在今年晚些时候推出新的 Armv9 旗舰 CPU(代号Travis)。届时,在目前业内 IPC 性能最高的 Arm 处理器基础上,再次实现两位数的 IPC 性能提升。” 这款新CPU将引入 Armv9 可伸缩矩阵扩展 (Scalable Matrix Extensions),专门用于加速 AI 工作负载。

端侧AI的进展

1. 智能手机领域的AI推理:
   - 在智能手机领域,大量基于Arm架构的芯片已经能够实现强大的AI推理运算。这包括图像识别、语音识别和自然语言处理等应用。

2. AI智能体的兴起:
   - Chris提到,AI智能体在编程代码审查和修改、客户服务和支持等领域展现出巨大的潜力。一些初创公司利用AI技术实现了超过1亿美元的营收,尽管团队规模不到100人。

3. 实体AI的发展:
   - 实体AI领域也展现出巨大的机会。各种形态的机器人在不同场景下自主工作,尽管目前的表现与人工操作还有差距,但Chris预测在未来一到三年内,这些设备的表现将能够媲美人类操作。

云端AI的优势

1. 可移植性:
   - Arm架构在云端和端侧的广泛应用,以及平台的通用性,使得同一个AI应用可以平滑地移植。

2. 节能优势:
   - 数据中心的能耗问题日益严重,Arm架构在节能方面具有明显优势。亚马逊云科技(AWS)已经大量采用基于Arm架构的Graviton处理器,实现了显著的能效提升。

3. 生态优势:
   - 基于Arm架构的芯片累计出货量已经超过3100亿颗,开发者阵营已经超过2200万人。这种规模效应显著增强了Arm平台的优势。

云端与端侧的结合

1. 云端计算能力:
   - Chris提到,预计到2025年,Arm架构将占据半数出货到头部云服务提供商的算力。这得益于Arm平台的节能特性和易于移植的特性。

2. 端侧终端的机会:
   - 在端侧终端中,有很大一部分不具备GPU、NPU等独立计算单元,在运行AI任务时依赖CPU。这对Arm来说是一个巨大的机会。

未来展望

1. 混合型AI的发展:
   - 在AI时代,云端AI和端侧AI相结合的混合型AI共同发展是行业的共识。Arm在这方面的优势明显,特别是在数量庞大的端侧终端中,有很大一部分依赖CPU进行AI运算。

2. 高算力终端的IP选择:
   - 未来在高算力终端的IP选择上,可能会经常看到Arm架构与NVIDIA等公司的组合。这种组合可以共同推高AP、AI和视觉处理效率。

总的来说,Arm在AI领域的进展和优势显而易见。无论是端侧还是云端,Arm都展现出了强大的竞争力。随着AI技术的不断发展,Arm在未来AI领域的作用将越来越重要。
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个