澳洲Nvidia的AI芯片劲敌来了! AMD推出MI300X,最高可运行800亿参数模型(图)

在澳大利亚澳洲新闻




AMD的“终极武器”来了!

美国东部时间6月13日,AMD在“AMD数据中心与人工智能技术首映式”上宣布,即将推出迄今为止最先进的人工智能GPU MI300X芯片。该芯片加快了 ChatGPT 和其他聊天机器人使用的生成人工智能的处理速度,并可使用高达 192GB 的内存。 MI300X的HBM密度高达NVIDIA AI芯片H100的2.4倍,HBM带宽高达H100的1.6倍,可运行的模型比H100更大。此外,AMD发布的其他新品也吸引了硅谷巨头:亚马逊云使用四代EPYC处理器打造实例; Microsoft Azure 推出配备 Genoa-X CPU 的新实例; Meta 计划使用 AMD 的新云芯片 Bergamo。

相比之下,Nvidia的H100芯片只支持120GB内存,市场普遍认为,这意味着英伟达在这个新兴市场的主导地位或将受到挑战。 MI300X 将于今年晚些时候开始向部分客户发货。 AMD CEO Lisa Su 也介绍了 MI300X 可以支持 400 亿参数的 Hugging Face AI 模型运行,并展示了这个 LLM 可以写一首关于旧金山的诗。这是世界上第一次在单个 GPU 上运行如此大的模型。 单个 MI300X 可以运行一个具有多达 800 亿个参数的模型。

尽管投资者预计 AMD 将与 Nvidia 竞争在AI芯片领域,分析师并没有追随AMD的浪潮,而是理智地指出,AMD要挑战英伟达在人工智能芯片领域的行业领导地位还有很长的路要走,单靠这款芯片是做不到的.

在一份新报告中,花旗芯片分析师 Chris Danely 表示,AMD 的 MI300 芯片看似是一个巨大的设计胜利,但鉴于性能限制和失败历史,他非常关注图形/CPU IC可持续性,“虽然我们预计 AMD 将继续从英特尔手中夺取市场份额,但其热那亚新产品的增长速度似乎低于预期”。

同日,Cambrian-AI Research LLC创始人兼首席分析师Karl Freund也在福布斯发文称,虽然AMD的新芯片引起了市场各方的极大兴趣,但并不兼容与英伟达。与H100芯片相比,小米300X面临一些挑战,主要有以下四个方面:

第一,Nvidia的H100今天开始全面出货;到目前为止,Nvidia 仍然拥有 AI 行业和研究人员生态系统中最大的软件。

其次,虽然MI300X芯片提供了192GB的内存,但Nvidia很快就会在这一点上赶上,甚至可能在同一时间段内反超,所以这并不是一个巨大的优势。而且MI300X的价格会非常高,和Nvidia的H100相比不会有明显的成本优势。

第三个才是真正的关键:MI300没有H100那样的Transformer Engine(NVIDIA GPU上加速Transformer模型的库),H100可以将large language model(LLM)性能提升一倍.如果用几千个(Nvidia 的)GPU 训练一个新模型需要一年时间,那么在 AMD 的硬件上训练可能还需要 2-3 年,或者投资 3 倍的 GPU 来解决问题。

最后,AMD 尚未披露任何基准测试。但训练和运行 LLM 时的性能取决于系统设计和 GPU,因此预计今年晚些时候会与竞争对手进行一些比较。

不过,Freund 还补充说,MI300X 可能会成为 Nvidia 的 GH200 Grace Hopper 超级芯片的替代品。像 OpenAI 和微软这样的公司需要有这样的替代方案,虽然他怀疑 AMD 会向这些公司提供他们无法拒绝的报价,但 AMD 不会从 Nvidia 那里夺走很多市场份额。

今年以来,AMD的股价上涨了94%。昨日,美股收跌3.61%,同业英伟达收涨3.90%,市值首次收于万亿美元大关。

事实上,英伟达的领先地位不仅来自其芯片,还来自其十多年来为人工智能研究人员提供的软件工具。 “尽管 AMD 在硬件性能方面具有竞争力,但人们仍然不相信它的软件解决方案可以与 Nvidia 竞争,”Moor Insights & Strategy 分析师 Anshel Sag 说。

有望带动科技企业良性竞争发展

美国科技评论家比利·杜伯斯坦12日指出,随着ChatGPT的流行,人工智能似乎开辟了新的领域,许多行业的龙头企业展开了一场争夺市场的竞争分享。无论是 Nvidia 还是 AMD 赢得比赛,每家科技公司都将从中受益。

Duberstein表示潜在客户对MI30感兴趣0 很感兴趣。他在 6 月 8 日引用数字时代的一篇文章说,数据中心客户正在吵着要寻找 Nvidia 的替代品。 Nvidia 目前在人工智能 GPU 的高利润、高增长市场占据主导地位,在 AI 服务器中占据 60% 至 70% 的市场份额。

Duberstein接着指出,鉴于目前Nvidia H100服务器的价格居高不下,数据中心运营商希望看到Nvidia有第三方竞争对手,这将有助于降低AI芯片的价格。所以这对 AMD 来说是一个巨大的优势,对 Nvidia 来说是一个挑战。这为每个市场参与者带来了良好的盈利能力。

上个月,摩根士丹利分析师约瑟夫摩尔调整了对AMD人工智能收入的预测,称其可能比最初预期高出“数倍”。

中国企业有望继续受益于GPU的竞争AI产业链

目前,全球各大科技公司都在争抢AI门票。与海外巨头相比,中国科技巨头对GPU的采购更为迫切。

据《晚点晚报》报道,今年春节过后,中国各大拥有云计算服务的互联网公司都纷纷向英伟达下了大单。今年字节跳动已经向英伟达订购了超过10亿美元的GPU,而另一家大公司的订单至少也超过了10亿元人民币。而单是今年的字节序,就可能接近英伟达去年在中国销售的商用GPU的总和。

国金证券表示继续看好AMD在AI产业链上的新动作。该机构认为,生成式人工智能的持续流行推动了对人工智能芯片的强劲需求。英伟达第二季度数据中心业务指引超出预期。台积电4nm、5nm、7nm产能利用率大幅提升,就是最好的证明。

国金证券指出,根据产业链研究,光模块-DSP芯片龙头厂商表示未来AI相关业务有望快速增长;增加。服务器PCIe Retimer芯片龙头企业表示,第三季度需求加速,逐季增长。因此,我们看好2024-2025年AI新产品的推出,AI产业链有望持续受益。


澳洲中文论坛热点
悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
联邦政客们具有多少房产?
据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联

中文新闻,澳洲经济,时事,华人论坛动态,悉尼本地消息,墨尔本,珀斯,布里斯班,澳洲新闻,澳大利亚华人网,澳洲华人论坛

澳洲新闻

珀斯一所小学被纵火,造成10万澳元损失

澳大利亚珀斯一所小学昨晚发生火灾,造成10万元损失,警方正在寻找纵火犯。 晚上9点左右,消防队员接到大楼起火的报告后赶往苏比亚科小学。 据悉,行政大楼在火灾中受损,消防队员花了一 ...

澳洲新闻

悉尼司机行车记录仪记录疑似保险欺诈

澳大利亚悉尼一辆汽车的行车记录仪记录了一名涉嫌篡改保险的女子的奇怪视频。 Reddit 上上传的视频显示,周三,一名男子在悉尼西部贵格会山 (Quakers Hill) 的 Barnier Driver 上开车,一名女子突然 ...

澳洲新闻

墨尔本 Box Hill 七栋公寓楼项目获批

澳大利亚墨尔本东部一栋七套公寓大楼已获得批准。 规划部长索尼娅·基尔肯尼 (Sonya Kilkenny) 将于周一宣布批准 Box Hill Central North 总体规划,该项目耗资 15.7 亿美元,根据政府加速住宅开发的计 ...

澳洲新闻

新州长薪资增加21万至70万出头

澳大利亚阿尔巴尼亚政府提出了一项修改州长工资的法案。 以下为法律解释备忘录: 宪法第三部分规定,总督的工资在任职期间不得修改。该法案修订了《州长法案》,将州长的总工资从 495, ...

澳洲新闻

73岁“自行车贼”死亡,被判入狱35年

澳大利亚南澳大利亚臭名昭著的自行车抢劫犯因一系列武装银行抢劫案被判处 35 年监禁,但他不会在监狱里待太久。 Kym Allen Parsons 被南澳大利亚最高法院判处 28 年不得假释。 加急判决是为了允 ...

澳洲新闻

第三阶段减税将于下周一生效

澳大利亚在宣布数年、大幅修改数月后,第三阶段减税政策终于将于下周一(7月1日)生效。 与其他减税措施不同,这些减税措施不会在您报税后立即全部记入您的银行帐户。相反,您可以从七 ...