动平衡多少钱

随着生成式人工智能的激增,AI的应用进一步落地,这是计算行业作为新生产力地位的关键。

其中,擅长加速计算的GPU堪称AI时代的计算能力核心,并且由于制造难度较高,一度因供不应求而成为各大科技公司抢购的重点产品。

据验证市场研究统计,2022年全球GPU市场规模将达到448.3亿美元,预计2027年将达到1853.1亿美元,年均增长率为32.82%。

需求高的同时,行业也在阶段性变化。从国内市场来看,今年随着国内对计算能力供需平衡的预期,部分计算能力价格开始松动。一方面,从供应链上传出消息,英伟达为了吸引客户,将H20单卡价格从12.5万降到10万左右;另一方面,从AI服务器的角度来看,目前也有一定的价格回调。

目前AI算力的真实市场情况是怎样的?这背后的趋势是什么?

动平衡多少钱芯片的供需关系逐渐平衡。从需求来看,AI芯片本身在全球市场就比较火热。

IDC亚太区研究总监郭告诉21世纪经济报道记者,从全球市场来看,由于人工智能、深度学习和高性能计算的快速发展,全球GPU需求持续上升,比如英伟达推出的H100芯片需求就非常强劲。然而,尽管NVIDIA努力扩大生产,但由于供应链的瓶颈,如制造和封装能力有限以及原材料短缺,全球市场的GPU供应仍然不能完全满足市场需求。

回顾中国市场,同样存在供不应求的问题。郭指出,由于人工智能的快速发展,中国的数据中心仍在建设中,对GPU的需求也在增加。但在供应方面,高性能产品在依赖进口的同时,又受到国外的限制,进一步加剧了供应紧张的局面。

不过,目前来看,这种供应紧张的局面正处于缓解过程中。

TrendForce集邦咨询分析师龚明德告诉21世纪经济报道记者,目前,CoWoS(封装技术)和HBM(存储产品)的供应已经逐渐缓解,尤其是面向全球市场的H100芯片和面向国内市场的H20芯片供应周期已经明显缩短至12-16周以内,因此供应问题已经基本解决。预计第二季度后,这些产品的出货量将陆续增加。

受美国出口管制政策的影响,NVIDIA针对中国市场推出了新的H20芯片,但多位业内人士告诉记者,由于其性能被大幅,国内客户没有兴趣购买,因此选择转向国产AI芯片替代。

为了吸引客户,英伟达选择降低H20芯片的价格。有产业链人士告诉21世纪经济报道记者,NVIDIA的H20单卡价格从12.5万降到10万左右。

不过,也有大型机型厂商向记者指出,对于企业来说,是买H20还是其他AI芯片更重要。如果有一些性能要求相对较低的应用,采购成本合适,也不排除购买。

国产芯片的使用也需要生态适应和迁移,也需要时间磨合。最近又有报道称,NVIDIA H20芯片开始引起包括百度、阿里巴巴、腾讯和字节跳动在内的中国厂商的购买兴趣。

市场研究机构Semiysis的最新预测数据报告也指出,英伟达今年将向中国市场出货超过100万颗新的英伟达H20芯片,每颗芯片的成本预计在1.2万至1.3万美元之间,预计将为英伟达带来超过120亿美元的收益。

目前国产计算芯片不断崛起,包括GPU、CPU、ASIC芯片等等。比如主营GPU的摩尔线程、天之弦、随缘、琵琶行;主营CPU的中科曙光、广海信息、腾飞;以及专门做AI芯片的各大厂商,比如华为、百度昆仑芯、寒武纪,还有阿里、腾讯。有国内厂商告诉记者,目前价格没有明显波动。

图片来源:IC photo

AI服务器价格回归

从AI服务器来看,目前确实有一定的价格回调。一位消息人士向21世纪经济报道指出,国内主要AI服务器的价格波动在10%左右。

多位业内人士对21世纪经济报道记者分析,AI服务器的价格回调可以理解为一种价格回归。

“我个人认为英伟达的GPU服务器被过度炒作是因为外部政策的限制。去年NVIDIA Dali的服务器价格完全扭曲,几乎脱离了中国大陆市场常规商品的概念。”一位数据中心厂商人士告诉记者,随着供需的改善,价格回归是正常现象,相关产品的价格会逐渐回归到与海外类似的一个水位。

一位计算能力租赁行业的从业者也向记者分析,计算能力的价格确实下降了,但更多的是回归正常。“ChatGPT刚推出的时候,计算服务器的价格大幅上涨了很长一段时间,现在逐渐回归到原来的价格区间。所以计算能力的租赁价格下降了,从某种意义上来说是正常现象。”

这一定是因为应用场景的缺乏。“目前,虽然国内外头部厂商都在积极建设超大规模计算集群,但支撑这些计算能力释放的应用场景并不多。这导致AI服务器价格无法形成足够的支撑。”前述人士表示。

从公开销售市场来看,IDC中国分析师杜云龙告诉记者,考虑到A100在中国大陆市场被禁止,价格无法统计。“我们的统计显示,AI服务器在公开市场的均价下降主要是因为高端卡的限制。目前国内能流通的芯片是H20,单价低于H100。”

TrendForce集邦咨询分析师龚明德表示,目前国内主要的AI服务器以H20机型为主,价格因规模不同而有所波动,估计波动在10%左右,主要原因是国内AI市场竞争日趋激烈。再加上上游货源短缺逐渐缓解,使得NVIDIA Hopper系列供货更加顺畅,同时推进到新一代Blackwell平台,使得价格有所调整空。

智算中心部署趋于谨慎

理论上,当价格合理时,将是数据中心部署的好时机。

“比如对于后来者来说,在目前服务器价格相对合理的时期,可以更好的进行大规模的模型训练。毕竟英伟达的软件生态有利于大型模型厂商更快完成模型训练。”前述数据中心人士这样对记者分析。

但挑战在于行业环境。该人士指出,其所处的行业仍处于复苏过程中,因此更需要考验决策层是否有足够的勇气在现阶段进一步进行数据中心部署规划。“在大模式尚未形成核心替代力量的前提下,过早部署数据中心还会面临难以完成商业模式正向循环的担忧。”

我们不能忽视政策因素的影响。在全球部署业务的主流公司,对来自海外的限售政策会比较谨慎,以免影响自身业务的正常开展。

“我预测,今年年底到明年年初可能是部署数据中心的好时机。”他继续说,随着包括苹果在内的头部技术制造商推出更多大型模型用例,也可能为市场带来新的动力。现在是观察市场波动的时候了。“诚然,目前还没有大规模模型应用的爆发,但逐渐有了一些迹象。”

某大型模型终端应用公司人士告诉记者,即使NVIDIA服务器降价,对模型推理端的影响估计也不大。“公司会继续按原计划投资。对于一些没有做过模型推理的商家,就算便宜也不会做。”

但从英伟达H20的“版”来看,杜云龙认为相应的部署意味着价格更低但性能更低。

“目前对AI计算能力还是有需求的,但是如果需要达到原来规划的计算能力,可能需要花更高的成本去打造。因此,对于新部署的智能计算中心,成本会更高;或者说计算能力的种类会更加多样化,而不仅仅是依靠某个品牌或者某张卡。租赁业务还将需要向最终用户提供多样化的计算能力,允许用户选择适合他们并且具有成本效益的计算能力租赁服务。”杜云龙指出。

价格战加速大模型生态繁荣

作为计算力产业链的重要一环,大型号厂商也在密切关注计算力价格的变化。多位大型机型厂商向21世纪经济报道记者透露,今年以来,算力价格波动不大。

一位云厂商告诉记者,在相同参数下,模型推理的成本并没有降低,其核心还是与GPU的价格有关。但在同样的效果下,随着模型效果的提高,模型的参数也在逐渐降低。

这意味着与之前的模型相比,可以用更少的参数训练出同样的效果,相当于计算能力成本的降低。

一家大型模特创业公司的负责人也告诉记者,今年他们的模特培训费用在减少。原因是公司专注于训练13B参数的大模型,不追求更大的模型。所以在没有更多新模特的情况下,模特培训的需求和成本也相应降低。

在上游算力价格变化不大的情况下,各大型号厂商的算力成本仍然主要取决于型号参数的阶次。比如今年有厂商把模型参数的量级从1000亿级提高到万亿级,计算能力的成本自然就提高了。

但今年大模领域突然爆发的一场价格战,直接降低了大模的申请门槛。今年5月,多家云厂商宣布降低旗下大型机型价格,部分机型甚至免费。

金山办公助理总裁朝对21世纪经济报道记者表示,大机型API接口降价一定会促进AI的发展。token贵的时候,如果一个用户有一个40万字的文档要上传,他可能会拿出一个计算器来算算要花多少钱。

2022年下半年,晁用电子表格做了一个计算。在用户使用的很多常见场景中,每次使用大型号的价格都高得离谱。“这种情况下,用户使用大机型的意愿很低,因为它要考虑这个能力值不值得花这么多钱。”超云起说,但现在,如果大型号的成本接近零,用户可以毫无顾虑地使用它。

对于大模型的价格战,百川智能创始人兼CEO王小川告诉21世纪经济报道记者,云厂商通过这样的定价,会加速整个大模型生态的繁荣。“去年,每个人都在拥抱大模型。每个企业都想自己培养一个,但市场实际上并不需要那么多模型提供商。现在随着模型的开源,闭源模型价格的下降,会有更多的企业知道自己的定位。”

同时,王小川认为,目前大模型推理成本的下降主要是由技术进步推动的。“大厂商也应该预料到未来车型的成本会大幅降低。也许他们今天会赔钱,但再过一年可能就不赔钱了。在这种情况下,大厂考虑的不是短期的亏损,而是未来的车型能不能降到足够便宜。”

从行业过去几个月的发展趋势来看,大模型的应用生态正在快速崛起。不过,一位资深行业人士也向记者表达了自己的担忧。“大机型的价格战短期内可能是好事,但长期来看,对技术和商业模式未必是好事。”

该人士认为,技术的发展需要长期投资。如果大模式的产值不够交电费,行业可能会误入歧途。“本质上,大模式导致价格战是因为没有足够的差异化,所以大家最需要的是提高自己产品的差异化,而不是单纯的打价格战。这是整个行业未来需要突破的地方。”

更多信息请下载21金融APP。

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。

发表回复

登录后才能评论