发布日期:2024-10-28 08:36 点击次数:74
近日,一篇题为“英伟达H100 GPU国外房钱价钱降至2好意思元/小时”的著述速即在国内传播开来,阛阓也纷繁围绕“算力泡沫是否运行翻脸”“H100算力不香了”等话题进行筹备。
此前好意思国一家AI推理劳动供应商Featherless.AI的研究创举东说念主Eugene Cheah撰文暗示,最近等闲收到算力租出商的告白邮件,称单张英伟达H100 GPU的租出价钱降至粗莽2好意思元/小时,以致更低,比拟2023年5好意思元/小时傍边的阛阓均价几近腰斩。
客岁时,英伟达曾斟酌,4好意思元/小时的GPU价钱会在4年内保持不变,但不到1年半就走向了降价。
Eugene Cheah在文中称,像AWS、Meta、谷歌这么的大型与中型AI模子公司,已通过经久租出榨取了算力价值。脚下,除非是要建立大型智算集群的公司,不然不要购买全新的H100,“租算力”是更经济适用的选用。
阛阓遍及招供H100国外降价的趋势,但以为“2好意思元/小时”,以致“1好意思元/小时”,主若是Lambda Labs等个别初创算力租出公司为眩惑客户搞促销,不可响应阛阓平均价钱水平。
界面新闻记者浏览亚马逊AWS云劳动平台官网时发现,按照短租和长租不同条款,以一台劳动器8张GPU换算下来,H100的最新价钱有12好意思元/小时(按一年长租签约)、5好意思元/小时(按三年长租签约)两种不同的档位。另一家云厂商谷歌云肖似居品的价钱也在10好意思元高下。
国内一位从事AI算力租出业务的行业东说念主士告诉界面新闻记者,国外H100降价的逻辑很容易相识——跟着英伟达的GPU新品H200、B200本年陆续运行上市,新品质能更强,平均算下来H100算力本钱相对更低,蓝本的旧居品当然需要降价,永别只在于降价幅度和速率。据他了解,5到8好意思元/小时,更能代表咫尺国外主流平台的价钱水平,也合乎英伟达此前斟酌的居品价钱走势。
英伟达的新品近期运行上市供货后,阛阓反响依然强烈。
该公司CEO黄仁勋本月在参加一场商酌会时泄露,B200 GPU近期运行量产交货后备受客户心疼,畴昔12个月的Blackwell架构GPU订单已一都售罄,任何新客户需要比及2025年智力收到居品。
“国内的情况与国外不同,因为英伟达高端显卡禁售,很难拿新品,走的是另一条不同的路。”上述东说念主士以为,国外降价对国内果真莫得影响,现阶段,外汇配资国内算力租出阛阓最大的问题仍在于供需失衡,“国内算力资源格外散播,大多时候都是卖家找不到买家,买家也找不到卖家。”
之是以如斯,是因为国内咫尺算力资源总供给有限,无法作念到按需分派。
据界面新闻记者了解,国内用于历练AI模子的算力资源,除了AI GPU H100、A100除外,还有英伟达的耗尽GPU居品4090,以及不同厂商的国产AI算力。
同期,国内从事算力租出的公司夹杂,居品劳动与价钱零落颐养尺度,少有像国外的AWS、谷歌云那样,不错向客户提供尺度化租出劳动的公司。
另有多位阛阓东说念主士向界面新闻记者暗示,国内算力资源租出的劳动器价钱本年确有波动。一台H100劳动器,岁首的阛阓报价在12万元/年傍边,咫尺的市价大要在7万元。
一家曾参与国内某场所政府确立智算中心的科技公司CEO提到,由于字节非凡、阿里、腾讯这些互联网巨头掌持的算力资源主要供自家大模子使用,很少能面向公开阛阓提供租出劳动。咫尺阛阓上绝大多数从事算力租出的厂商都是在卖劳动器硬件,无法作念到像夙昔的云打算厂商相似,提供尺度劳动、颐养订价。
“这些算力租出劳动商大多数是因客岁算力需求暴涨囤了一定量的AI劳动器现货,然后把算力硬件算作‘期货’炒。为了保证硬件回本,他们极少有能信得过按小时计价来天真地提供劳动,很多订单都要按1年以致更万古间起租,折算下来是一笔不小的本钱。”这位CEO以为,国内阛阓降价主要影响的是这批“投契客”,他们手中的硬件钞票在贬值。
另据两位AI劳动器的销售东说念主员泄露,咫尺国内非公开渠说念畅通的极少H100劳动器,现货每台价钱在240万元-250万元高下,比拟客岁近300万元的售价有所着落。
在上述科技公司CEO看来,仅通过H100的价钱浮动就预言“算力泡沫翻脸”为前锋早。
就供给而言,与Meta、微软、特斯拉这么已领少见十万张H100 GPU,且仍连接加大采购的国外算力巨头比拟,国内算力总量有限,各地仍在加紧插足确立智算中心。政府本年对算力确立的插足倡导也曾倡导“罢休超前”来增多供给。
而从需求角度看,不管是AI大模子历练照旧推理,以及救助传统企业通过AI探索业务转型,先进的算力资源永久是阛阓上的“抢手货”。
“阛阓上信得过有资源、有实力确立算力中心的客户照旧极少数,本年斗争的大宗客户关于平价、雄厚且按需调用的算力照旧格外渴求。”该CEO说说念。
Powered by 上盈配资 @2013-2022 RSS地图 HTML地图
建站@kebiseo; 2013-2024 万生优配app下载官网 版权所有