发布日期:2024-05-22 23:14 点击次数:60
(原标题:豆包大模子公布价钱清单,撑握国内最高并发循序)
文/赵磊
近期,火山引擎官网更新了豆包大模子的订价治服,全面展示豆包通用模子不同版块、不同规格的价钱信息。在模子推理订价大幅低于行业价钱的基础上,豆包通用模子的 TPM(每分钟Tokens)、RPM(每分钟苦求数)均达到国内最高循序。以豆包主力模子 pro-32k 为例,价钱比行业低99%,TPM名额则高达同规格模子的2.7倍到8倍。
图:豆包系列模子“后付费”订价信息
官方信息袒露:在按照 Tokens 实质使用量筹谋用度的“后付费”格式下,豆包通用模子-pro、豆包通用模子-lite的 32k 及以下窗口版块,模子限流为 10K RPM 和 800K TPM(以 RPM 和 TPM 其中之一到达上限为准)。国内其他主流模子的 TPM 名额大多在 100K 到 300K 之间,RPM则是在60到120区间,轻量级模子的RPM名额相对较高,但只是在300到500之间。
按照 10K RPM 名额筹谋,企业客户平均每秒不错同期调用167次豆包通用模子,从而赋闲绝大大批业务场景在坐蓐系统的大模子欺骗需求。这一循序,仍是达到 OpenAI 为高档别客户( Tier4 及 Tier5 等第客户)提供的 RPM 上限。
在算力挑战更大的长文本模子上,豆包通用模子 pro 和 lite 的 128k 版块,模子限流为 1K RPM 和 400K TPM,相同大幅高于国内其他的128k长文本模子。
此外,上盈配资豆包大模子公布了最新的“预支费”模子单位价钱。“预支费”所以调用某个特定模子的 TPM 配额,企业购买后无需再为 Tokens 耗尽付费,提前为不错预想的流量波动谋划好算力 。
图:豆包系列模子“预支费”模子单位价目表
以豆包通用模子 pro-32k为例:
按照 “预支费”模子单位价钱筹谋,10K TPM 的包月价钱为2000元。10K*60*24*30=43200K。即 432000K Tokens的价钱为2000元,平均价钱为 0.0046元/千Tokens。
按照“后付费”格式筹谋:在模子推理的筹谋本钱中,推理输入频繁占绝大部分比例,业界一般以为推理输入是输出的5倍。字据豆包通用模子 pro-32k 推理输入 0.0008元/千Tokens、推理输出 0.002元/千Tokens 筹谋,模子推理的详细价钱为 0.001元/千Tokens。
火山引擎方面暗意,豆包大模子为客户提供了无邪、经济的付费格式,“后付费”即可赋闲绝大大批企业客户的业务需求,助力企业以极低本钱使用大模子、加快大模子的欺骗落地。
“豆包模子的超低订价,开首于咱们有信心用时间技能优化本钱,而不是补贴或是打价钱构兵夺市集份额。”火山引擎总裁谭待以为,“羊毛出在猪身上”在企业市集行欠亨,时间运行的极致性价比才能真的创造价值。火山引擎与字节独特豆包大模子团队正在密切融合,将握续优化模子恶果和推理本钱,为企业和竖立者提供更好模子、更低本钱和更易落地的平台撑握。
附:火山引擎官网的模子管事价钱文档https://www.volcengine.com/docs/82379/1099320
Powered by 上盈配资 @2013-2022 RSS地图 HTML地图
建站@kebiseo; 2013-2024 万生优配app下载官网 版权所有