• 我的订阅
  • 科技

豆包大模型公布价格清单 支持国内最高并发标准

类别:科技 发布时间:2024-05-21 11:57:00 来源:华商网

华商网讯(记者 姬文艳) 近期,火山引擎官网更新了豆包大模型的定价详情,全面展示豆包通用模型不同版本、不同规格的价格信息。在模型推理定价大幅低于行业价格的基础上,豆包通用模型的 TPM(每分钟Tokens)、RPM(每分钟请求数)均达到国内最高标准。以豆包主力模型 pro-32k 为例,价格比行业低99%,TPM限额则高达同规格模型的2.7倍到8倍。

豆包大模型公布价格清单 支持国内最高并发标准

图:豆包系列模型“后付费”定价信息

官方信息显示:在按照 Tokens 实际使用量计算费用的“后付费”模式下,豆包通用模型-pro、豆包通用模型-lite的 32k 及以下窗口版本,模型限流为 10K RPM 和 800K TPM(以 RPM 和 TPM 其中之一到达上限为准)。国内其他主流模型的 TPM 限额大多在 100K 到 300K 之间,RPM则是在60到120区间,轻量级模型的RPM限额相对较高,但仅仅在300到500之间。

按照 10K RPM 限额计算,企业客户平均每秒可以同时调用167次豆包通用模型,从而满足绝大多数业务场景在生产系统的大模型应用需求。这一标准,已经达到 OpenAI 为高级别客户( Tier4 及 Tier5 等级客户)提供的 RPM 上限。

在算力挑战更大的长文本模型上,豆包通用模型 pro 和 lite 的 128k 版本,模型限流为 1K RPM 和 400K TPM,同样大幅高于国内其他的128k长文本模型。

此外,豆包大模型公布了最新的“预付费”模型单元价格。“预付费”是以调用某个特定模型的 TPM 配额,企业购买后无需再为 Tokens 消耗付费,提前为可以预见的流量波动规划好算力 。

豆包大模型公布价格清单 支持国内最高并发标准

图:豆包系列模型“预付费”模型单元价目表

以豆包通用模型 pro-32k为例:

按照 “预付费”模型单元价格计算,10K TPM 的包月价格为2000元。10K*60*24*30=43200K。即 432000K Tokens的价格为2000元,平均价格为 0.0046元/千Tokens。

按照“后付费”模式计算:在模型推理的计算成本中,推理输入通常占绝大部分比例,业界一般认为推理输入是输出的5倍。根据豆包通用模型 pro-32k 推理输入 0.0008元/千Tokens、推理输出 0.002元/千Tokens 计算,模型推理的综合价格为 0.001元/千Tokens。

火山引擎方面表示,豆包大模型为客户提供了灵活、经济的付费模式,“后付费”即可满足绝大多数企业客户的业务需求,助力企业以极低成本使用大模型、加速大模型的应用落地。

“豆包模型的超低定价,来源于我们有信心用技术手段优化成本,而不是补贴或是打价格战争夺市场份额。”火山引擎总裁谭待认为,“羊毛出在猪身上”在企业市场行不通,技术驱动的极致性价比才能真正创造价值。火山引擎与字节跳动豆包大模型团队正在密切合作,将持续优化模型效果和推理成本,为企业和开发者提供更好模型、更低成本和更易落地的平台支持。

附:火山引擎官网的模型服务价格文档

https://www.volcengine.com/docs/82379/1099320

来源:华商网

编辑:张佳萌

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-05-21 15:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

IBM宣布将更多人工智能模型开源;通义千问9款主力模型降价
...采取类似的降价措施,整体降低了行业的进入门槛。NO.4 豆包大模型公布价格清单近期,火山引擎官网更新了豆包大模型的定价详情,全面展示豆包通用模型不同版本、不同规格的价格信息。
2024-05-22 20:20:00
火山引擎ai大模型赋能千行百业成趋势
...力大会正式在北京国贸大酒店举办,在大会上,字节跳动豆包大模型正式发布。火山引擎总裁谭待在会上介绍,经过一年时间的迭代和市场验证,豆包大模型正成为国内使用量最大、应用场景最丰富
2024-05-17 11:56:00
字节跳动发布豆包大模型 日均处理千亿级Tokens
华商网讯(记者 姬文艳) 5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,豆
2024-05-15 11:30:00
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...用,还要更多工具、平台和应用帮助企业做好场景落地。豆包大模型首次亮相 大使用量打磨好模型模型效果是AI落地最关键的挑战。谭待指出,只有大的使用量,才能打磨出好模型。目前,豆包
2024-05-15 16:16:00
AI大模型开启“免费午餐”?字节直降99%,阿里一折甩卖,百度高喊免费!
...序幕。5月15日,字节跳动在火山引擎原动力大会上,宣布豆包大模型32K主力模型企业级定价为0.0008元 / 千Tokens
2024-05-22 15:38:00
字节跳动宣布豆包大模型开启对外服务
...2024春季火山引擎Force原动力大会上,字节跳动正式宣布其豆包大模型开启对外服务,并公布了其极具竞争力的定价策略
2024-05-15 17:44:00
大模型“自杀式降价”,大厂为抢生意开打价格战
...大模型刮起了降价的疾风骤雨。先是字节宣布旗下大模型豆包比市面上的产品便宜99.3%,阿里直接用没有最低、只有更低回应
2024-05-31 13:58:00
必然的命运:AI大模型冲向“免费轮盘赌”
...的尾巴,打响了一场新的烧钱“海湾战争”。这场以字节豆包0.0008元/千tokens点燃硝烟的价格战,在百度高调官宣ENIRE Speed和ENIRE Lite免费开放时
2024-05-24 13:40:00
字节跳动向大模型大乱斗扔出一个豆包
...个大模型独立 App 今天上线,是一个 AI 对话产品,叫 \" 豆包 \"。不知道豆包是不是 \"dou bot\" 的谐音
2023-08-18 23:01:00
更多关于科技的资讯: