• 我的订阅
  • 科技

等不来自家大模型,火山引擎先搭了一个模型“货架” | 最前线

类别:科技 发布时间:2023-06-29 17:13:00 来源:36氪

文 | 周鑫雨

编辑 | 邓咏仪

尚未推出自研模型基座的字节跳动,先和第一梯队的模型厂商攒了个局。

6月28日,字节跳动云服务平台火山引擎推出了大模型服务平台“火山方舟”,面向企业提供包括精调、评测、推理等在内的模型服务。

这个时间点并不算早。此前,BTA、商汤、360等国内互联网企业已经纷纷推出了MaaS(模型服务)平台,抢占先发优势。多数MaaS平台的服务模式大同小异:以厂商自研的通用大模型或数个行业大模型为基座,再推出相应的模型服务。

姗姗来迟的字节走的是差异化路线。没有自研模型基座,那就拉强者组局——火山方舟宛如国内第一梯队模型厂商的“陈列柜”,集成了智谱AI、MiniMax、百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技七家科技公司及科研机构的大模型。

等不来自家大模型,火山引擎先搭了一个模型“货架” | 最前线

火山引擎总裁谭待

性价比、低成本是火山方舟强调的第一个特性。

随着AI赛道从大炼模型的投入期,逐渐到了落地场景的应用期,愈来愈多做AI应用的厂商开始重视模型服务的“性价比”。火山引擎总裁谭待在采访中指出:“一个企业未来一定会在多个场景应用多个模型,因为每个模型在不同场景性价比是不一样的。”

与此同时,火山引擎智能算法负责人吴迪判断,训练大模型很昂贵,但是从长期来看,模型的推理开销会超过训练开销。

谭待在访谈中打了个比方:大模型好比工资高的博士,不少应用场景则好比小学数学题,付费让博士去解小学数学题显然是不合理的——这也迫使不少厂商选择精调后的中小模型,在获得媲美大模型效果的同时,降低推理成本。

组团合作的亮点在于,可让用户像搭积木一样选择适应自身业务需求、且具高性价比的模型组合。与此同时,火山方舟还提供了模型精调和评测服务,客户可同时对接多家大模型,并通过自动化和人工评估精调后的模型效果。

数据安全,则是火山方舟强调的第二个特点。

大模型私有化部署是目前最为安全的方案,也是国内客户更容易接受的形式,但也意味着企业将承担更高的部署成本。为此,火山方舟推出了大模型安全互信计算方案,用计算隔离、存储隔离、网络隔离、流量审计等方式保证模型的机密性、完整性和可用性——简而言之,就是给不同企业的数据分别建了保险柜。

但相对地,企业也需要牺牲部分的训练推理速度。吴迪指出,大模型安全互信计算方案适用于对训练和推理延时要求较低的客户;火山正在与英伟达合作,基于英伟达新一代硬件探索安全方案。

不过,卖模型弹药的字节,最终仍会亲自上大模型的战场。强调火山引擎本身不训练模型的同时,谭待表示:“字节内部其他团队,如果做好了模型,大概也会上到方舟平台上对外提供,它在方舟上就是众多模型的一个。”

欢迎交流!

欢迎交流!

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-06-29 19:45:15

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...山引擎总裁 谭待火山引擎总裁谭待表示,企业要做好大模型落地,面临模型效果、推理成本、落地难度的三大关键挑战:既要有好的基础大模型做支撑,解决复杂难题,也要有低成本的推理服务让
2024-05-15 16:16:00
字节旗下火山引擎发布AI助手:背靠自研大模型,原生应用仍需时日
“(做大模型),主要是看怎么做,怎么说的意义不是特别关键。”9月19日,字节跳动旗下火山引擎总裁谭待在接受澎湃新闻等媒体采访时,谈到了大模型“打法”。作为互联网巨头之一,字节跳动
2023-09-21 13:55:00
豆包大模型综合能力提升20.3%,火山引擎成立零售大模型联盟
...21日,2024火山引擎 AI 创新巡展在上海举办,带来豆包大模型的一系列产品升级。豆包语音模型和视觉模型再升级,对话式 AI 实时交互解决方案进一步强化 AI 交互体验
2024-08-23 13:41:00
火山引擎发力西南市场 以“云+AI”加速企业业务增长
...能力。AI技术方面,火山引擎于2023年推出“火山方舟”大模型服务平台。具体来说,火山方舟提供云雀模型、第三方闭源模型及开源模型的”1+N+X”模型能力矩阵,提供模型训练、推
2024-03-07 19:25:00
加速规模化应用,火山引擎升级金融大模型服务体系
...擎FORCE原动力大会金融专场论坛在北京举办。会议聚焦大模型在金融行业的规模化应用,升级发布了火山引擎金融大模型解决方案服务体系,并分享了多个已落地的金融大模型应用场景。坚持
2024-05-22 11:00:00
字节跳动发布豆包大模型 日均处理千亿级Tokens
华商网讯(记者 姬文艳) 5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,豆
2024-05-15 11:30:00
“云+AI”风起云涌:火山引擎拥抱多云战略,加速企业业务创新增长
如今,AI大模型已“狂飙”一年。作为炙手可热的前沿技术,围绕AI的讨论已从实验室进入应用落地场景的阶段,而云计算与AI技术的融合将成为推动企业创新发展的重要引擎之一。近日,字节跳
2024-04-03 11:36:00
昨夜今晨:MWC上海开幕 7月起国六B全面实施 字节跳动发布大模型“火山方舟”
...拦截和更改目的地等操作。字节跳动旗下火山引擎发布大模型服务平台“火山方舟”6月28日,字节跳动旗下火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全
2023-06-29 10:00:00
火山引擎发布豆包大模型文旅解决方案
...展」第二站在厦门举办。活动中,火山引擎首次发布了大模型文旅解决方案,以字节豆包大模型和火山引擎AI全栈云基础设施为底座,结合抖音内容生态,助力以厦门为代表的旅游城市重塑文旅形
2024-08-16 16:03:00
更多关于科技的资讯: