• 我的订阅
  • 科技

加速规模化应用,火山引擎升级金融大模型服务体系

类别:科技 发布时间:2024-05-22 11:00:00 来源:爱云资讯

5月15日,2024春季火山引擎FORCE原动力大会金融专场论坛在北京举办。会议聚焦大模型在金融行业的规模化应用,升级发布了火山引擎金融大模型解决方案服务体系,并分享了多个已落地的金融大模型应用场景。

坚持12字内核,做好新时代金融的数字原力

火山引擎金融行业总经理刘俊在致辞中表示,“一般认为,数字金融是金融机构适配数字经济的金融创新,既包括自身的高质量数字化转型,也包括高质量地服务好数字经济发展。”

刘俊指出,过去四年,火山引擎为200余家金融机构提供了技术支持和创新解决方案,逐渐形成“行业-增长-云”的数字金融解决方案体系,即针对银行、资管、保险、泛金融细分领域业务特点,打造行业场景方案;综合运用内容、数据、算法、音视频等数智技术,打造体验创新和数据驱动的增长方案;以自主创新、云原生架构、开放解耦的敏捷底座,打造上云方案。

加速规模化应用,火山引擎升级金融大模型服务体系

业界普遍认为,金融行业具备良好的数字化基础,且高度依赖数据和技术,具备大模型落地的高潜场景。根据不同的服务对象,刘俊将火山引擎的金融大模型应用方案归类为BCDE四大场景,即Business对公领域、Customer对客领域、Developer对开发者领域和Employee对企业管理者及员工领域。火山引擎正与金融机构共同探索“场景+模型+算力”的落地方式,推动大模型技术在金融行业的规模化应用。

加速规模化应用,火山引擎升级金融大模型服务体系

刘俊表示,火山引擎将坚持“体验创新、数据驱动、敏捷迭代”的12字价值内核,持续探索包括大模型在内的数字技术的创新发展和规模化应用,助力数字金融的高质量发展。

服务体系全面升级,提升大模型落地的价值获得感

火山引擎金融行业解决方案负责人王建军认为,缓解技术焦虑的最佳办法是与业务应用找到结合。构建“以模型-应用-数据为核心、算力为支撑”的大模型飞轮将有助于大模型的规模化应用,即模型驱动飞轮启动,并应用于业务场景,场景中产出新的数据并反哺模型迭代,三者相互作用,释放效果增强的飞轮效应,底层则由稳定安全的算力平台提供动力支撑。

加速规模化应用,火山引擎升级金融大模型服务体系

王建军分别从算力、模型、应用三个方面,介绍了升级后的火山引擎金融大模型解决方案服务体系。

算力:全新发布混合云veStack智算版,具有万卡集群组网,3.2T高性能无损网络的超大规模优势;端到端工程化所支撑的极致性能,能够实现97.78%训练加速比和分钟级故障发现和自愈;拥有多元异构能力,可适配十余种GPU,支持主流国产化GPU。

模型:基于大模型服务平台火山方舟构建“1+1+N”的模型生态。一方面,字节跳动自主研发的豆包大模型当天正式发布,并致力于成为更强性能、更低价格和更易落地的大模型。豆包大模型(原名:云雀)是首批通过大模型服务安全备案的大模型之一,当前日均处理1,200亿tokens文本、生成3,000万张图片,支持内部50多个业务进行AI创新,其主力模型在企业市场的定价比行业便宜99.3%。另一方面,与合作伙伴联合打造的“火山引擎-智谱AI金融行业大模型”,能够满足金融机构对安全和私有化部署要求更高的行业场景;此外,火山方舟也已接入多个行业主流大模型,帮助金融机构更加灵活地应对市场变化和业务需求。

应用:围绕“BCDE”四大场景,火山引擎分享了展业助手、智能贷后管理、智能客服、智能体构建、代码生成、ChatBI、员工服务等7个已与客户共建的应用示例,并重点介绍了新一代AI应用开发平台扣子以及企业专属AI应用创新平台HiAgent,二者分别满足企业不同部署环境下的低代码智能体搭建需求。

王建军认为,大模型的规模化应用,除了考验模型能力,更考验对业务的理解和整体工程化能力。目前,火山引擎已与招商银行、华泰证券、海尔消金等多家金融机构达成大模型合作,未来将继续以价值获得感为核心,携手金融机构AI创新。

金融大模型落地实践及思考

国家金融与发展实验室副主任杨涛认为,大模型在金融行业具有广泛应用场景,但其合规应用需要直面诸多风险,应引导金融机构根据自身资源禀赋选择差异化技术路线,避免“一哄而上”。

加速规模化应用,火山引擎升级金融大模型服务体系

华泰证券信息技术部数据科学研发中心联席负责人曾文秋分享了华泰证券构建平台化、服务化的大模型能力体系的思考,以及在智能客服、研报撰写及解读等领域的应用经验。曾文秋认为,大模型的价值是长期的,且规模化落地需要有组织和伙伴的保障。携手像火山引擎这样的合作伙伴,有利于金融机构专注自身业务创新,快速验证技术价值。

加速规模化应用,火山引擎升级金融大模型服务体系

海尔消费金融有限公司CIO梁树峰认为,大模型技术将对消费信贷的业务流程、客户服务、数字化运营和研发体系产生不同程度的影响,并计划将大模型率先应用于坐席助手、分析助手、研发助手等场景,辅助工作人员更智慧地完成工作。他以坐席助手场景为例,介绍了在5分钟通话时长下,大模型已可较准确地完成通话记录的归纳摘要,显著提升了坐席人员的产能。同时,他也指出了大模型在信息安全、技术代差、算力等方面的挑战,并强调了与火山引擎合作的重要性。

加速规模化应用,火山引擎升级金融大模型服务体系

随后,行业嘉宾们共同探讨了大模型时代的展望和思考。

加速规模化应用,火山引擎升级金融大模型服务体系

会议最后,火山引擎为金融行业年度优秀合作伙伴颁发奖项,分别表彰他们在机构上云、数据驱动和智能应用等领域的杰出贡献。

加速规模化应用,火山引擎升级金融大模型服务体系

加速规模化应用,火山引擎升级金融大模型服务体系

加速规模化应用,火山引擎升级金融大模型服务体系

大模型技术的发展与革新,为数字金融注入了新的活力。火山引擎将继续打磨算力、模型和场景的融合能力,以全栈AI服务推动大模型在金融机构的规模化落地和价值获得感,助力金融机构智能化转型。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-05-22 15:45:19

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

火山引擎发力西南市场 以“云+AI”加速企业业务增长
四川新闻网成都3月7日讯 3月7日,火山引擎在成都举办西南地区首场公共云·城市分享会活动。本次分享会以“乘云·向未来”为主题,邀请众多技术专家,共话企业规模化用云实践及AI创新实
2024-03-07 19:25:00
AI大模型技术应用爆发,云市场也在加速变革。4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络
2023-04-19 09:33:00
毫末智行与火山引擎联手,建设自动驾驶智算中心MANA OASIS|最前线
文 | 李安琪编辑 | 苏建勋2023年1月5日,毫末智行宣布与火山引擎联合打造的智算中心雪湖·绿洲(MANA OASIS)正式成立
2023-01-06 20:53:00
火山引擎的云长什么样,看看这场大会就知道
发力AI大模型训练服务,火山引擎原动力大会引关注4月18日,字节跳动旗下的云服务平台火山引擎在其举办的“原动力大会”上重磅发布了多款云产品,其中,全新升级的机器学习平台凭借领先的
2023-05-06 11:44:00
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
火山引擎总裁 谭待火山引擎总裁谭待表示,企业要做好大模型落地,面临模型效果、推理成本、落地难度的三大关键挑战:既要有好的基础大模型做支撑,解决复杂难题,也要有低成本的推理服务让大
2024-05-15 16:16:00
对话火山引擎总裁谭待:从同质化的云服务中突围 | 数字思考者50人
...构。这是一个历史新高,以及未来这一数字还会上升。”火山引擎总裁谭待用自己的调查数据来看这个大趋势。而在另一个维度,一些成熟的客户正在提出更高需求,这也在倒逼云计算服务商不断升
2023-04-19 20:00:00
2024 ChinaJoy,火山引擎以AI大模型为动能推进游戏玩法创新
松果财经讯,据火山引擎公众号消息,7月26日至29日,第二十一届中国国际数码互动娱乐展会(ChinaJoy)在上海举办。火山引擎南区游戏行业解决方案负责人杨旭东应邀参会并发表题为
2024-07-30 12:11:00
豆包大模型综合能力提升20.3%,火山引擎成立零售大模型联盟
8月21日,2024火山引擎 AI 创新巡展在上海举办,带来豆包大模型的一系列产品升级。豆包语音模型和视觉模型再升级,对话式 AI 实时交互解决方案进一步强化 AI 交互体验
2024-08-23 13:41:00
“云+AI”风起云涌:火山引擎拥抱多云战略,加速企业业务创新增长
...新发展的重要引擎之一。近日,字节跳动旗下云服务平台火山引擎在北京、上海、深圳、成都、广州等地举办多场公共云城市分享会。在3月28日广州公共云城市分享会上,火山引擎与众多行业专
2024-04-03 11:36:00
更多关于科技的资讯: