• 我的订阅
  • 科技

36氪首发|「HydroX AI」完成400万美元天使轮融资,为大模型安全提供解决方案

类别:科技 发布时间:2023-11-06 10:12:00 来源:36氪

作者|林炜鑫

编辑|邓咏仪

36氪获悉,HydroX AI近日完成400万美元天使轮融资,由绿洲资本领投,奇绩创坛,Atom Capital跟投。本轮融资资金主要用于产品研发,市场拓展以及扩大团队规模等。

HydroX AI成立于2023年7月,位于美国加州,是一家专注于AI Safety(大模型安全)和Safe AI(安全人工智能)的科技企业,致力于为大模型公司、使用大模型的企业以及其他B2B行业的客户提供全方位、多层次的AI安全解决方案。

在大模型技术快速发展的今天,大模型安全是无法避开的重要议题,其中AI Safety聚焦大模型本身,细分为大模型的对齐(Alignment)、可解释性(Interpreferability)、鲁棒性(Robustness)等问题。简单来说,要对大模型进行严格的“质检”,确保大模型是一个安全的大模型,不会产生严重后果,甚至危害人类社会。

HydroX AI创始人兼CEO ZL告诉36氪,相比于传统的网络安全领域,AI Safety是一个相对新兴的领域,有更多的可能性和商业机会。ZL认为,大模型的本质是一个黑盒,针对这样的黑盒会出现很多新的攻击方式,例如prompt injection(提示词注入)。许多AI开源项目已经发现含有被攻击的代码,以及公开的训练数据集,都可能导致大模型安全问题。这些都需要新型的针对性的解决方案。

AI Safety主要依赖于大模型训练的过程,目前市面上已经出现一些相关的技术。主流的大模型公司(如OpenAI)在发布大模型时会推出相应的安全技术;英伟达研发了专门的防护技术,为大模型的输出内容“把关”;一些高校则设计了针对大模型的安全评测框架,以评估大模型的安全性。

HydroX AI的侧重点主要放在大模型的风控与数据保护。ZL表示,这是目前AI Safety最迫切且需求最广的两部分。如果大模型被恶意注入代码或脚本,可能导致用户使用大模型之后,被窃取了账户密码、银行卡号等个人隐私信息。

HydroX AI将为客户提供一站式解决方案。具体来说,HydroX AI会开发一个独立平台,从发现问题到解决问题,再到持续监控,形成端到端的闭环。安全领域是长期的动态攻防,防御再强,也会遭到更强的攻击。因此,HydroX AI正在持续丰富检测库的能力,让问题检测更全面、准确,提升该平台发现问题的能力。

目前,HydroX AI已经在官网上线了一款免费产品,主要供新用户体验,提高用户对这一新兴领域的认知和感受。ZL透露,今年年底公司将推出第一代一站式平台。

商业模式上,HydroX AI前期将为客户进行定制化开发,打造一些标杆案例,随后逐渐过渡到SaaS模式,收取订阅费等。考虑到公司现有人员和资源,HydroX AI现阶段主要瞄准国内外做基础大模型的AI公司,以及医疗、社交领域的模型公司,为这类客户打造一站式解决方案。

创始人ZL先后就职于字节跳动、Meta、Linkedin等公司,在网络安全领域具备十多年经验。团队核心成员共6人,均来自Google、Meta、Linkedin等公司。

投资人说:

绿洲资本投资负责人表示:“人工智能和社会的广泛结合才刚刚开始,这里面的安全问题不仅仅涉及到隐私和渗透,更涉及到社会伦理、知识结构和意识影响。未来安全不再是一个防护措施,更是与人工智能发展相辅相成的重要基础设施,我们非常开心和全球资深的安全隐私技术团队一起探索人工智能下的社会安全和道德责任。”

Atom Capital创始合伙人Melissa Yang表示:随着AI的落地,其安全问题变得愈发重要,大模型安全解决方案将成为新的市场刚需——这背后由监管和企业驱动,需要对AI和安全两个领域的深刻认知和密切结合,门槛很高。HydroX AI团队汇聚了AI、安全、工程领域的专家共同探索这一全新方向。早期进入的团队有机会与业界最头部的参与者一起建立行业共识,领导行业标准的制定,形成先发优势。我们看好HydroX AI成长为新一代的AI安全领导者。

欢迎交流

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-11-06 12:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

盘古矿山大模型,首次!山东能源云鼎科技!
...是煤炭行业共同面对的问题。 于是,开发可复制推广的人工智能算法模型矢在弦上。然而,想要开发一个通用的模型必须解决三个严峻的问题,一是当前国内煤矿行业普遍采用“作坊式”的人工
2023-07-26 11:57:00
OpenAI正引爆一场全球AI安全热战,我们将如何应对?
...的管理层存在分歧,尤其是在如何驾驭超级AI、AGI(通用人工智能)安全发展等问题上存在相反的观点。其中,奥尔特曼和OpenAI总裁Greg Brockman倾向于加速商业化
2024-06-24 09:18:00
2023金融大模型报告|智能风控:荆棘中有玫瑰
AIGC成为人工智能的新基座,也让通用大模型概念席卷至各行各业。凭借强大的语义理解、语言生成及智能整合能力,金融机构将大模型技术应用于风控体系建设、协助分析客户和市场中的各种非结
2023-12-11 13:11:00
深度剖析:谷歌、微软等AI巨头承诺的“自愿监管”做到了吗?
...微软、谷歌、Meta、OpenAI、Anthropic 和 Inflection 在内的七家人工智能公司与白宫就如何以安全可信的方式开发人工智能达成了八项自愿承诺
2024-07-25 14:30:00
金融科技公司激战大模型
...试。有观点认为,大语言模型技术的出世,给金融行业的人工智能技术应用注上一针“强心剂”。今年来,金融科技行业涌现“大模型热”,从多家金融机构的动作就不难窥出。例如,马上消费金融
2023-08-10 22:39:00
周鸿祎建言:鼓励引导大模型与数字化结合,成为新质生产力的重要部分
...。在外界较为关注的大模型方面,周鸿祎主要谈到了AI(人工智能)安全性和实际应用场景两大问题。“通用大模型的发展,已不是单纯的科技之争,更是国运之争,影响深远。中国应尽早未雨绸
2024-03-03 01:26:00
电力大模型:“聊、查、图、写”样样精通
本文转自:科技日报编者按 《生成式人工智能服务管理暂行办法》正式施行已近两个月,“百模大战”不断升级。大模型具有海量的参数、复杂的算法和强大的训练能力,在电力、生物医药、网络安全
2023-10-09 03:31:00
人工智能热度攀升市场广阔
今年以来,人工智能产业热度持续攀升。文生视频软件Sora、文生音乐软件Suno等人工智能应用不断涌现,带给人们冲击的同时,也在影响着千行百业。本报今起推出“聚焦人工智能发展”系列
2024-04-22 10:41:00
AI四巨头将成立行业机构,规范人工智能发展
人工智能领域最具影响力的四家公司将联手成立行业机构,负责监督该领域最先进模型的安全开发。据英国《卫报》7月26日报道,谷歌
2023-07-27 14:54:00
更多关于科技的资讯:
海外华媒参访视源股份 解码中国高科技企业全球化之道
海外华媒代表参访视源股份(谢明 摄)10月19日,参加第六届海外华文新媒体论坛的40余位媒体代表,在人民日报海外网组织下走进广州视源电子科技股份有限公司(简称“视源股份”)第五产业园
2025-10-21 22:52:00
全球首条高世代印刷OLED产线TCL华星t8项目正式开工
10月21日,TCL华星第8.6代印刷OLED生产线(以下简称“t8项目”)在广州开发区、黄埔区正式开工。t8项目是全球第一条规模化量产的G8
2025-10-21 22:52:00
倒计时3天!三联家电“11.11提前抢” 三重补贴撬动山东家电消费
鲁网10月21日讯伴随 “双 11” 消费季临近,山东家电市场迎来年度消费热潮。作为本土家电零售领军企业,三联家电于10月24日至26日率先启动 “11
2025-10-21 17:09:00
“只剩最后500单!”“3、2、1,上链接!”近日,某直播平台上,一名美妆主播正卖力推销一款“限量”粉底液,评论区不断涌现“已拍”“再加点货吧”等留言
2025-10-21 16:44:00
近日,滨海新区知识产权保护中心(以下简称滨海保护中心)通过专业预审服务,高效护航天津医科大学眼科医院科研团队自主研发的“干细胞内囊泡制备与应用”系列专利技术
2025-10-21 15:54:00
驼奶粉行业峰会召开:京东超市与头部企业携手共建“安心驼奶粉”验证方案
10月20日,京东2025驼奶粉行业峰会在京召开,大会以“品质溯源、产业共生”为主题,聚焦行业痛点与机遇,通过多方联动促进产业链健康发展
2025-10-21 11:11:00
江西10家企业入选“中国VR50强企业”
本报讯(全媒体记者左阳天)10月19日,“2025中国VR50强企业”名单正式发布,这是“中国VR50强企业”名单连续第七年发布
2025-10-21 05:52:00
校地专场对接会上,我市一批“钢铁新农人”集中显身手“火眼金睛”识熟果 自动采摘不伤花□南京日报/紫金山新闻记者徐宁果园里
2025-10-21 07:44:00
青春华章 | 南京微短剧产业联盟成立,“攥指成拳”闯千亿级赛道
南京微短剧产业联盟成立,“攥指成拳”闯千亿级赛道共聚“微”光,好“剧”有戏□南京日报/紫金山新闻记者鲁舒婷近260家相关企业
2025-10-21 07:45:00
培育产业向“新”力 2025厦门国际时尚周圆满落幕
2025厦门国际时尚周在中山路举行,精彩活动吸引众多市民游客。“九球天后”潘晓婷亮相2025厦门国际时尚周。厦门国际时尚周助力首发经济
2025-10-20 08:56:00
总台文创“月兔趣集”数字资产盲盒上线乐数通
中秋佳节,为推动中华优秀传统文化在数字时代实现创造性转化与创新性发展,浙江文化产权交易所(以下简称 “浙江文交所”)携手中央广播电视总台“总台文创”
2025-10-20 14:50:00
向“新”求质 | 潍柴雷沃智慧农业领航智能农机加速出海
鲁网10月20日讯10月17日-10月18日,潍柴雷沃智慧农业2025年全球合作伙伴发展大会在青岛举行。25款明星机型组成的“全矩阵”智能装备军团震撼列阵
2025-10-20 16:39:00
鸢都家电狂欢“三联家电10.25海信来了”引爆金秋消费季
鲁网10月20日讯 金秋消费季迎来重磅炸弹!三联家电宣布将于10月24日至26日启动年度促销活动——“10.25海信来了”
2025-10-20 16:46:00
战略协同 产品赋能 运营提效丨潍柴雷沃智慧农业2025年全球合作伙伴发展大会召开
鲁网10月20日讯10月17日-18日,以“战略协同·产品赋能·运营提效”为主题的潍柴雷沃智慧农业2025年全球合作伙伴发展大会在青岛召开
2025-10-20 16:47:00
日前,中国联通、中国移动、中国电信相继宣布,已获得工信部批复,在全国范围开展eSIM手机业务商用试验。这标志着,移动手机彻底告别实体SIM卡的时代正在从愿景走向现实
2025-10-20 17:37:00