• 我的订阅
  • 科技

谷歌deepmind推出ai安全框架

类别:科技 发布时间:2024-05-22 10:20:00 来源:浅语科技

5月21日消息,谷歌DeepMind日前推出了一款名为“FrontierSafetyFramework”的AI安全框架,主要用于检测AI模型的风险情况,号称能够主动识别“未来可能酿成重大风险的AI能力”,向研究人员指出相关模型“究竟在哪些层面可能会被黑客利用”。

谷歌deepmind推出ai安全框架

据介绍,DeepMind目前公布的FrontierSafetyFramework1.0版本主要包含三个关键组件,即“识别模型是否具备酿成重大风险的能力”,“预估模型会在什么阶段具备安全隐患”、“智能优化模型防止其酿成风险”。

谷歌deepmind推出ai安全框架

▲图源谷歌官方新闻稿

DeepMind表示,该公司“一直在突破AI的边界”,所开发的模型已改变了他们对AI可能性的认知,虽然公司相信未来的AI技术将为社会带来宝贵的工具。但他们也意识到相关AI技术的风险性有可能对社会造成毁灭性的影响,因此他们正在逐步增强模型的安全性与可控性。

注意到,目前DeepMind仍在开发FrontierSafetyFramework,计划通过产业、学术及有关部门的合作来改善相关框架。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-05-22 12:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

openai概述gpt-4o模型系统卡准备框架
...ystemCard),介绍了包括外部红队(模拟敌人攻击)、准备框架(PreparednessFramework)在内的诸多细节
2024-08-11 03:20:00
AI安全守护计划启动!信通院牵头,AIIA安全治理委员会发布三类模型安全评测
...包括多家知名企业和高校。其中,治理组工作围绕AI治理框架、合规治理、赋能治理展开,安全组主要开展大模型安全、合规等研究及基准测试。今年6月,中国信通院依托该委员会发起“人工智
2024-07-25 09:26:00
腾讯安全联合IDC发布“数字安全免疫力”模型框架
...此,近日,腾讯安全联合IDC发布“数字安全免疫力”模型框架,强调提前布局与免疫思维,警示过去传统“亡羊补牢”式的安全战术会令其面临巨大挑战。腾讯集团副总裁、腾讯安全总裁丁珂表
2023-06-14 22:21:00
...日,腾讯安全联合IDC在北京发布“数字安全免疫力”模型框架,提出用免疫的思维应对新时期下安全建设与企业发展的协同关系,以企业数据和业务为目标,建设弹性、自适应、可扩展的安全免
2023-06-14 16:33:00
openai推出最新o1模型引发业界关注
...,o1模型的测试和管理已纳入“PreparednessFramework”(准备框架),该框架旨在处理与AI模型进步相关的风险
2024-11-20 01:29:00
数据业务化时代企业安全威胁升级,腾讯安全认为前置投入、动态反应是关键
...,腾讯安全和IDC在论坛上发布了“数字安全免疫力”模型框架,旨在为企业提供建设弹性、自适应、可扩展安全免疫体系的参考。据介绍,该框架将企业的数字安全能力分为先天免疫力和后天适
2023-06-15 15:52:00
谷歌推出 SAIF 框架,倡导安全环境下探索和发展人工智能
...稿,宣布推出 SecureAIFramework(SAIF),确保在安全的概念框架下,让机构负责任地部署人工智能技术
2023-06-10 13:11:00
《金融大模型应用评测指南》发布,系全国首个以金融业务能力...
...个维度185项指标要求,构建了金融领域大模型的能力测评框架。 在模型基础能力方面,围绕模型基础理解和推演功能,指南定义了包括文本分类、信息抽取等在内的11项单模态、图文检索、
2024-12-06 17:16:00
OpenAI CEO出席美国国会听证会:对待AI应该参考核武器的监管方式
...用230法案,他表示生成式人工智能工具需要一套新的责任框架。例如AI研发机构对AI生成的内容需要负有一定的责任。没有训练更高版本的GPT,未来半年内也没计划在听证会上,有议员
2023-05-18 19:00:00
更多关于科技的资讯: