• 我的订阅
  • 头条热搜
用主动进攻确保AI安全,微软披露其“AI红队”细节 | 最前线
...间8月7日,微软在其官网发文,公布了其内部人工智能“红队”的相关细节。该团队于2018年正式成立,由一群跨学科专家组成,目的是揭露人工智能系统存在的漏洞。这一举措意在应对如今的监管要求。7月下旬,包括微软在内...……更多
微软发布人工智能透明度报告
...内容的工具,以及评估安全风险的工具。它还正在扩大其红队(渗透测试团队)工作,包括故意尝试绕过其人工智能模型中的安全功能的内部红队,以及红队应用程序,以允许在发布新模型之前进行第三方测试。 ……更多
斯坦福AI虚拟小镇开源;英伟达再推超级芯片;OpenAI发布爬虫机器人 | 本周硅谷发生了什么?
...小镇」正式开源英伟达推出新版超级芯片GH200微软建立“红队”,对AI模型进行内外部安全测试Stability AI推出代码生成器StableCodeOpenAI推出爬虫机器人ChatGPT强敌Claude“平替版”Instict更新走出白领工作台,微软AI助手服务一线打工人...……更多
微软将举办大型线下黑客大会,400万美元悬赏云计算与AI软件漏洞
...研究人员提供直接与微软人工智能工程师和公司人工智能红队(AI Red Team)接触的机会。人工智能红队是一群专家,专门测试微软人工智能系统的弱点。微软公司副总裁瓦苏・贾卡尔(Vasu Jakkal)表示:“作为我们持续致力于透...……更多
海南东方“村BA” | 精彩连连进球不断 华侨经济区大坡村68:56东河镇广坝居队
...大坡村队(下称“蓝队”)对阵东河镇广坝居队(下称“红队”)。比赛开始,蓝队率先投中两分,随后突破上篮再中;红队则凭借主力后卫的全场一条龙命中并造成加罚。此后蓝队篮下强打命中,又投篮造成红队犯规,使得红...……更多
英伟达、微软、亚马逊三家美国巨头同日接入DeepSeek 网友实测:这是要成精!
...台的一部分。 微软强调,DeepSeek-R1模型已通过“严格的红队测试与安全评估”,并经历“模型行为自动化检测与广泛的安全审查,以降低潜在风险”。微软也在声明中提到,后续微软仍会持续评估DeepSeek-R1模型,并可能进行一定...……更多
海南东方“村BA”丨八所镇福耀社区75:60轻取四更镇上荣村
...更镇上荣村(下称“白队”)与八所镇福耀社区(下称“红队”)。19日第二场,上荣村(四更镇) VS 福耀社区(八所镇)。记者 陈卫东 摄 比赛开始,红队外线切入抛投率先拿分,白队则通过内线单打回击;红队继续通过突破制造...……更多
openai概述gpt-4o模型系统卡准备框架
...概述了GPT-4o模型的系统卡(SystemCard),介绍了包括外部红队(模拟敌人攻击)、准备框架(PreparednessFramework)在内的诸多细节。OpenAI表示GPT-4o模型的核心就是准备框架(PreparednessFramework),这是一种评估和降低人工智能系统相.……更多
海南东方“村BA” | 险些上演15分大逆转!首场比赛三家镇红草村91:88险胜江边乡江边村
...家镇红草村(下称“白队”)对阵江边乡江边村(下称“红队”)。比赛开始,双方你来我往,红队传切配合打下2分,白队九号内线持续发威篮下强打打成;红队反手上篮不中后队友补篮得手;红队五号内线强打再度博得罚球...……更多
排超全明星赛男子组激战 李咏臻率黄队2-1挫红队
全明星红队队长翟德军发球北京时间1月14日,2023-2024中国排球超级联赛全明星赛男子组比赛在临沂结束。李咏臻担任队长的全明星黄队以2-1力挫翟德军领衔的全明星红队,三局比分为25-13、22-25和15-8。此役红队首发派出主攻翟德...……更多
AI哨所 | AI比核武器还危险?ChatGPT为此建立了一支“红队”
...还要危险。为了降低ChatGPT的危险性,OpenAI建立了一支“红队”。“红队”是AI领域的一个术语,指的是进行渗透测试的攻击方。“红队”发起攻击,AI进行防守,通过对抗测试来找出AI的不足,然后进行改进。去年,OpenAI聘请了50...……更多
排超全明星赛女子组激战3局 李盈莹率黄队2-1险胜
...盈莹领衔的全明星黄队以2-1力挫龚翔宇担任队长的全明星红队,三局比分为25-22、20-25和17-15。此役红队的首发阵容为主攻仲慧、米哈伊洛维奇,副攻高意、武奇科娃,接应龚翔宇,二传刁琳宇和自由人倪非凡。黄队先发登场的是...……更多
强大又无处不在的AI,会将我们带往何处?
...学教授艾米丽·本德(Emily Bender)称,ChatGPT 自己的插件红队(red team)成员发现,他们可以“发送欺骗性或垃圾邮件,绕过安全限制,或滥用发送到插件的信息”。 非营利机构人工智能安全中心(Center for AI Safety)主任丹·亨德...……更多
24小时巨变,OpenAI流放CEO始末 | 知料
...tskever和研究员Jan Leike领导),研究AI对齐;以及设立了“红队(Red Flag)”机制,邀请全世界的专家来挖掘AI系统存在的缺陷和风险。 但如今看来,这些都于事无补。近期的多则新闻侧面证实了OpenAI的安全问题一直都没解决。Ope...……更多
中国排超全明星赛在临沂举办,王径一、李盈莹当选MVP
...全明星男子组比赛中,两位队长翟德军和李咏臻分别带领红队和黄队各胜一局,比赛进入决胜局。决胜局中,黄队开局取得领先,10比5占据优势,接应王径一进攻屡屡得手。随着邓忻朋一记ACE球,黄队以15比8拿下决胜局,获得胜...……更多
...基于安全领域的“紫队概念”。Meta声称,紫队是“攻击红队和防御蓝队”的结合,而PurpleLlama套件的作用,就是在评估和缓解AI模型的潜在威胁,“兼顾攻击和防御策略”。具体而言,PurpleLlama套件目前能够量化大模型在网络安...……更多
聚在一起 乐在一起
...成打手出界,25比22先声夺人。第二局双方调整了阵容,红队凭借郑益昕在后半局的精彩表现以25比20扳平比分,两队进入决胜局。决胜局双方均派出了最强阵容,黄队李盈莹、吴梦洁、袁心玥、王媛媛悉数登场,红队由龚翔宇、...……更多
OpenAI直播最后一天放出“王炸”:下一代推理模型o3亮相
...的基准上有了阶跃函数的改进。我们现在开始安全测试和红队演练。”而迈向类人智能的大跨步突破,显然也会引发一些人士对AI安全性的担心。风险可能确实存在。人工智能安全测试人员发现,与传统的“非推理”模型相比,o...……更多
openaiceo:openai还没有开始训练gpt-5
...些对人工智能担忧的声音,称该公司已经通过外部审计、红队测试和安全测试等方式评估了潜在的危险,“当我们完成GPT-4时,我们花了超过6个月的时间才准备好发布它。”在采访的早些时候,Altman还表示,OpenAI反对监管较小的...……更多
赛宁网安BAS+DeepSeek:一支永不跳槽的红队专家
DeepSeek自发布以来,凭借低成本训练模式和出色的性能表现,迅速引起全球广泛关注。赛宁网安作为一家专注攻防对抗和AI技术的新质数字安全公司,发挥自身在安全领域的专业知识和实战经验积累,积极推动DeepSeek大模型与多...……更多
gpt-4大量技术细节不再公开:安全更重要
GPT-4更强大了,微软也是正在利用它干更多的事情,让人工智能更智能,这才是科技巨头们应该干的事吧。根据OpenAI的说法,GPT-4在一些考虑中已经超越了90%的人类,最近大家看看它可以干什么的内容刷屏,几乎所有人又一次被...……更多
微软回应FTC诉讼:不知道《使命召唤》为何如此特别
去年1月,微软宣布将斥资687亿美元收购动视暴雪,并强调这笔收购将帮助该公司获得多个“标志性的游戏IP”。随后,游戏玩家和监管机构担心,微软可能会停止在索尼PlayStation平台上提供《使命召唤》系列游戏。近期微软的律...……更多
一场激烈的足球赛
...,一场激烈的足球赛开始了,本场比赛分为两队,分别是红队和蓝队。在碧绿的赛场上,两支球队展开了一场激烈的较量,球员们奔跑,传球、射门。只见红队守门员,分腿弯腰,上身倾斜,目不转睛地盯着足球。蓝队守门员以...……更多
...信息研究所。2017年5月,国家电网有限公司组建网络安全红队,从各省选拔人员,省电力公司5人报名,只有王尧一人成功入选。入选国网公司网络安全红队后,王尧又面临更大挑战。一方面,工作范围更广,任务更多,常常需要...……更多
海南东方“村BA” | 持续焦灼!天安乡安都村73:61战胜新龙镇部道村
...新龙镇部道村(下称“蓝队”)与天安乡安都村(下称“红队”)。比赛开始,双方积极寻找状态,蓝队篮下打进率先开局,红队也内线强打命中;此后蓝队持续冲入内线造成杀伤,红队则通过三分球快速上分。蓝队反击上篮博...……更多
李盈莹临沂之行收获颇丰
...明星黄队的队长重任,在本次比赛中与龚翔宇担任队长的红队展开激烈对抗。三局比赛,李盈莹主打了第一局和第三局,贡献全场最高的13分,其中19次进攻出手得到11分,成功率达58%。全场比赛,李盈莹还有15次一传出手,起...……更多
微软指控美国联邦贸易委员会泄露反垄断调查消息,要求其进行调查
IT之家 12 月 4 日消息,微软要求联邦贸易委员会(FTC)的监察长调查该机构管理层是否不当泄露了对其进行反垄断调查的消息,并公开调查结果。彭博社上周的一篇报道称,FTC 已“对微软展开反垄断调查”,并向微软发出了一...……更多
2025年南宁市西乡塘区学生(少年儿童)运动会春季排球比赛落幕
...淘汰赛结合赛制。衡阳东路学校在决赛中与友爱南路学校红队展开激烈对抗,双方以精湛的战术配合和顽强防守为观众呈现了一场高水平较量。最终,衡阳东路学校以全胜战绩斩获女子甲组冠军,友爱南路学校红队紧随其后获得...……更多
OpenAI反击纽约时报侵权诉讼:操纵证据还雇黑客黑入系统
...,OpenAI在文件中所称的“黑入”也被称为提示词工程或“红队测试”,是AI安全团队、伦理专家、学者和科技公司等对AI系统进行测试,以发现潜在漏洞的一种常见方式.一天后,《纽约时报》的律师伊恩·克罗斯比(Ian Crosby)于2...……更多
微软推出新工具:远程修复故障 Win10/Win11 设备
...科技媒体bleepingcomputer昨日(11月19日)发布博文,报道称微软发布了全新的“QuickMachineRecovery”功能,帮助IT管理员用WindowsUpdate的“定向修复”功能,远程修复无法启动的系统。背景IT之家援引新闻稿,2024年7月,CrowdStrikeFa……更多
更多关于科技的资讯:
省数据和政务服务局发布公告公开征集一批河北省高质量数据集河北日报讯(记者解楚楚)9月26日,河北省数据和政务服务局发布公告
2025-10-04 08:03:00
央媒看太原9月30日,央视财经频道《经济信息联播》栏目以《双节市场备货足美食特产受青睐》为题,报道了假期到来,太原市各大综合市场提前备货
2025-10-04 07:17:00
厦门网讯(厦门日报记者 朱道衡)近日,2025鼓浪屿世遗文创作品征集活动启动。此次活动面向全国(含港澳台地区)高校、企业
2025-10-03 08:37:00
厦门网讯(厦门日报记者 楚燕 通讯员 石青青)长假期间,许多人从忙碌的工作中解脱出来,趁机好好休息。可是,如果休息方式不得当
2025-10-03 08:37:00
渤海之潮涌动着澎湃的脉搏,海河之畔镌刻着科技的印记。10年前,一颗带有“清华”基因的种子在天津这片沃土扎根;10年后,它长成一棵枝繁叶茂的参天大树
2025-10-03 09:25:00
太燃了!无人机空中展旗!高新区国庆“氛围组”已上线!
2025-10-03 23:48:00
抖音生活服务联合北京卫视发起“老板驾到”直播活动,吸引用户下单超100万元团购券
9月29日,抖音生活服务联合北京卫视发起“老板驾到”直播活动,助力北京国庆中秋消费。抖音用户在@北京卫视 直播间下单超1万次
2025-10-03 18:36:00
“FutureBOT未来引力”2025北京机器人文化节首日盛况 打造国庆科技打卡新地标
国庆首日,“FutureBOT未来引力”2025北京机器人文化节在北京昌平超极合生汇正式拉开帷幕,成为国庆假期极具科技温度的打卡地
2025-10-03 19:06:00
走到白石山巅的尽头,这家建在悬崖边的“云端咖啡厅”绝对让你惊呼。
2025-10-03 11:37:00
泰康人寿发布新品“泰康百万药无忧(庆典版)医疗保险”(以下‬简称“百万药无忧”),以广覆盖、易投保、强保障、低费率为优势
2025-10-03 09:17:00
厦门网讯(厦门日报记者 翁华鸿 通讯员 林雨新)在近日举行的2025全球数据管理峰会“数据要素分论坛暨大数据统计与人工智能技术创新管理研讨会”上
2025-10-03 08:38:00
兴趣-实践-视野:达芬奇金奖少年带来的教育启示录
摘要:2025“你是达芬奇”全球青少年科学与艺术创新赛圆满落幕,其中金奖获奖少年的亲身实践告诉我们,在AI赋能的新时代
2025-10-02 16:22:00
单日调用近1万亿次,高德助力北斗规模化民用跨入新量级
2025年10月1日,随着国庆长假首日出行高峰的到来,高德基于北斗卫星导航系统的定位数量接近1万亿次,支撑导航总里程数超90亿公里
2025-10-02 22:31:00
10月1日,从太钢获悉,今年以来,太钢不锈进料加工团队以“精准备案、高效协同”为核心,在进料铬铁镍铁资源利用方面取得突破性进展
2025-10-02 17:39:00
厦门网讯(厦门日报记者 林露虹)记者昨日从中国移动咪咕公司获悉,该公司打造的“鼓浪屿AI伴游”服务已正式上线。市民和游客只需打开“鼓浪屿元宇宙”微信小程序
2025-10-02 08:57:00