• 我的订阅
  • 科技

修正阶级偏见,快上虚拟现实

类别:科技 发布时间:2024-03-26 14:00:00 来源:钛媒体APP

文 | 追问nextquestion

在当今人工智能对世界产生日益增长影响的背景下,关注AI模型的偏见及其对弱势群体造成的影响变得尤为重要。虚拟现实(Virtual Reality)技术,通过沉浸式的视角转换,已被证实能有效提高人们的共情能力。Ruben Schlagowski团队由此展开了实验,试图探究VR技术是否能有效增强公众对于人工智能偏见的意识。

修正阶级偏见,快上虚拟现实

▷原始论文:Schlagowski, Ruben, et al. "The Feeling of Being Classified: Raising Empathy and Awareness for AI Bias through Perspective-Taking in VR." Frontiers in Virtual Reality 5: 1340250.

理解人工智能偏见

随着AI工具越来越普遍地出现在人们的生活中,其算法和训练数据集带来的偏见也愈发不容忽视。这不仅是技术层面的挑战,更是社会伦理层面的难题,加剧了对特定群体的不公平对待。

本研究关注的社会偏见,根植于社会结构与文化观念之中,导致人们因其种族、性别、肤色、宗教信仰或阶级背景而遭受差异化对待。由于AI训练使用的数据集通常来自真实机构的长期记录,过去对某些群体的偏见和歧视可能会反映在AI的判断上。例如,亚马逊招募员工使用的AI工具,就因为历史数据中男性数量占比过高,系统便将性别纳入了选择员工的依据之一[1]。如何训练出不带偏见的人工智能任重道远,而在此过程中,依赖AI工具的群体(包括企业领导层)应当对这一现象保持警觉。

要引起社会对这一问题的重视,就要向使用AI的非专业人士科普人工智能的偏见行为,强调这种现象对弱势群体生活可能造成的深远影响。然而,基于人工智能的决策(AI-based decisio- making)对许多人来说是个过于抽象的概念,一个出身优渥、养尊处优的人,很难设身处地地考虑弱势人群的视角,真切感受到人工智能歧视的严重性。好在,共情是一种可以后天习得的能力。

具身VR:在沉浸式体验中寻找答案

共情是一种能理解他人情绪、体验和视角的重要能力[2]。在共情的影响下,人们可以做出弱化甚至消除偏见的决策。传统意义上,“设身处地”、“推己及人”不过是一种修辞方式。而今天,依托科技发展,我们有机会真正站在别人的角度思考问题,深入理解他们的处境。

作为沉浸式体验的载体,虚拟现实能从字面意义上改变用户的观察视角,让用户能够以设定角色的身份与环境互动,具象化地体验其境遇。虚拟现实中的交互体验给用户极高的存在感和参与感,比电脑屏幕更容易让人共情。[3]

▷图1 一位参与者通过虚拟现实的全身动作捕捉进行不同背景的虚拟具身角色体验

其中,“身体归属感”(body ownership)是虚拟现实技术中的一个关键概念[4]。当用户戴上头显,与虚拟世界互动时,系统会根据动作捕捉技术精准地映射用户的动作,这种视觉反馈能够让用户感受到身体归属感,使大脑下意识将虚拟身体视为自己实际身体的延伸。用户可以通过这种沉浸式媒介体验不同身份角色,在模拟现实世界中获得身临其境的第一人称体验。换言之,虚拟现实建立了跨越认知壁垒的桥梁,推动了对多样性视角的深层理解,有效培养了共情能力。

过去的研究已经证明,通过视角转换和身临其境地扮演他人角色,VR技术能够有效提升共情能力,减少种族偏见。但是,这种方法是否同样能够有效增强人们对人工智能偏见的意识,以及提高对受害者的共情能力,还有待商议。因此,研究者展开用户研究,比较了传统意义上角色扮演的心理具身(Mental Embodiment)和基于虚拟现实的全身动捕沉浸式虚拟具身(Virtual Embodiment)两种条件,旨在探索哪种方法更能有效达成提升共情的目标。

*具身化概念(Embodiment)是心理学新兴的一个研究领域,自20世纪80年代中期以来已经被广泛地用在认知科学和人工智能的文献中。这一概念探索了身体与实体物理环境或虚拟数字空间环境交互时,对认知过程的影响。与此相对的概念是“离身”(Disembodiment),指的是认知过程与身体的分离或解耦。[5]

实验假设与设计

过去的研究表明,虚拟现实能有效降低用户对他人的刻板印象和社会偏见[6]。研究人员因此提出了两条假设:

1)相较于仅在心理上进行角色扮演的心理具身体验,通过虚拟现实进行的虚拟具身角色体验能更易使参与者对角色产生共情;

2)与心理具身条件相比,处于虚拟具身状态下的参与者将认为偏见严重的人工智能“绿野仙踪”操作系统(后文简称Oz)的行为更加不公正。

修正阶级偏见,快上虚拟现实

▷图2 心理具身条件下的Oz界面

修正阶级偏见,快上虚拟现实

▷图3 虚拟具身条件下的角色形象和Oz界面(Unity引擎制作)

人工智能Oz被刻意编程了偏好设定:性别上明显更偏向男性,年龄上明显更偏向年长者。这两个维度交叉形成四个不同的象限,从而创建了不同的角色设置:一个极端弱势角色(年轻女性)、两个中等角色(年长女性/年轻男性)和一个特权角色(年长男性)。同时,研究还引入了年龄、籍贯、年收入、财务状况和职业等与身份相匹配的因素。Oz打分评判标准存在的偏见将只针对年龄和性别。

修正阶级偏见,快上虚拟现实

▷图4 虚拟具身条件下的四个角色

在实验中,参与者需要分别在心理具身和虚拟具身的条件下,以不同角色的身份向银行申请金融信贷,由人工智能打分给出申请额度。

修正阶级偏见,快上虚拟现实

▷图5 研究流程总览。问卷A测量了相关变量,问卷B作为补充数据有关具体角色的AI公平性

由于个体对人工智能公平感知和角色共情能力的差异性较大,研究采取个体内部对照的方式,纵向比较个体经历虚拟现实和显示器之间的区别(参与者的体验顺序随机)。研究结果显示,相较于传统显示器环境,更多参与者在虚拟现实环境中能够察觉到Oz评分系统的偏见,表明虚拟现实体验能显著增强参与者对人工智能公平性的思考,以及对弱势群体处境的共情。

研究团队也指出了实验的一些局限性。“不公平”很大程度上是主观的感受,受个人的政治立场和价值观影响。虽然实验中年龄和性别偏见在打分系统中呈现的影响程度不相上下,使得人们可能认为年长女性和年轻男性受到的待遇相同,但现实情况可能并非如此.不同维度的偏见程度并不一定相等,此外,不同维度之间也有相当程度上的联系。可以说,分值直接反映的是人们对AI公平性的感知,与偏见维度没有直接的联系。

总结

在探讨人工智能偏见的议题上,与传统教育方法相比,虚拟现实技术展现出了独特的优势。它能通过具身角色体验,让使用者在虚拟空间中感同身受,体验不同的人生,进而能够有效提升人们对AI偏见的认识,以及对受偏见影响群体的共情。

但仅靠技术来解决问题是远远不够的。虽然市面上已有一些专门针对这一问题的解决方案,但这个问题的处理不应仅限于少数人的决策,普及人工智能所面临的问题,制定相关政策,甚至是提出人工智能透明度和信任的解决方案,形成多层面、互补的策略体系,这些都需要社会各界(尤其是那些直接受到AI偏见影响的群体)的广泛参与。

参考文献:返回搜狐,查看更多[1]Dastin, J. (2022). Amazon scraps secret ai recruiting tool that showed bias against women. Ethics of data and analytics Auerbach Publications, 296–299.[2]Cohen, D., and Strayer, J. (1996). Empathy in conduct-disordered and comparison youth. Dev. Psychol. 32, 988–998. doi:10.1037//0012-1649.32.6.988[3]Troeger, J., and Tümler, J. (2020). Virtual reality zur steigerung empathischer anteilnahme. GI VR/AR Workshop.[4]Slater, M., and Sanchez-Vives, M. V. (2014). Transcending the self in immersive virtual reality. Computer 47, 24–30. doi:10.1109/mc.2014.198[5]Nju.edu.cn. “认知的具身化(Embodiment),” 2016. https://ptext.nju.edu.cn/c1/ad/c12146a246189/page.htm.[6]Peck, T. C., Seinfeld, S., Aglioti, S. M., and Slater, M. (2013). Putting yourself in the skin of a black avatar reduces implicit racial bias. Conscious. cognition 22, 779–787. doi:10.1016/j.concog.2013.04.016

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-03-26 14:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...入AI学习系统,以增强学生的使用体验和学习动机。结合虚拟现实(VR)、增强现实(AR)等前沿技术,构建沉浸式英语学习环境,开发更高级的AI语音识别和自然语言处理技术,提高虚拟
2024-12-06 09:30:00
联合国报告:生成式人工智能加剧性别偏见
...测和评估。大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3
2024-03-08 21:46:00
...构与受众共处的故事场景。以智能穿戴设备为载体,利用虚拟现实、增强现实技术构筑共在空间,打造海外平台用户“信任场景”。另一方面,依托感官媒介打造全息化场景,增强故事“现实”感。
2024-11-30 04:40:00
口碑爆棚的漫威神作,我们能拍出来吗?
...边要保全自己的性命,一边要想方设法的破局,而承受着偏见的富人,则是要面对舆论的压力,活在别人的凝视之中。看似生活的相对轻松的中层老实人,则是要面临两代人的思想差异,在求稳和求
2024-10-26 18:13:00
...同的是,它从最外化的、对怪物的逃脱,到摆脱无意识的偏见、摆脱内心的业障、摆脱人类命运的悲剧,《密室大逃脱5》正在不断生成它丰富内涵的「密逃哲学」。构建“无限流”副本世界 聚焦
2023-09-08 09:57:00
...同创新,加速文化科技融合与生态构建,促进人工智能、虚拟现实等前沿技术在科幻场景中的应用转化,北京数字创意产业协会与北京动漫游戏产业协会、中关村科幻产业创新中心、高校科幻联盟等
2025-03-30 17:17:00
《傲慢与偏见》揭露现实:男人更想娶有钱的女人,爱情不重要
...定的。曾几何时,我们都如简·奥斯汀长篇小说《傲慢与偏见》里的女主人公伊丽莎白一样,对于爱情有一种深植于心的执念,坚持嫁给爱情,否则就不结婚。 但活到一定年龄会慢慢发现,遇到
2023-11-30 14:18:00
戏剧艺术的创新发展路径
...用空间。一、技术赋能:重构戏剧的创作与传播逻辑(一)虚拟现实与沉浸式体验的突破技术的介入打破了传统的观演关系,实现空间叙事革新。北京人艺实验剧目《三体·黑暗森林》(2022)
2025-06-06 09:00:00
...乐全部由AI完成。沉浸式视频交互产品《风起洛阳》,在虚拟现实全感剧场中还原了神都夜景、大佛幻境等景观,让游客仿佛置身于古老而神秘的大唐东都洛阳。有了人工智能技术赋能,这些产品
2024-05-06 05:59:00
更多关于科技的资讯:
为什么越来越多的女生,恋爱前要交换体检报告?
“亲亲许可证”在即将接上吻的那一刻,女友的脑袋往后一躲,闪开了。紧接着,她抬起头,认真地盯着老王,问他,“你有没有幽门螺旋杆菌
2025-09-22 00:56:00
河北日报讯(见习记者康晓博)AI工业内窥镜、无针注射笔、分布式储能路灯、风滚草仿生播种机器人……9月20日,2025河北国际工业设计周活动开幕
2025-09-21 08:12:00
厦门网讯(厦门日报记者 林钦圣 通讯员 江安娜 徐燕) 最近,不少厦门市民都注意到这样一个现象:上班高峰期,正当大家为等候BRT快速公交车而焦急时
2025-09-21 09:00:00
乐陵杨安镇香辛料数智化交易平台正式启动
9月20日,乐陵市杨安镇以“智链未来・香聚全球”为主题的香辛料数智化交易平台启动仪式暨黄河商品交易市场香辛料品种上线仪式隆重举行
2025-09-21 09:25:00
现场签约金额达115亿元!中国制造业民营企业合作交流对接会聚焦“AI+”
大皖新闻讯 9月20日,2025世界制造业大会中国制造业民营企业合作交流对接会在合肥举行。活动现场签约项目10个,总额115
2025-09-21 10:14:00
留交会上首次设立“新招引企业专区”,200多个岗位虚席以待——这里有一份令人“新”动的邀约□南京日报/紫金山新闻记者张甜甜在9月20日举行的留交会现场
2025-09-21 10:24:00
“+”上去,活下来——2025世界制造业大会采访引发的思考
大河网讯 9月20日,2025世界制造业大会在安徽合肥开幕。河南省作为主宾省参会,30家企业参展。在人们的印象中,河南农业可圈可点
2025-09-21 14:48:00
十堰成功举办2025新能源汽车零部件交易会项目路演 十大前沿技术项目集中亮相
十堰广电讯(全媒体记者 耿吉国 通讯员 刘爱理)9月21日上午,2025新能源汽车零部件交易会项目路演活动在十堰国际会展中心成功举办
2025-09-21 15:32:00
河北新闻网讯(王丽英)近日,宁晋县晶龙餐饮管理总公司凭借市场化转型与外向型发展战略的深入实施,成功签约宁晋县产融区学生食堂
2025-09-21 15:53:00
中新经纬9月20日电 题:L2新国标将给智能驾驶立“铁律”作者 江瀚 盘古智库高级研究员智能网联汽车组合驾驶辅助系统或将迎来国家标准
2025-09-21 19:36:00
壹家之言丨“中国味都”迈入香辛料全球数字贸易新时代
9月20日,山东乐陵杨安镇香辛料数智交易平台正式启动,标志着“中国味都”迈入香辛料全球数字贸易新时代。这场发生在鲁北小镇的产业变革
2025-09-21 19:39:00
第三届全国技能大赛丨零售项目选手陈俪夫:以双语匠心赴技能之约
第三届全国技能大赛赛场热潮涌动,零售项目比拼现场,来自长春科技学院英语专业的陈俪夫正全神贯注地完成她的国赛首秀。曾斩获“21世纪杯全国英语演讲比赛”季军的陈俪夫
2025-09-21 18:07:00
9月20日从太原市房产管理局获悉,日前该局向全市房地产开发企业发出《关于规范售楼场所人脸识别设备使用的通知》(以下简称《通知》)
2025-09-21 18:32:00
世界制造业大会人气旺,市民沉浸式感受“智造”魅力
大皖新闻讯 9月20日,2025世界制造业大会在安徽合肥滨湖国际会展中心开幕,并首次增设智能机器人展区,观众沉浸式感受“智造”魅力
2025-09-21 16:03:00
十堰广电讯(全媒体记者 耿吉国)据2025新能源汽车零部件交易会组委会最新消息,9月21日10:30,本届交易会将在十堰国际会展中心的交易会活动现场
2025-09-21 08:54:00