• 我的订阅
  • 科技

修正阶级偏见,快上虚拟现实

类别:科技 发布时间:2024-03-26 14:00:00 来源:钛媒体APP

文 | 追问nextquestion

在当今人工智能对世界产生日益增长影响的背景下,关注AI模型的偏见及其对弱势群体造成的影响变得尤为重要。虚拟现实(Virtual Reality)技术,通过沉浸式的视角转换,已被证实能有效提高人们的共情能力。Ruben Schlagowski团队由此展开了实验,试图探究VR技术是否能有效增强公众对于人工智能偏见的意识。

修正阶级偏见,快上虚拟现实

▷原始论文:Schlagowski, Ruben, et al. "The Feeling of Being Classified: Raising Empathy and Awareness for AI Bias through Perspective-Taking in VR." Frontiers in Virtual Reality 5: 1340250.

理解人工智能偏见

随着AI工具越来越普遍地出现在人们的生活中,其算法和训练数据集带来的偏见也愈发不容忽视。这不仅是技术层面的挑战,更是社会伦理层面的难题,加剧了对特定群体的不公平对待。

本研究关注的社会偏见,根植于社会结构与文化观念之中,导致人们因其种族、性别、肤色、宗教信仰或阶级背景而遭受差异化对待。由于AI训练使用的数据集通常来自真实机构的长期记录,过去对某些群体的偏见和歧视可能会反映在AI的判断上。例如,亚马逊招募员工使用的AI工具,就因为历史数据中男性数量占比过高,系统便将性别纳入了选择员工的依据之一[1]。如何训练出不带偏见的人工智能任重道远,而在此过程中,依赖AI工具的群体(包括企业领导层)应当对这一现象保持警觉。

要引起社会对这一问题的重视,就要向使用AI的非专业人士科普人工智能的偏见行为,强调这种现象对弱势群体生活可能造成的深远影响。然而,基于人工智能的决策(AI-based decisio- making)对许多人来说是个过于抽象的概念,一个出身优渥、养尊处优的人,很难设身处地地考虑弱势人群的视角,真切感受到人工智能歧视的严重性。好在,共情是一种可以后天习得的能力。

具身VR:在沉浸式体验中寻找答案

共情是一种能理解他人情绪、体验和视角的重要能力[2]。在共情的影响下,人们可以做出弱化甚至消除偏见的决策。传统意义上,“设身处地”、“推己及人”不过是一种修辞方式。而今天,依托科技发展,我们有机会真正站在别人的角度思考问题,深入理解他们的处境。

作为沉浸式体验的载体,虚拟现实能从字面意义上改变用户的观察视角,让用户能够以设定角色的身份与环境互动,具象化地体验其境遇。虚拟现实中的交互体验给用户极高的存在感和参与感,比电脑屏幕更容易让人共情。[3]

▷图1 一位参与者通过虚拟现实的全身动作捕捉进行不同背景的虚拟具身角色体验

其中,“身体归属感”(body ownership)是虚拟现实技术中的一个关键概念[4]。当用户戴上头显,与虚拟世界互动时,系统会根据动作捕捉技术精准地映射用户的动作,这种视觉反馈能够让用户感受到身体归属感,使大脑下意识将虚拟身体视为自己实际身体的延伸。用户可以通过这种沉浸式媒介体验不同身份角色,在模拟现实世界中获得身临其境的第一人称体验。换言之,虚拟现实建立了跨越认知壁垒的桥梁,推动了对多样性视角的深层理解,有效培养了共情能力。

过去的研究已经证明,通过视角转换和身临其境地扮演他人角色,VR技术能够有效提升共情能力,减少种族偏见。但是,这种方法是否同样能够有效增强人们对人工智能偏见的意识,以及提高对受害者的共情能力,还有待商议。因此,研究者展开用户研究,比较了传统意义上角色扮演的心理具身(Mental Embodiment)和基于虚拟现实的全身动捕沉浸式虚拟具身(Virtual Embodiment)两种条件,旨在探索哪种方法更能有效达成提升共情的目标。

*具身化概念(Embodiment)是心理学新兴的一个研究领域,自20世纪80年代中期以来已经被广泛地用在认知科学和人工智能的文献中。这一概念探索了身体与实体物理环境或虚拟数字空间环境交互时,对认知过程的影响。与此相对的概念是“离身”(Disembodiment),指的是认知过程与身体的分离或解耦。[5]

实验假设与设计

过去的研究表明,虚拟现实能有效降低用户对他人的刻板印象和社会偏见[6]。研究人员因此提出了两条假设:

1)相较于仅在心理上进行角色扮演的心理具身体验,通过虚拟现实进行的虚拟具身角色体验能更易使参与者对角色产生共情;

2)与心理具身条件相比,处于虚拟具身状态下的参与者将认为偏见严重的人工智能“绿野仙踪”操作系统(后文简称Oz)的行为更加不公正。

修正阶级偏见,快上虚拟现实

▷图2 心理具身条件下的Oz界面

修正阶级偏见,快上虚拟现实

▷图3 虚拟具身条件下的角色形象和Oz界面(Unity引擎制作)

人工智能Oz被刻意编程了偏好设定:性别上明显更偏向男性,年龄上明显更偏向年长者。这两个维度交叉形成四个不同的象限,从而创建了不同的角色设置:一个极端弱势角色(年轻女性)、两个中等角色(年长女性/年轻男性)和一个特权角色(年长男性)。同时,研究还引入了年龄、籍贯、年收入、财务状况和职业等与身份相匹配的因素。Oz打分评判标准存在的偏见将只针对年龄和性别。

修正阶级偏见,快上虚拟现实

▷图4 虚拟具身条件下的四个角色

在实验中,参与者需要分别在心理具身和虚拟具身的条件下,以不同角色的身份向银行申请金融信贷,由人工智能打分给出申请额度。

修正阶级偏见,快上虚拟现实

▷图5 研究流程总览。问卷A测量了相关变量,问卷B作为补充数据有关具体角色的AI公平性

由于个体对人工智能公平感知和角色共情能力的差异性较大,研究采取个体内部对照的方式,纵向比较个体经历虚拟现实和显示器之间的区别(参与者的体验顺序随机)。研究结果显示,相较于传统显示器环境,更多参与者在虚拟现实环境中能够察觉到Oz评分系统的偏见,表明虚拟现实体验能显著增强参与者对人工智能公平性的思考,以及对弱势群体处境的共情。

研究团队也指出了实验的一些局限性。“不公平”很大程度上是主观的感受,受个人的政治立场和价值观影响。虽然实验中年龄和性别偏见在打分系统中呈现的影响程度不相上下,使得人们可能认为年长女性和年轻男性受到的待遇相同,但现实情况可能并非如此.不同维度的偏见程度并不一定相等,此外,不同维度之间也有相当程度上的联系。可以说,分值直接反映的是人们对AI公平性的感知,与偏见维度没有直接的联系。

总结

在探讨人工智能偏见的议题上,与传统教育方法相比,虚拟现实技术展现出了独特的优势。它能通过具身角色体验,让使用者在虚拟空间中感同身受,体验不同的人生,进而能够有效提升人们对AI偏见的认识,以及对受偏见影响群体的共情。

但仅靠技术来解决问题是远远不够的。虽然市面上已有一些专门针对这一问题的解决方案,但这个问题的处理不应仅限于少数人的决策,普及人工智能所面临的问题,制定相关政策,甚至是提出人工智能透明度和信任的解决方案,形成多层面、互补的策略体系,这些都需要社会各界(尤其是那些直接受到AI偏见影响的群体)的广泛参与。

参考文献:返回搜狐,查看更多[1]Dastin, J. (2022). Amazon scraps secret ai recruiting tool that showed bias against women. Ethics of data and analytics Auerbach Publications, 296–299.[2]Cohen, D., and Strayer, J. (1996). Empathy in conduct-disordered and comparison youth. Dev. Psychol. 32, 988–998. doi:10.1037//0012-1649.32.6.988[3]Troeger, J., and Tümler, J. (2020). Virtual reality zur steigerung empathischer anteilnahme. GI VR/AR Workshop.[4]Slater, M., and Sanchez-Vives, M. V. (2014). Transcending the self in immersive virtual reality. Computer 47, 24–30. doi:10.1109/mc.2014.198[5]Nju.edu.cn. “认知的具身化(Embodiment),” 2016. https://ptext.nju.edu.cn/c1/ad/c12146a246189/page.htm.[6]Peck, T. C., Seinfeld, S., Aglioti, S. M., and Slater, M. (2013). Putting yourself in the skin of a black avatar reduces implicit racial bias. Conscious. cognition 22, 779–787. doi:10.1016/j.concog.2013.04.016

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-03-26 14:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...入AI学习系统,以增强学生的使用体验和学习动机。结合虚拟现实(VR)、增强现实(AR)等前沿技术,构建沉浸式英语学习环境,开发更高级的AI语音识别和自然语言处理技术,提高虚拟
2024-12-06 09:30:00
联合国报告:生成式人工智能加剧性别偏见
...测和评估。大语言模型是一种用于支持时下流行的生成式人工智能平台的自然语言处理工具,美国开放人工智能研究中心(OpenAI)的人工智能产品GPT-3
2024-03-08 21:46:00
...构与受众共处的故事场景。以智能穿戴设备为载体,利用虚拟现实、增强现实技术构筑共在空间,打造海外平台用户“信任场景”。另一方面,依托感官媒介打造全息化场景,增强故事“现实”感。
2024-11-30 04:40:00
口碑爆棚的漫威神作,我们能拍出来吗?
...边要保全自己的性命,一边要想方设法的破局,而承受着偏见的富人,则是要面对舆论的压力,活在别人的凝视之中。看似生活的相对轻松的中层老实人,则是要面临两代人的思想差异,在求稳和求
2024-10-26 18:13:00
...同的是,它从最外化的、对怪物的逃脱,到摆脱无意识的偏见、摆脱内心的业障、摆脱人类命运的悲剧,《密室大逃脱5》正在不断生成它丰富内涵的「密逃哲学」。构建“无限流”副本世界 聚焦
2023-09-08 09:57:00
...同创新,加速文化科技融合与生态构建,促进人工智能、虚拟现实等前沿技术在科幻场景中的应用转化,北京数字创意产业协会与北京动漫游戏产业协会、中关村科幻产业创新中心、高校科幻联盟等
2025-03-30 17:17:00
《傲慢与偏见》揭露现实:男人更想娶有钱的女人,爱情不重要
...定的。曾几何时,我们都如简·奥斯汀长篇小说《傲慢与偏见》里的女主人公伊丽莎白一样,对于爱情有一种深植于心的执念,坚持嫁给爱情,否则就不结婚。 但活到一定年龄会慢慢发现,遇到
2023-11-30 14:18:00
戏剧艺术的创新发展路径
...用空间。一、技术赋能:重构戏剧的创作与传播逻辑(一)虚拟现实与沉浸式体验的突破技术的介入打破了传统的观演关系,实现空间叙事革新。北京人艺实验剧目《三体·黑暗森林》(2022)
2025-06-06 09:00:00
...乐全部由AI完成。沉浸式视频交互产品《风起洛阳》,在虚拟现实全感剧场中还原了神都夜景、大佛幻境等景观,让游客仿佛置身于古老而神秘的大唐东都洛阳。有了人工智能技术赋能,这些产品
2024-05-06 05:59:00
更多关于科技的资讯:
十堰广电讯(全媒体记者 耿吉国)据2025新能源汽车零部件交易会组委会最新消息,9月21日10:30,本届交易会将在十堰国际会展中心的交易会活动现场
2025-09-21 08:54:00
9月20日,2025太原人形机器人欢乐跑比赛在晋阳湖公园举行。这是我市第一次举办人形机器人“跑步”比赛。本次比赛,共有来自省城高校
2025-09-21 06:42:00
混成全网公敌的“流水线式造假”,终于被整顿
一家三口站在某所知名小学校门前,松弛地拍了一张合照。照片发到小红书上,下方评论区都在问询:“这么优秀的娃,究竟该怎么培养
2025-09-20 22:18:00
家庭观影进入IMAX时代!海信发布全球最大150英寸激光电视
鲁网9月19日讯9月19日,以“无界”为主题的“2025激光显示技术与产业发展大会”隆重举行。作为全球激光显示领域的领军企业
2025-09-20 08:56:00
我国脑机接口技术取得重大突破 厦门大学研究人员参与
放大镜视野下的“神经蠕虫”电极。(受访者 供图)厦门网讯(厦门日报 佘峥 通讯员 戴佩琪)我国脑机接口技术有重大突破——近日
2025-09-20 09:18:00
厦门“屏实力”再添新动能 天马发布高端OLED技术品牌“天工屏”
图为天马“天工屏”发布会现场。(厦门日报记者 卢剑豪 摄)厦门网讯(厦门日报记者 林露虹 通讯员 雷飏 李舜)随着人们日常使用手机时长持续攀升
2025-09-20 09:18:00
“赢在南京”海外人才创业大赛总决赛落幕逐鹿未来机“慧” 四海英才“论剑”南报网讯(记者余梦娇)9月19日,2025年“赢在南京”海外人才创业大赛总决赛在紫金山科技城圆满落幕
2025-09-20 09:54:00
过节送福礼,就送波尼亚!老字号中秋礼盒,青岛人都认这口
鲁网9月20日讯中秋将至,岛城的节日氛围日渐浓厚,走亲访友、阖家团聚的时刻,一份饱含心意的礼品总能传递温暖。作为扎根青岛的老字号肉食品牌
2025-09-20 10:08:00
机器人“总动员”!2025世界制造业大会上演智造奇观
大皖新闻讯 机械臂在空中划出优美弧线,人形机器人灵活抓取糖果,机器狗稳步行走在模拟街区内……2025世界制造业大会的智能机器人展区仿佛穿越至未来世界
2025-09-20 13:25:00
茶话弄九周年,这款经典单品即将迎来“家族式”升级
9月的西安,金桂飘香。2016年创立于西安的国风新中式茶饮品牌茶话弄,也将于近期启动以“桂花”为主题元素的品牌九周年庆典系列活动
2025-09-20 15:33:00
了不起的河南制造丨汉威科技:唤醒机器人“感知”世界的能力
大河网讯 2025世界制造业大会9月20日至23日在安徽省合肥市举办,大会以“智造世界·创造美好”为主题,举办开幕式暨主旨演讲
2025-09-20 16:14:00
了不起的河南制造丨2025世界制造业大会举行,河南“工业机器人”现场秀签名
大河网讯 9月20日,2025世界制造业大会开幕式暨主旨演讲在合肥市举行。河南省作为主宾省参会,30家制造业企业“重装上阵”
2025-09-20 16:45:00
2026届校园招聘大战启幕 科技企业派机器狗进高校抢人
近期,2026届校园招聘在全国多所高校陆续启动,一场围绕科技人才的“抢人大战”正式拉开帷幕。与往年相比,今年众多科技企业积极创新招聘形式
2025-09-20 17:55:00
2025山东省“产业大脑”建设工作推进会暨第五届中国(国际)美妆睫毛产业博览会在平度盛大启幕
鲁网9月20日讯(记者 潘亚妮 实习记者 刘悦 通讯员 袁嘉利 位一凡)9月20日,2025山东省“产业大脑”建设工作推进会暨第五届中国(国际)美妆睫毛产业博览会在平度市美妆在线新经济产业园盛大启幕
2025-09-20 17:55:00
从“炕头经济”到“美丽经济” ,平度睫毛产业数字化蝶变升级
齐鲁晚报•齐鲁壹点 刘震 通讯员 袁嘉利 位一凡9月20日,2025山东省“产业大脑”建设工作推进会暨第五届中国(国际)美妆睫毛产业博览会在平度市开幕
2025-09-20 18:05:00