应确保科技活动符合道德和伦理原则

本文转自：法治日报

《科技伦理审查办法（试行）》十二月一日施行 专家指出

应确保科技活动符合道德和伦理原则□ 本报见习记者 丁 一

□ 本报记者 文丽娟

近日，科技部、教育部、工业和信息化部等10部门联合印发《科技伦理审查办法（试行）》（以下简称《审查办法》），将于2023年12月1日起施行。《审查办法》将涉及人工智能、算法和模型设计、个人数据处理等在内的科技活动纳入监管范畴，规范科学研究、技术开发等活动的科技伦理审查工作，强化科技伦理风险防控。

所谓科技伦理审查，是指对科技研发、应用、推广等全过程进行的伦理性评价和监督，其主要目标是确保科技活动符合道德和伦理原则，保护人的权益，避免或减轻可能的负面影响。

《审查办法》有何亮点？如何推进完善科技伦理审查体系？《法治日报》记者就此采访了北京协和医学院人文和社会科学学院教授张新庆和清华大学科技发展与治理研究中心主任助理陈天昊。

知情同意纳入审查

《审查办法》采用“一般列举（4项）+专家复核活动清单（7项）”的方式明确了需要进行科技伦理审查的活动范围，以及需要启动专家复核程序的高风险科技活动。如将“涉及以人为研究参与者的科技活动，包括以人为测试、调查、观察等研究活动的对象，以及利用人类生物样本、个人信息数据等的科技活动”列入审查范围，审查的重点内容和标准有“所提供的知情同意书内容完整、风险告知客观充分、表述清晰易懂，获取个人知情同意的方式和过程合规恰当”。

那么怎样去评价一份知情同意书内容完整、风险告知客观充分、表达清晰？审查知情同意书的什么内容？会不会存在受试者不明白专业术语的问题？

对此，张新庆分析说：“在伦理审查过程中，要注意审核项目申请书中知情同意书的书写是否规范、是否涵盖伦理审查的文件里规定的基本内容。同时，需要向研究参与者解释，让他们可以理解、自愿地去参加，认真考虑且自愿决定是否参与该项研究，而且参加过程中随时都可以自由撤出。”

陈天昊说，前沿研究必然涉及专业术语，研究者要尽量用通俗的语言让受试者凭借常识可以理解。科学原理是同行评议的重点，而不是知情同意的重点。知情同意的重点内容是需要受试者知晓该项研究有哪些风险、哪些收益、持续多长时间等，这些是审查重点。

对于公众所关注的审查主体泄露个人隐私、生物特征等信息的可能性，陈天昊认为，个人信息保护法为科技创新领域基于个人数据进行创新给出了一般性的规范指引，但该指引如何在科技创新领域落地，还存在很多可解释的空间。

“为恰当平衡合规要求与创新需求，科技主管部门可以考虑出台专门的合规指南，细化人工智能及数字技术领域研发采集个人信息的合规要求，如通过何种方式完成充分告知、何种程度上的变更需要重新获得同意、在科研场景下满足什么样的要求才达到个人信息保护法规定的允许处理敏感个人信息的‘严格保护措施’以及‘特定的目的和充分的必要性’等。”陈天昊说。

审慎对待伦理风险

记者在《审查办法》中看到，在需要开展伦理审查复核的科技活动清单中，有一项是“面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统”。这意味着，如果一款产品可以通过对比目标人员和周围人群的表情、行为等，判断出如公共游泳池中的人是否遇到危险，继而识别儿童是否有呛水、溺水的可能，也需要开展伦理审查。

张新庆进一步解释说，在泳池自动化决策系统的研究设计阶段，研究者有可能做对照实验。对照组是一组在水浅、没有风险的游泳池中游泳的青少年，这些人没有溺水风险；试验组是一组在水稍微深，且暗潮涌动的水域游泳的青少年，这些人有较高溺水的风险。研究者通过高倍摄像头观察这两组孩子们的表情、姿态和求救信号等并进行记录。当然，实验不会真让孩子溺水，一旦孩子呛水会立即救援。

实验可以采集孩子面部表情并研究面部表情和溺水发生的因果关系，最后计算出孩子溺水的概率。采集信息并分析之后，研究者可以制作出在泳池中使用的软件，一旦泳池中孩子的姿势、表情发生变化存在潜在风险，计算机会自动警报。

需要注意的是，让青少年参加这项有一定风险的溺水实验需要事前获得法定代理人同意并签署知情同意书。如果研究者希望幼儿参加实验，则需要论证为何需要年龄较小的孩子参加实验。此外，还需要阐明实验的设计原理、科学价值、对受试者的潜在风险以及潜在受益。

“伦理审查与开展研究并不矛盾，实际上，伦理审查为科学研究保驾护航。《审查办法》目前比较弹性，清单上列举了经过学界争议不大、评判认为有较高伦理风险的七类技术，将来还可以增补。这并不是将此类技术列入黑名单，而是应当更加重视这类技术的伦理问题，以审慎的态度对待他们。”张新庆说。

“《审查办法》对此类科技创新提出了更高的审查要求，是因为其将人的生命、健康这些最为根本性的权益交由机器进行‘自动化决策’。科学家研发自动化决策产品，提前嵌入的伦理逻辑是什么？其本身是否符合社会在一般意义上的伦理期待？”陈天昊说，为此，引入公众参与、展开社会讨论、寻求普遍共识，就变得尤为重要。未来的法律法规及规章，应该在涉及上述核心价值问题时构建制度化的社会交往机制，促进共识达成。

压实审查主体责任

根据《审查办法》，高等学校、科研机构、医疗卫生机构、企业等为审查主体，并且设立科技伦理（审查）委员会，实行委员会认证机制，明确审查程序、监督管理。

陈天昊认为，这是压实科技伦理管理主体责任的主要举措。《审查办法》对委员会如何运作作了一般性的、结构性的规范，如满足哪些条件可以受理，何种情况下适用一般审查程序或简易审查程序，以及哪些情况还需要提交外部专家进行复核等，搭建了制度结构。

在张新庆看来，对于那些需要建立但还没有建立科技伦理审查委员会的领域或单位，最紧要的是要实现从零到有的突破，有了伦理审查委员会才能对认证机制进行规范。科技伦理审查委员会认证机制通过认证进行统一指导、统一监督，其目的是保证医学及文件所涉其他领域，建立委员会的审查质量和建设标准的规范化。

“伦理审查的目的是通过他律保护受试者的权利，通过成立委员会，对研究项目进行科学价值和社会价值的伦理审查来保障研究参与者的权益，同时也维护医学的科学研发和遵循伦理规范之间的平衡。”张新庆说。

对于如何确保科技伦理审查的独立性，张新庆认为，要靠制度和机制保障。首先伦理审查委员会委员需具有较高的专业素质和伦理素养；其次委员会人员构成要具备符合《审查办法》要求，既有专业人员、生命伦理专家，还要有法律人等。在评审项目过程中，还要减少来自项目申请者本人、所在机构领导及同事等因素的干扰，如果存在利益冲突情形的，伦理审查委员会的委员要“回避”。此外，伦理委员会以法人担责，若伦理审查不规范，要将限期整改等责任落实到法人主体上。伦理审查委员会要将人员构成、规章制度等方面向卫生健康主管部门备案，按照要求提供年度伦理审查报告。

“《审查办法》对专家复核机制、科技主管部门的监管权力的安排，很可能遭遇信息不对称的问题，未来还应该逐步扩大科技伦理审查的公开性、透明性、参与性，在认证制度中嵌入信誉机制，以信誉机制遴选出具备充分独立性和专业性的委员会。”陈天昊说。