北京严禁AI自动生成处方！专家：为AIGC在医疗领域划一道红线

日前，北京市卫健委牵头组织制定了《北京市互联网诊疗监管实施办法（试行）》（以下简称为“《办法》”）。《办法》第十四条、第二十二条规定，其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。处方应由接诊医师本人开具，经药师审核合格后方可生效，严禁使用人工智能等自动生成处方。

上述人工智能应用于互联网诊疗的禁止性规定并不是首次被提及，由国家卫生健康委办公厅、国家中医药局办公室联合制定的，并于2022年6月发布的《互联网诊疗监管细则（试行）》有相同条款。本次北京市卫健委在《办法》中重申，更多起到强调作用。

与此同时，不久前的8月15日，《生成式人工智能服务管理暂行办法》正式施行，该办法从技术发展与治理、服务规范、监督检查和法律责任等方面，对生成式人工智能（AIGC）做了相关规定。其中提到，采取有效措施鼓励AIGC创新发展，对AIGC服务实行包容审慎和分类分级监管。

目前，在大模型的推动下，AIGC加持的互联网诊疗已逐步进入试验阶段。今年5月，春雨医生旗下AI在线问诊产品“春雨慧问”免费开放，医联也紧随其后发布了医疗大语言模型MedGPT。在微信搜索“AI医生”“AI诊疗”小程序，已有不少企业和机构上线了相关产品。

九派财经观察到，现在的大多AI诊疗产品对用户免费开放使用，主要起到辅诊、导诊作用。经过患者自诉病情、AI多轮问诊后，平台可生成参考报告，给出用药建议，并提醒患者及时就医以获得专业的指导。

随着AIGC重塑各行各业，问题逐渐涌现。北京市卫健委重申AI诊疗禁止性规定释放出怎样的信号？如何让AIGC正确应用于医疗领域？对AI诊疗，监管应持怎样的态度？为此，九派财经专访中国社科院法学所研究员、科技与法研究中心主任、博士生导师杨延超，以下是采访实录：

九派财经：继《生成式人工智能服务管理暂行办法》正式施行，北京市卫健委重申“严禁使用人工智能等自动生成处方”等，释放出怎样的信号？

杨延超：目前的AIGC产品主要集中在文学、艺术和计算机领域，对人们的利益影响有限。而医疗领域的特殊性在于它要求的准确率，因为它直接影响的是患者的生命安全，而且一旦造成损害是不可逆的。

《办法》禁止用AI软件代替医师诊疗，主要目的是为AIGC在医疗领域画了一条红线，采用一种谨慎的态度，防止AIGC在目前的技术发展情况下，对人们的医疗安全产生不良影响。

九派财经：做出上述规定的必要性在哪里？

杨延超：AI效率高，可以降低人工成本，而且是7*24小时服务，如果不做禁止性规定，那么很多企业可能就会用它来出诊疗方案。但AI不具备可控性——可能由于大模型的进步，100个AI诊疗方案中只有1个出错了，这也会影响人的生命安全——这种不可控性是我们现在不能容忍的。

九派财经：AIGC重塑各行各业的背景下，互联网诊疗行业哪些问题值得关注？

杨延超：AIGC时代，最终得回答一个问题，就是大模型如何真正促进生产力的发展？

所以如何把AI正确地应用在医疗领域，现在是我们需要思考的问题。在大模型时代，规范好AI对医疗领域的应用，实际上会发挥非常大的贡献。此前在医疗领域中已经有比较成功的案例，比如医生利用AI辅助分析患者的CT结果。现在大模型时代，我们可以想象的空间更大了。

第一，大模型驱动的AI可以作为医生的工具，甚至是合作伙伴。它可以基于此前的、大量的病例，快速地锁定问题，给医生一个更为准确、更为科学的建议，然后由医生凭借他长期的诊疗经验，做出最终的诊断。

第二，大模型可以应用于创新药物研发，发挥它优越的大数据分析能力。解决亟待解决的药物问题，降低现有创新药物的成本，突破更多疾病。

九派财经：对于AI诊疗，监管应持怎样的态度？

杨延超：谨慎的同时也要对大模型在医学领域的重大价值给予鼓励和支持。

在实验室我们做了很多大模型和AI的实验，我觉得这项技术对于生产力的发展具有重要的价值和意义。我们规范它没有问题，但是不能把一个新的科技视为洪水猛兽，这是不对的，应该合理地去规范和驾驭它。

所有立法的科学性在于度的准确把握，这是一门艺术，也是问题最科学的地方。鼓励什么、支持什么、反对什么、禁止什么，这是一个度的把握。

但AI立法的难点在于，它和我们以前熟悉的法律不一样，如果仅停留在字面或检索上，AI立法就难以科学，它需要我们去理解这项技术，深入理解大模型。如果不深入地洞察这些技术特点，有可能就把一个本来应该支持的技术抹杀掉了。

总体而言，对这次大模型产生的技术变革和影响，原则就是在合理把控的前提之下，我们要大力支持，最简单的原则就是画红线。我们画几条红线你不能逾越，剩下的就发展。

【来源：九派财经】