AI处方一禁了之?DeepSeek热潮下,医患与AI如何共舞?

我爱免费

作者：微信文章
来源丨21新健康（Healthnews21）原创作品

作者/闫硕

编辑/季媛媛

近日，湖南省医保局发布《关于进一步加强基本医疗保障定点零售药店管理的通知》（以下简称《通知》），指出互联网医院严禁使用人工智能等自动生成处方。


与之对应的，是连日来多家医院宣布完成DeepSeek本地化部署，以及不少临床专家对DeepSeek的称赞。一“堵”一“疏”之间，引发公众的广泛关注，“湖南严禁用AI生成处方”话题也因此冲上社交媒体热搜。资深医改专家徐毓才在接受21世纪经济报道记者采访时表示，目前医院本地化部署DeepSeek是以减轻医生的工作量、提高效率为主，处方权其实并没有放开。北京中医药大学卫生健康法治研究与创新转化中心主任邓勇向21世纪经济报道表示，医疗问题的复杂性决定了人工智能在医疗领域发展的难度，除了手术机器人以外，目前人工智能在医疗领域尚处于“辅助”的地位，人工智能代开处方则超出了“辅助”的限度，直接替代医师，这一红线不可触碰。IQVIA艾昆纬中国人工智能和创新业务负责人张畅向21世纪经济报道记者指出，公众关注DeepSeek是合理的，因为看病肯定是想真正找到疾病，并找到好的处方。但目前而言，用大模型看病还没有成为现实，仍处于探索阶段。大模型其实就像以前医生手里的工具书，目前更多是一种辅助诊断的角色。


为何禁用AI生成处方？根据《通知》，互联网医院的处方行为须严格执行有关规定，应与患者或患者家属进行有效、充分的沟通问诊，严禁使用人工智能等自动生成处方。《通知》中所提及的有关规定，其中就包括国家卫健委等部门在2022年发布的《关于印发互联网诊疗监管细则（试行）的通知》（以下简称《细则》），其中明确提出处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方。值得一提的是，北京此前也出台规定，明确禁止使用人工智能等自动生成处方。从安全的角度而言，张畅认为，现在的AI还没有达到医疗卫生级人工智能的要求，即在准确、安全、合规等方面还有所欠缺，这是政策考量的重要一点。而且，在多数情况下，医生并不会全面输入患者所有的信息，包括过往病史、肝肾功能等，所以，AI还很难实现一个医生应有的综合判断。徐毓才向记者表示，湖南此次之所以禁用AI生成处方，一方面是因为我国目前对互联网诊疗的有关政策并没有放开，AI直接开具处方并不合规。另一方面，从法律层面上看，责任划分尚不明确。在法律责任划分不清方面，邓勇向记者表示，一方面具有责任能力的责任主体需要明确，根据《细则》第三十四条可知医疗机构、取得《医疗机构执业许可证》并独立设置的互联网医院可以作为责任主体，实体医疗机构以互联网医院作为第二名称时，实体医疗机构依法承担法律责任。目前的《处方管理办法》《医疗机构管理条例》相关规定还不足，处罚对象局限于人员，人工智能等主体的责任尚不明确。


另一方面互联网医疗过程中责任承担规则不明确，《细则》第三十四条规定表明互联网医院合作各方可以依法通过合同分配责任。若医疗机构为规避赔偿损害责任的风险，在合同中约定出具处方不当造成损害的，在医疗机构赔偿后应由医师负担，则明显违背权利与责任对等的原则。在医疗行为中，遵循 “谁开处方谁负责” 的原则。AI不是独立的医疗行为主体，没有处方权，也无法承担法律责任。“一旦AI自动生成的处方出现医疗事故，很难界定是AI研发方、使用方还是其他相关方的责任，会导致后续的责任追溯和赔偿机制难以有效运行，患者权益无法得到充分保障。”邓勇说。需要指出的是，该政策出台的背景是在推进职工门诊统筹过程中，定点零售药店发挥了购药方便的优势，但存在虚假处方、价格虚高等损害参保人权益、威胁医保基金安全的现象，因此急需加强管理。“AI自动生成处方如果缺乏有效监管，易成为不法分子骗取医保基金的工具，如生成虚假处方、乱开药方等，严禁AI自动生成处方可从源头上切断这种潜在风险。”邓勇认为。多位专家均向记者表示，湖南的规定是对国家公共政策的重申和严格落实，确保医疗行为在现有法律框架内规范进行。


AI与医生如何共舞？另一方面，湖南、北京、上海、浙江、江苏、安徽等多地均有医院宣布完成DeepSeek本地化部署。江苏某三甲医院创伤骨科一位临床医生告诉21世纪经济报道记者，目前DeepSeek辅助诊疗正确率很高，和医生诊断大部分一致，甚至有时候比医生还要全面。医生问诊时可能会忘掉某些方面，但DeepSeek不会。张畅指出，DeepSeek等大模型在这种情形下的应用更多偏向于对医学知识的整合。整合本身也是大模型的优势，它对过往文献资料、对临床的可能病例的描述有很强的记忆能力，这方面相当于信息检索的功能。同时大模型可以对症状进行初步筛选，通过过往知识筛选出不常见的疾病。在具体的使用场景上，一安徽三甲医院泌尿外科临床医生向记者表示：“目前用DeepSeek主要还是在一些一时难以想起的问题上，充当浏览器使用，比如我会问舒普深是否能和氨曲南联合使用，DeepSeek的回答更专业，并且也会详细给出能否联合使用的原因。”

随着DeepSeek等大模型在医院的陆续落地，处方合规监管成为亟待解决的一大问题。邓勇表示，需要明确规定医疗AI在处方环节的使用范围、条件及相关主体责任，如规定AI研发者、使用者在不同情形下的责任比例等。此外，针对AI辅助处方等行为，制定专门的技术标准和规范，包括数据质量、算法准确性、安全性等方面的要求。值得一提的是，上述泌尿外科临床医生补充道，当前也存在一些尴尬的情况，比如一些中青年患者或者患者家属会在去医院之前先用DeepSeek问诊，带着结果去看病，一旦医生说得有漏洞，他们便会质疑。这也意味着，对于DeepSeek等大模型与医疗结合的关注，已经不仅仅局限于医疗行业内部。也因此，湖南此时发布的《通知》才受到了广泛讨论。“当下，关于人工智能在医疗活动中的应用，确实是医药机构很热，而政策比较冷静，感觉是一边在‘疏’，另一边在‘堵’。大模型在医疗诊断、处方开具等方面的未来，我持乐观态度。”徐毓才表示。从目前医疗市场情况看，大医院人满为患，医务人员工作强度很大，如果有了AI助力，可以极大减轻医务人员这方面的工作负荷和压力，提高工作效力。而基层缺乏优质医疗资源，人才下不去留不住用不上，如果有了AI赋能，可以有效解决基层缺人问题。在零售药店，如果有了AI医生，也可以赋能其发展。徐毓才认为，从某种程度来说，管AI医生比管真实世界的医生要简单得多，只需要谁使用谁受益谁担责就可以了，即医疗机构使用，医疗机构担责，患者自己使用，患者责任自担。未来，又该如何平衡技术创新与合规监管关系？张畅表示，在技术快速发展中，可能会面临由于监管的过度介入，导致技术发展受到阻碍的情况。我们可以在监管体系上做些调整，比如分级分类监管，同时政府、医疗机构、技术公司甚至医院的伦理委员会，都可以共同参与制定相关标准。“未来可以在一些特定的封闭场景，对特定疾病开展试点，通过试点去训练模型，进而完成对模型的二次开发。另外，还要对医生等使用者进行培训，让他们通过更准确的提问得到更合理的答案。”张畅说。
图片/21图库

排版/许秋莲
【版权声明】本文所有内容著作权归属21世纪经济报道，未经许可，不得转载、摘编或以其他形式使用。- END -