AI诊疗之辩:“神助攻”还是“乌托邦”?
从手术机器人到数字健康人,从急重症预判到癌症筛查,AI技术正势不可挡地进入医疗领域,应用场景日益多元。今年初,DeepSeek等AI大模型的问世,更是掀起一阵“AI问诊”热潮。
与此同时,与AI医疗相关的各种消息随着热潮涌现而来,“AI误诊延误病情”“AI医生闯大祸”……多条新闻冲上热搜。
“AI医生”能开处方吗?能否承载患者的信任?出了问题谁来担责……一系列话题也引发热议。
无微不至的24小时“健康管家”
今年2月,浙江大学医学院附属邵逸夫医院(以下简称:浙大邵逸夫医院)成功将DeepSeek R1大模型接入自研医学领域垂直大模型,融入院内智慧医院管理平台。依托DeepSeek R1大模型的先进算法与海量数据,其AI主动健康管理平台能够快速、精准地解读各类检查、检验和体检报告,为使用者呈现详尽的健康信息分析。同时,根据体检结果自动生成专业的主检报告,帮助用户全面了解自身身体状况。在疾病预防方面,通过对海量医疗数据的深度分析与学习,大模型能够精准评估用户的疾病风险,提前洞察潜在健康隐患,并为用户量身定制个性化的预防建议。
为实现对用户健康状况的实时掌握和及时干预,AI主动健康管理平台通过与便携第三方设备的无缝对接,实现了“7×24”小时不间断的体征信息实时采集。用户只需佩戴智能手环、智能手表等便携设备,即可随时随地监测心率、血压、血氧饱和度、睡眠质量等关键生命体征数据。这些数据实时传输至平台,由大模型进行深度分析与处理。一旦发现用户健康指标异常,平台立即发出预警,并提供针对性的健康建议和干预措施。
浙大邵逸夫医院门诊部主任丁勇表示,AI主动健康管理平台更像一位时刻在线、无微不至的24小时“健康管家”,可以深度考量不同个体在身体状况、生活习惯以及遗传特质等方面存在的显著差异,凭借先进的算法与强大的数据处理能力,为每一位用户量身打造专属的健康管理方案。
ICU(重症监护室)是人体大数据最直观的呈现处,在这里每秒钟收集的个人身体数据可达上千条。在浙江医院重症病房,借助“AI医生”的辅助诊疗,为急重症患者赢得宝贵的抢救时间。医院重症医学中心经过四年的精心研发与实际应用,成功打造“智慧重症”系统,实现了重症监护过程的数字化、智能化和精准化。
据了解,当前该系统已累计录入5000余例次患者数据,年使用频次超过1600次,不仅能收集整合大数据,让治疗更加有的放矢,还可以提前8小时识别VAP(呼吸机相关性肺炎)、CRBSI(导管相关性血流感染)、CAUTI(导管相关性泌尿系统感染)等感染风险,预测未来24小时重点疾病发生率,为临床决策提供了坚实的数据支撑,显著提高救治的效能。
去年12月,浙江医院发布了自主研发的升级版“智慧重症”系统——重症专科大模型Maicim®1.0版本。重症医学科主任胡伟航介绍,这一专科AI大模型将为医生,尤其是年轻医生在患者多模态脏器评估和智慧查房等方面,提供强有力的辅助和建议,大幅提升病历文书和智能交班的工作效率,从而推动整体医疗服务的提质增能。
无法取代医生进行诊疗或开处方
上周二上午,记者来到浙江医院三墩院区门诊大厅,看到在靠墙处有一排就诊自助服务机,机器两侧都放置了关于AI医疗的宣传易拉宝,一个是由浙江省卫生健康委官方推荐的“数字健康人”——“安诊儿”,另一个是浙江医院自己的“AI医助预问诊”线上小程序。
经过十多分钟的观察,其间有一位年轻女性用手机扫描了浙江医院的“AI医助预问诊”二维码。绝大多数就诊人员有疑问,都是直奔预诊分诊服务台,向医护人员咨询。
“目前,来院患者如碰上就医流程上的问题,还是习惯直接找我们(医护人员)询问。”当日服务台值班医生表示,“一方面,有部分老年患者不太能熟练使用智能手机,对于他们来说人工服务更为便利;另一方面,不是每一位患者都能向AI工具清楚地描述自己的身体状况。通过面对面交流,医护可能更容易快速领会患者的诉求和实际情况,并给予解答。”
“我主要是在医院的AI问诊平台上看一下检查报告,有时还会查阅一些关于疾病防治的健康提醒。具体看病治疗肯定还是听医生的,不会盲目用AI工具来自我诊断,毕竟当前AI大数据的准确性无法保证。”使用过“AI医助预问诊”小程序的周女士(化名)告诉记者。
周女士说出了不少人的心声:AI发展太过迅速,大多数人无法辨别大数据分析的真实性。社交媒体上,有网友表达了这样的观点:“AI 作为一个新兴的技术,它的发展还处于初级阶段,技术不是很成熟。AI是通过投喂大量数据进行训练的,但这些数据的来源可能不准确,而AI无法辨别信息的正确性。”
此前,哈佛大学、斯坦福大学、微软等顶尖学府和机构的多名医学、AI专家联合开展过一项研究,对OpenAI旗下o1-preview模型在医学推理任务的表现进行了综合评估。结果显示,o1-preview模型诊断准确率近80%。“但对于医疗领域来说,重要的不是那80%,而是剩下的20%。”数字社会发展研究中心特约作者陈白指出,“在生命的健康安全面前,20%的错误率已经很高了。而且真要到了责任更为重大的医疗领域,情况会复杂得多。”
并且,AI无法像医生那样与患者进行面对面的交流,无法观察患者的细微情况,也不能提供情绪价值,更不能判断患者说的话是否夸张或有所隐瞒,所以它很可能会给出错误的诊疗方案。
陈白表示,当前大模型基于的是“统计相关性”的算法机制,而医疗领域要求的是“因果严谨性”。换句话说,技术鸿沟中存在的难以调和的深层矛盾在于:医疗AI事实上追求的是“绝对正确性”,而现有技术架构只能提供“统计最优解”。
之前有个网络段子说,医生最头疼的一类患者就是自己先在百度上看病的人,沟通起治疗方案来可能更费工夫。从某种程度上来讲,“AI医生”就是超级进阶版的“百度看病”,有部分人在面对它时走向另一个极端——深信不疑。
据新京报报道,今年2月26日,北京大学第三医院的心内科诊室,两种治疗方案在诊台上“对峙”:一份是心内科医生开出的治疗高血脂的医嘱,一份是患者手机APP上,人工智能软件生成的“处方”。虽然,最终患者还是听从了医生的治疗方案,但这种情况的发生,无形中增加了医患沟通成本,消耗了医疗时间和资源。
此外,健康医疗信息向来是人们高度关注的敏感信息。武汉大学中南医院信息中心主任肖辉说,AI需要大量数据学习,但医疗数据的敏感性和隐私保护需求使得数据共享和使用变得复杂。“为避免数据泄露和跨境传输风险,不少医院会选择大模型私有化部署。”
模型可以解放手脚,但不能替代大脑。当前,AI只能辅助诊断,不能取代医生进行诊疗或开处方。医疗决策依赖复杂的临床判断与丰富经验,尤其是面对不典型病例或多病共存的情况,经验丰富的医生能够捕捉到细微症状和体征,这是人工智能目前难以企及的。
“提供便利”还是“本末倒置”?
“AI+医疗”作为一种新兴模式在实际应用过程中可能存在一定法律风险外,一些线上医疗问诊、线上购药平台在引入AI辅助后,虽然给患者带来便捷,但存在不少问题。
记者在调查中发现,一些互联网医疗平台采用“先选购药品,再因药配方,甚至由人工智能软件自动生成处方”这样本末倒置的操作方式。
前天,记者在某头部电商的购药平台试着购买用于呼吸道炎症的常用处方药“头孢克肟分散片”。点击“开放购买”后进入下一页面,平台提示“请选择线下已确诊疾病”,并罗列了“上呼吸道感染”“咽炎”“支气管炎”“中耳炎”“女性盆腔炎”等几个选项,记者随机选了几项,并勾选了“已确诊此疾病并使用过该药,且无过敏史、无相关禁忌证和不良反应”,在未填写“处方/病历/检查报告栏”的情况下,亦可提交清单,系统随后转至问诊环节。
紧接着,有一名打有“平台认证”标签的郑姓副主任医师“接诊”,该医生在与记者进行简单对话,在记者完全没有作任何病状描述的情况下,便开具一份“电子处方”和购买链接,记者即可顺利购买处方药“头孢克肟分散片”。
市民陈深也有过类似经历,他高度怀疑屏幕后面接诊的“执业医师”的真实性:“感觉对方跟机器人客服没什么差别,问诊也是模板,不管回复什么内容对方会在几秒钟内迅速同意,根本没有给出任何专业意见。”有一次,他尝试着回复一些不是欲购药品适应病症的情况,结果也是立马得到了处方单。
“目前正规互联网医院,仅对诊断明确且因相同疾病就诊的复诊患者,提供在线开具常规的检验检查及药品续方服务,而对于首诊患者仅提供咨询服务,开方配药还是得去线下医院。不排除有些互联网医疗平台存在用人工智能、机器人等工具自动生成处方。”杭州某三甲医院一位不愿具名的医生告诉记者。
“AI开处方,客户直接取药”的模式,处方开具、审核环节形同虚设,要么直接跳过开具处方这一流程,要么对用户上传的处方并不实际审核,这类行为严重违反了我国药品管理制度,也给患者用药安全埋下风险隐患。
此前,国家卫生健康委在回应“上海患者因AI误诊获医院赔偿127万元”的虚假消息时也再次强调“AI仅是医疗工具,医生仍是责任主体”。并重申2021年发布的《人工智能医用软件产品分类界定指导原则》,明确AI作为医疗器械管理,若因设备缺陷导致误诊,患者可向医院和厂商共同追责;但医生作为最终决策者,仍需对诊疗结果负主要责任。国家卫生健康委同时呼吁公众理性看待AI技术:“医疗AI的初衷是提升效率,而非替代医生。任何技术失误都不应成为医术不精的借口”。