生成式AI在医疗行业的应用与挑战：医生担忧与患者期望的碰撞

生成的AI正在迅速扫荡医疗行业，AI医疗系统的炒作正在加剧。

许多医生对此表示担忧 - 生成AI模型的出现后，AI医生的能力被夸大了，好像他们可以看到任何疾病。许多患者直接咨询了DeepSeek诊断结果的医生。 。

一些临床医生说，AI模型中仍然有许多幻觉，在医学诊断中使用时应该特别谨慎。

很难区分真实和错误的大型模型功能

最近，有报道说，上海鲁伊因医院使用人工智能系统成功地挽救了一名25岁的程序员的寿命，该计划因误诊而陷入多器官失败。但是，据《第一次金融日报》的记者说，此案并非如此，鲁伊因医院从未使用过人工智能系统。

在线新闻捏造了Ruijin医院ICU的紧急现场，称主治医生治疗了“肺炎”困难且复杂疾病的患者。使用抗生素48小时后，他没有改善。当他无助时，发现了一个名为“ yizhixing”的AI医疗系统。通过分析全球范围内的700多例抗利尿激素异常分泌综合征（SIADH）和患者的CT图像，该患者的原因在短短几秒钟内就确定了，成功率最高为82％。

作为回应，Ruijin医院告诉第一家财务记者，该消息是假的，Ruijin医院从未使用过这种称为“医疗情报”的AI医疗系统。

但是，也有实际的医院使用人工智能模型来成功治疗患者。上海东方医院有一个病例。一名11岁男孩由于未知的原因在另一个地方的一家著名大三级医院的小儿部门曾多次检查，但直到一年后仍无法确定原因。他被诊断出患有非常罕见的自身免疫性疾病。当医生将孩子的病例纳入AI模型时，医疗模型诊断为专家花了一年的时间在短短几分钟内完成。

上海一家大三级医院重症监护局主任向第一名财务记者解释说：“大型模型的知识相对全面，推理和医学结论的能力取决于输入信息。大型输入有效的数据可以输出。与患者病的发作有关的是有效的信息。”

在上述重症监护医学专家的看来，目前不难建立医疗模型，因为在许多开源模型基础上，困难是场景应用中的本地数据治理。

去年，上海东方医院发布了由医生团队和技术团队共同开发的AI医学模型“ Med-Go”，这引起了行业的关注。据报道，这种大型模型在国内外“咀嚼”了6,000多个权威教科书，成功通过了国家执业医师资格考试，参加了中国医疗信息挑战赛，并赢得了连续冠军，并已连接到冠军。他的东方医院系统。

张海托（张海托决策支持，这是临床实践的生成AI。诊断和治疗中最有价值的部分。

病人将Deepseek报告给医院

随着人工智能公司DeepSeek Big模型的普及，许多患者在探访医生之前已经开始咨询与疾病有关的咨询，甚至要求医生在DeepSeek的“诊断报告”中“上法庭”。

在这方面，心脏病专家承认了第一名财务记者：“ DeepSeek的结论中约有90％是正确的，这确实可以降低一些医生和患者之间的沟通成本。有时DeepSeek的信息更新比医生的知识更新。快速的知识。快速。 ，如果医生不跟时步伐，他们确实会面临被AI淘汰的风险。”

但是，具有医疗背景的医疗信息系统开发人员告诉第一名财务记者：“当前市场上的医疗AI模型可以取代一些社区全科医生的工作，并为患者提供某些建议，但深入研究大型三级医院。临床诊断还可能需要对垂直医学模型进行持续和深入的研究，而核心是医院的深入数据。

上述人还说，尽管当前在某些情况下，AI模型在临床实践中实现了个人精确诊断，但这些成功的病例不能扩展到更广泛的患者人群。通常，在临床实践中将查看AI模型很长时间。从统计上讲，是否取得了重大结果。

上海10号人民医院超声医学系副主任Guo Lehang和他的团队正在对“超声 + AI”进行临床研究，该研究主要针对多种机器人和多种疾病，并且是多种疾病针对多个任务，例如诊断，预测，教学和远程医疗。

他认为，“幻觉”是医学AI普及的最大障碍。 Guo Lehang说：“这可能导致错误的诊断，治疗建议或医疗决定，这将对患者的健康产生严重影响。”目前，一些公司已经在努力解决AI幻觉的问题，该行业认为这可能与强化学习方法有关。

中国科学院的院士陈·伦肖（Chen Runsheng）也提到，打破AI的“幻觉”需要许多挑战，例如技术困难和道德问题。从技术角度来看，AI的性能在很大程度上取决于培训数据的质量和多样性。如果训练数据存在偏差，则该模型可能会产生不正确的输出。从道德的角度来看，由于培训数据不完善或设计师的主观偏见，算法可能导致歧视性决策结果。