我们能否信任那些在医生之前就能得出结果的人工智能？随着医疗人工智能的快速普及，最现实的问题在于责任归属。本文聚焦于医疗人工智能的广泛应用及其责任归属之争，概述了关键问题、国内应用趋势、医院和开发者的核查清单，以及患者保护原则。我们将通过多个案例研究，以通俗易懂的方式阐释医疗人工智能应用扩展及其责任归属方面的争议。
医疗人工智能加速应用背景及机遇
临床实践中感受到的需求
随着人口老龄化和慢性病增多，对影像判读、病理切片分析和临床决策支持的需求日益增长。医疗人工智能能够使更多患者得到诊治，并弥补人类在突变检测和罕见模式发现等方面的局限性。
技术条件的成熟度
随着大规模数据和计算资源的扩展，基于基础模型的解决方案应运而生。多中心数据能够提高泛化性能并实现持续更新，从而拓宽临床应用范围。
政策和法规的变化
以安全和质量为基础的许可和后续管理体系正在不断加强。试点项目（包括实验性引入和验证沙箱的使用）也在不断扩展，从而拓宽了实际应用范围。
责任争议的关键问题概述
责任的基本原则
医疗人工智能必须明确将自身定位为辅助决策的工具。最终的判断和解释应基于人类监督的原则，并由医疗专业人员负责。开发商和医院有责任提供安全的设计和运行环境。
当发生误诊时
- 医生 遵守适当的监测和复核义务
- 医院 是否存在适用于培训机构管理日志管理的标准操作程序
- 开发者 是否已建立报告系统以提供业绩限额披露更新
- 数据治理 披露偏见核查和外部核查结果
责任并非由单一实体承担，而是取决于上述义务的履行情况。
按医学领域类型划分的介绍策略
在初级和二级医疗机构中使用
- 胸部X光检查、糖尿病视网膜病变、皮肤病变等都适合作为筛查测试。
- 避免过度依赖警报驱动的工作流程和简单的界面。
- 通过与当地电力系统连接，快速转移高危患者
适用于三级和四级医疗机构
- 高难度应用，例如综合阅读辅助、多模态综合生存预测和治疗反应预测。
- 将人工智能解释报告纳入多学科会议，并记录反驳证据。
- 与临床试验相关的运营绩效监控和持续学习策略
按机构规模进行比较检查
- 初级保健 筛查准确性预警敏感性优先级过度依赖培训是必要的
- 高级综合 将研究和质量控制与可解释性、可追溯性和外部验证相结合，作为优先事项。
安全质量治理和文件记录实践
所需文件和程序
- 标准操作规程（SOP）工作图权限定义偏差应对程序
- 算法版本控制变更历史性能指标基线
- 输入数据质量标准和缺失值处理规定
- 事故可复现性日志存储访问控制保留期
实用技巧
- 强制要求对电子病历中的警告信息进行双重核查
- 当人工智能建议与临床判断不一致时，必须记录选择过程和理由。
- 通过每月绩效评估会议监测敏感性、特异性和事件的变化。
开发商与医院之间的合同保险策略
合同中需要检查的项目
- 性能保证范围测试条件和非外推条件
- 更新周期紧急补丁响应支持时间
- 关于责任限制、损害赔偿和召回义务的通知
- 同意重新了解数据使用范围和去标识化原则
保险和赔偿结构
- 医疗机构 将人工智能的使用纳入医疗责任保险和免责声明审查范围。
- 开发者 准备双重产品责任险和网络保险
- 联合应对 事先商定如何分摊事故调查费用和法律费用。
患者保护原则和解释义务
向患者提供的信息
- 人工智能辅助的使用和作用的最终决定权在于医疗专业人员。
- 替代方案的预期收益和局限性
- 如何撤回您对数据使用和保护方式的同意
建立信任的沟通
- 用对方能理解的语言解释风险和不确定性。
- 以可视化的方式呈现人工智能得出结果的关键特征或原因。
- 收集患者反馈并将其反映在服务改进循环中。
引言、评估和运行指标
评估指标示例
- 临床性能、灵敏度、特异性和AUC真实世界验证结果
- 业务指标：等待时间、阅读时间、报告遗漏率
- 安全指标警告无知率警告疲劳过度依赖信号
- 患者指标：再入院率、能耗、所需时间、满意度
可持续运营技巧
- 每次版本更新前都会进行小型验证集预检查
- 定期审查多机构外部数据，以防止机构偏见。
- 预先设定服务终止标准，如果未满足这些标准，则自动终止服务。
介绍前必备清单
- 临床适用性 目标患者人群适应症数据的匹配
- 可解释性 是否具备提供证据和用户教育的功能
- 安全与隐私 加密访问控制漏洞应对计划
- 一体化 EMR PACS工作流程集成及故障时的手动操作流程
- 责任 角色划分日志保留期限保险范围
- 后续护理 监控报告周期和更新管理
常见问题解答
如果医生采纳了医疗人工智能的决定，谁该负责？
医疗专业人员有责任在临床环境中验证辅助设备的效果。医院必须制定培训和流程，而开发商必须提供有关设备局限性和更新的信息。责任的划分依据是各项义务的履行程度。
我可以使用性能高但可解释性低的模型吗？
可解释性是安全性和信任的关键。即使模型无法提供完整的解释，也需要提供辅助指标来解读结果、可视化需要注意的区域，并提供预警条件，以帮助临床医生验证结果。
版本变更后需要重新审批吗？
任何涉及重大性能变更的更新都需要重新验证和内部批准。医院必须通过其变更管理委员会进行风险评估和测试。
如果发生故障或事故，我应该首先做什么？
确保患者安全和立即报告是我们的首要任务。随后，我们会存档日志，对事件时间线进行可复现性测试，开展根本原因分析，并在必要时暂停使用。结果将通过内部和外部报告系统共享。
如何获得患者同意？
使用人工智能辅助的目的、数据处理的局限性以及处理方式应以易于理解的方式呈现，并留出充足的时间供提问。此外，还应清楚地解释撤回同意的流程及其对治疗的影响。
结束
医疗人工智能的普及应用势在必行，但设计和运营若能有效降低责任纠纷的风险，则至关重要。人工监督、文档记录、日志管理、可解释性、保险和合同构成了一道安全网。医院开发商、监管机构和患者共同监测并改进相关指标，这才是最现实的解决方案。
妥善管理医疗人工智能的推广应用和问责机制，可以同时提升医疗质量和患者安全。现在就应该审查贵机构的流程和合同，从小规模试点开始，并从各项指标中吸取经验。医疗人工智能能为准备充分的团队带来最大价值。