医疗人工智能科技异化及其伦理风险探析

医疗人工智能广泛应用于现代医疗形式。医疗科技的日新月异,大大推动了人类医学的发展进程及诊疗模式。与此同时,医疗人工智能科技的发展出现了异化现象,并由此带来了人和社会的异化,诸如对人与类人机器的角色定位不清,人对技术的依赖性过度增强,医疗全生命周期中的责任伦理缺失,技术价值失衡等社会问题。以这些异化带来的伦理风险为进度,探析在医疗人工智能使用中的隐私安全与数据使用的边界问题,人在医疗过程中的主体地位问题,“医生-人工智能-患者”的共同决策体系构建问题,构建医疗人工智能科技向善理念及法律问题。     

医疗情感计算应用的多维困境及其法治实现

情感计算技术依托算法的数据处理能力和自主学习能力已经在医疗健康领域有所实践。但由于医疗领域的特殊性,情感计算技术医疗应用过程中存在着道德合理性风险、规制盲区以及技术羁绊等多重隐患,亟须法律规制。首先,应当坚守“拟主体”身份的道德底线,追求伦理与法治的最佳耦合;其次,应构建权责明晰的算法责任嵌入机制,建立多元协同的算法权力治理机制;最后,应建立健全医疗情感计算技术审查机制,完善情感计算算法风险等级治理体系。

     

过度医疗与医疗风险的关系

医疗风险导致医患立场日益分化,影响了正常的医疗秩序。就过度医疗与医疗风险的关系对医患立场的影响问题,从医疗风险的经济学因素、法律因素、人道主义因素和医疗技术因素4个方面阐述过度医疗的原因,并对此提出解决建议。     

医疗风险防范与化解新趋向

新的《医疗事故处理条例》实施以后,患者的自我保护意识不断增强、高精尖医疗器械的应用、新技术的不断开展等均增加了医疗行为的风险,医疗风险管理显示出日益重要的作用。新形势下医疗风险管理的新趋向是建立自愿的医疗责任保险、组织患者参加医疗风险保险、建立强制性医疗责任保险制度、卫生行政部门代理保险业务、建立医疗援助基金等方式,提出了在风险控制的基础上,加强风险融资的措施。     

医疗风险与医疗事故的辩证思考

2002年9月1日开始实施的新《医疗事故处理条例》,在医务工作者中引起了巨大的反响,依法行医和按照规章制度、医疗护理操作常规进行医疗活动的意识在医务工作者中普遍得到加强。但是,随着医疗风险引起的医疗纠纷越来越多,也使一些医务工作者在医疗活动中缩手缩脚,对风险大的治疗由于担心可能引起医疗纠纷而放弃,本应得到治疗的疾病因风险大而不能及时救治。因此,探讨医疗风险与医疗事故的内涵和关系,有利于医疗活动健康发展,真正做到救死扶伤,为伤病员服务。     

医疗人工智能研究的风险评估及应对

医疗人工智能研发机构在开展疾病辅助诊断、治疗、预测、管理等研发活动时,需结合不同的技术特点及研究规律进行充分的风险评估并有效应对风险,包括：健康数据驱动研究应该特别关注算法技术可靠性、高质量数据以及信息保护等方面的风险;评价医学人工智能干预措施的临床试验应该关注治疗安全性以及责任归属等方面的风险;评价医学人工智能效果与对社会影响的研究应该关注评价指标、方法与结果的可靠性等。只有研发各方在早期识别出可能会对个体、机构、社会等产生的风险,并做好相应的风险防控,才能促进人工智能技术在医学领域的健康发展。

     

交互与共享：人工智能医疗决策的伦理向度

人工智能在医疗健康领域的应用打破传统医−患决策格局,使其演变成医−机−患或机−患之间的多维医疗决策模式。人−机交互在医疗决策上存在三种可能性,分别为人工智能辅助医疗决策、人−机混合智能医疗决策以及人工智能替代医疗决策。然而,技术蕴含负面性,三种交互模式潜在着伦理风险。人工智能替代人类决策违背道德要求,混合智能才是未来发展趋势。因此,以混合智能为基础提出人−机共享医疗决策的伦理框架,通过构建信任、公正和责任的伦理基础,谋求实现以人为本的价值目标,用于增进人类福祉。

     

医疗领域中人工智能应用的可解释性困境与治理

人工智能在医疗领域的应用,推动了医疗事业的发展,但人工智能作为新生事物,其可解释性成为医疗领域面临的重大挑战,导致人工智能难以有效在医疗领域广泛应用。阐述了增强人工智能在医疗领域可解释性的原因,浅析人工智能在医疗领域中的可解释性困境,指出提高医疗领域人工智能可解释性的要求,以避免出现医疗事故定责不清、医疗数据隐私泄露、诊疗决策与患者信任相悖、患者医疗公平上的困境等诸多问题。为提高医疗领域中人工智能的可解释性,提出了健全医疗事故法律问责机制、培养医疗数据伦理观、加强医疗监督治理、防止医疗人工智能歧视等路径,以便推动人工智能在医疗领域的深入发展。

     

人工智能医疗的三个逻辑

人们对人工智能医疗的发展普遍持乐观态度,仅有少数研究从数据相关的角度对其负面效应表示了谨慎的担心。研究回顾了支撑人工智能医疗发展的技术和市场逻辑指出,是冷战竞赛和经济衰退等历史偶然性导致了人工智能医疗对以错误率为代表的“客观”结果和市场规模、收购金额以及医院成本收益等“主观”价值的片面关注。但以“黑箱化”的方式忽略社会逻辑,尤其是对医疗体制尚不成熟的中国而言,不可避免地会引发专业人才缺口进一步加剧、优质医疗资源进一步集中,以及缺医少药的部分人群始终被排除在新技术的美好蓝图之外等一系列的严重后果。     

人工智能情感的伦理风险及其应对

人工智能情感技术迅猛发展,不断提升着机器模拟人类情感识别、表达与应答功能的能力。在便利生产生活的同时,人工智能情感加剧了情感生活的数据化、工具化、机械化,冲击着情感的私密性、真实性、体验感、意义感,衍生出情感隐私泄露、情感欺骗盛行、情感控制加剧和情感能力退化等伦理风险。这些伦理风险的背后是资本逻辑的驱动、情感算法自身的局限性、伦理观念的相对滞后与工具理性的泛滥。应对人工智能情感的伦理风险,从根本上说就是要合理规制资本、推动科技向善。具体而言,应实行敏捷治理、健全伦理法规、深化人文反思。     

医学人工智能应用若干问题的哲学思考

人工智能在医学领域应用已触及众多方向,从医学影像、病理诊断、精神卫生,到康复医疗、居家健康支持等都有所进展,也引发了广泛的哲学及伦理思考。在医学哲学视角下,探讨人工智能机器道德主体地位争议、机器使用所产生的多重关系的界定,以及人工智能技术价值判断及信任考量、数据获得性及隐私保护现状。进一步指出在充满不确定性的应用场景下,人工智能可能引起的不公平、歧视与风险责任,呼吁建立与技术深度融合的人工智能伦理审查和协同治理机制。     

人工智能医疗器械的伦理审查要点

人工智能医疗器械分为具备辅助识别的二类和辅助诊断的三类医疗器械,我国三类人工智能医疗器械刚进入注册申报阶段。很多人工智能医疗器械以科研方式进入医疗机构,为受试者免费试用以获取临床试验数据,这给伦理审查带来极大挑战。伦理委员会审查三类人工智能医疗器械的核心问题包括风险评估、数据库、数据安全及软件更新。除关注医疗器械产品与试验操作外,更要从适用范围、研究要求与资料、研究方案、风险控制、数据库、数据安全和软件更新等方面仔细把关,不断总结经验,切实保护受试者权益,也助推我国人工智能医疗器械的健康快速发展。     

基于开放医疗大数据的人工智能研究

医疗人工智能（artificial intelligence, AI）的发展离不开大数据的汇聚与标注,同时也引发了医疗大数据及其标注标准如何统一的问题。从AI发展对医疗大数据需求出发,指出建立医疗大数据统一标准的重要性与必要性,分析当前医疗AI技术的开发过程缺乏数据统一标准和临床共识,提出“以开放换取共识”的医疗大数据平台方案——素问系统,实现“算法工程师开发技术—临床医生编辑知识—伦理专家监控伦理”的一体化AI生产流程。最后,以素问系统中第一个开源项目——医学知识图谱,作为大数据抽取标准知识的案例,解析了如何以开放换取共识,让AI技术专家与临床专家共同打造可落地的医疗AI技术。

     

人工智能在医学教育领域的应用研究——基于CiteSpace的文献共词分析

人工智能及大数据已经成为包括医学教育在内的各研究领域的热点问题。为了阐明人工智能在医学教育中的发展趋势,利用CiteSpace软件分析2013—2022年Web of Science核心合集文献270篇。从发文量、国家和地区、研究机构、作者、发表杂志、引文情况、关键词及发展趋势等方面进行综合分析得出研究结论：从2018年开始相关论文呈明显增长趋势,Mayo Clinic（梅奥诊所）成为全球发文量最多的研究机构;Friedman等形成了较为完整的研究团体;JAMA成为最高被引杂志;近年医学教育的人工智能应用研究热点问题主要集中在医学影像及虚拟手术等方面。

     

An Analysis of Fundamental Issues in the Research of Artificial Intelligence Ethical Risk Prevention

While receiving widespread attention, the fundamental issues in the research of artificial intelligence (AI) ethical risk prevention need to be probed and articulated. Although the relevant research is still at an initial stage with long-term tasks, it has a very important social significance. The strategic goals of AI ethical risk prevention research are clarifying ethical risks, taking flexible and effective measures, and providing ethical support for the development of AI technology. This paper argues that key tasks must be of the top priority, such as broadening the theoretical foundation, evaluating ethical risks, realizing ethical design and solving core ethical risks. Therefore, the research of AI ethical risk prevention can be substantially promoted.     

医疗人工智能对知情同意的挑战与应对

目前在辅助诊断、辅助治疗方面,人工智能技术取得了较大进展,但是医疗人工智能对知情同意带来了诸多新问题：弱人工智能的黑箱属性不突出,患者对医疗人工智能决策过程的知情可以用对临床试验结果等的知情以及其他严格管理措施去间接地实现;强人工智能需要提高可解释性或以其他方式应对黑箱问题。因额外风险的存在,在使用医疗人工智能时,医方应增加患者知情同意的内容,并利用人工智能应对知情同意的形式主义问题。医方还应在必要时特别说明诊疗主体与责任主体。医疗人工智能处理患者个人信息时亦需严守知情同意原则。

     

人工智能医学教育应用研究的国际图景与趋势

运用文献计量学方法,基于近10年来Web of Science（WoS）数据库中的人工智能医学教育应用研究相关文献,开展关联、聚类、突变等可视化分析,探究国际人工智能医学教育应用研究现状、研究热点和发展趋势,发现机器人辅助手术培训、智能评价反馈系统和智能虚拟仿真系统是国际人工智能医学教育的研究热点,其研究演进遵循从标准化到个性化、从实体空间到虚实融合、从关注独立思考到人机协同决策这一脉络,以期为我国人工智能医学教育研究工作者提供参考和情报支持。