大数据、人工智能和造世伦理

大数据和人工智能的发展,使人类活动回归认识和实践一体化。从上帝之眼到上帝之手,人类的伦理地位根本改变。世界的自然进化不存在伦理问题,而世界的人为创构则使伦理问题日益具有整体性,从而将伦理研究提升到更高的整体层次。适应世界必须遵循的伦理是"适世伦理",创构世界所必须遵循的则是"造世伦理"。从"适世伦理"到"造世伦理",意味着个体伦理和集体伦理的和解;意味着类伦理的凸显。大数据具有重要造世伦理意蕴,一方面,大数据的规模整全性、结构开放性、实时流动性和价值生产性,提供了一个全新的伦理基础;另一方面,其统计性又使大数据应用具有巨大伦理风险。而人工智能则使人类面临伦理关系的革命性变革。造世伦理的基本问题是造世的在先预设伦理,它不仅关乎人类进化方向的选择,而且日益深入地涉及类如是否应当让超级智能做出在先预设等复杂伦理问题。造世伦理具有不同的性质和特点,其中最基本的,就是造世伦理的整体性、类特性和共同性。     

医疗人工智能研究的风险评估及应对

医疗人工智能研发机构在开展疾病辅助诊断、治疗、预测、管理等研发活动时,需结合不同的技术特点及研究规律进行充分的风险评估并有效应对风险,包括：健康数据驱动研究应该特别关注算法技术可靠性、高质量数据以及信息保护等方面的风险;评价医学人工智能干预措施的临床试验应该关注治疗安全性以及责任归属等方面的风险;评价医学人工智能效果与对社会影响的研究应该关注评价指标、方法与结果的可靠性等。只有研发各方在早期识别出可能会对个体、机构、社会等产生的风险,并做好相应的风险防控,才能促进人工智能技术在医学领域的健康发展。

     

卫生服务数字化转型政策的价值与工具——基于健康医疗大数据的政策分析

价值与工具是健康医疗大数据政策的核心要素,深刻影响着政策制定的科学性与政策执行的方向性。本研究构建了“健康医疗大数据价值链-政策工具”二维分析框架,通过政策文本分析探究了政策注意力分配与聚焦、政策工具影响策略与手段,以及价值链与政策工具的匹配性问题。本研究认为政策工具通过影响价值链过程达到政策价值目标;目前“强供给”的工具选择策略与基础建设阶段的价值链相匹配,为健康医疗大数据的价值转化创造了可能并奠定了基础;但是面向标准规范与高质量发展的趋势需要以制度建设为抓手、以人民需求为根本进行政策工具的选择与调整,进一步提升政策的精准性和有效性。     

交互与共享：人工智能医疗决策的伦理向度

人工智能在医疗健康领域的应用打破传统医−患决策格局,使其演变成医−机−患或机−患之间的多维医疗决策模式。人−机交互在医疗决策上存在三种可能性,分别为人工智能辅助医疗决策、人−机混合智能医疗决策以及人工智能替代医疗决策。然而,技术蕴含负面性,三种交互模式潜在着伦理风险。人工智能替代人类决策违背道德要求,混合智能才是未来发展趋势。因此,以混合智能为基础提出人−机共享医疗决策的伦理框架,通过构建信任、公正和责任的伦理基础,谋求实现以人为本的价值目标,用于增进人类福祉。

     

医疗人工智能科技异化及其伦理风险探析

医疗人工智能广泛应用于现代医疗形式。医疗科技的日新月异,大大推动了人类医学的发展进程及诊疗模式。与此同时,医疗人工智能科技的发展出现了异化现象,并由此带来了人和社会的异化,诸如对人与类人机器的角色定位不清,人对技术的依赖性过度增强,医疗全生命周期中的责任伦理缺失,技术价值失衡等社会问题。以这些异化带来的伦理风险为进度,探析在医疗人工智能使用中的隐私安全与数据使用的边界问题,人在医疗过程中的主体地位问题,“医生-人工智能-患者”的共同决策体系构建问题,构建医疗人工智能科技向善理念及法律问题。     

医疗领域中人工智能应用的可解释性困境与治理

人工智能在医疗领域的应用,推动了医疗事业的发展,但人工智能作为新生事物,其可解释性成为医疗领域面临的重大挑战,导致人工智能难以有效在医疗领域广泛应用。阐述了增强人工智能在医疗领域可解释性的原因,浅析人工智能在医疗领域中的可解释性困境,指出提高医疗领域人工智能可解释性的要求,以避免出现医疗事故定责不清、医疗数据隐私泄露、诊疗决策与患者信任相悖、患者医疗公平上的困境等诸多问题。为提高医疗领域中人工智能的可解释性,提出了健全医疗事故法律问责机制、培养医疗数据伦理观、加强医疗监督治理、防止医疗人工智能歧视等路径,以便推动人工智能在医疗领域的深入发展。

     

医疗人工智能算法风险防范的法治化思考

医疗人工智能算法应用过程中存在诊疗活动自主性受限、诊疗过程透明性匮乏、医疗算法偏见性诱导以及安全性缺失风险。在风险防治过程中出现了传统监管缺陷、主体资格界定模糊、算法权力控制失衡、责任主体追溯难等现实挑战,迫切需要运用法律手段予以纾解。因此,应构筑医疗算法风险的全面防治体系,坚持医疗算法权力驯化的向善向美属性,增强医疗算 法权力对抗中主体权利的质效,厘清医疗算法责任归属中归责原则的困惑进而为医疗人工智能算法风险的防治补足法治力量。

     

人工智能医疗的三个逻辑

人们对人工智能医疗的发展普遍持乐观态度,仅有少数研究从数据相关的角度对其负面效应表示了谨慎的担心。研究回顾了支撑人工智能医疗发展的技术和市场逻辑指出,是冷战竞赛和经济衰退等历史偶然性导致了人工智能医疗对以错误率为代表的“客观”结果和市场规模、收购金额以及医院成本收益等“主观”价值的片面关注。但以“黑箱化”的方式忽略社会逻辑,尤其是对医疗体制尚不成熟的中国而言,不可避免地会引发专业人才缺口进一步加剧、优质医疗资源进一步集中,以及缺医少药的部分人群始终被排除在新技术的美好蓝图之外等一系列的严重后果。     

推进开放政府数据:提升政府部门大数据能力

开放政府数据能够助力政府实现公共治理变革。近年来,我国各级政府均在进行开放政府数据工作,但目前存在开放数据量少、质量不高、再利用性低等问题,这些问题与缺乏政府部门大数据能力有关,因此,探索如何提升政府部门大数据能力极为必要。通过分析我国目前开放政府数据的现状与美国的案例,本文认为,可以通过探索首席信息官制度、加强数据脱敏等工作、推动法制建设等方式来加强政府部门大数据能力,从而将我国开放政府数据工作落于实处,充分发挥政府大数据的巨大价值。     

负责任创新中医疗人工智能应用技术的伦理审视

负责任创新是目前探讨人工智能技术在医疗领域应用的重要理论,也是引导医疗人工智能应用技术向善发展的理想图景,其基本结构主要包括预测、反思、协商、反应四个维度。当前,医疗人工智能应用技术受技术“黑箱特质”的影响,暴露了其在安全、隐私、道德、分配等方面的伦理风险,桎梏了其应用于医疗事业的广阔前景。面对医疗人工智能应用技术的伦理困境,从其技术研发、设计、应用、跟踪等全过程分析嵌入负责任创新四维度模型,能够有效缓解医疗人工智能应用技术在实践中存在的伦理风险,从而真正实现其为人类健康的精准赋能。

     

医疗人工智能产品研发的伦理审查与法律考量

国内医疗人工智能研究日益增多,具有多学科合作,并以数据驱动的特点。走访深圳开展健康领域人工智能研发的企业、医疗机构以及研究机构的开发者,了解到存在监管不足、数据收集及处理过程欠缺标准化、责任不清等挑战。并且,面临应该如何遵循医学科研伦理审查原则,如何合法合规收集、利用、共享数据并界定责任等问题。从医院进行伦理审查实践层面探讨医疗人工智能的研究价值、科学有效性、风险受益等的审查要点;医疗人工智能研究的法律考量主要包括个人信息收集和利用的边界,以及侵权责任主体的认定。     

人工智能在医学教育领域的应用研究——基于CiteSpace的文献共词分析

人工智能及大数据已经成为包括医学教育在内的各研究领域的热点问题。为了阐明人工智能在医学教育中的发展趋势,利用CiteSpace软件分析2013—2022年Web of Science核心合集文献270篇。从发文量、国家和地区、研究机构、作者、发表杂志、引文情况、关键词及发展趋势等方面进行综合分析得出研究结论：从2018年开始相关论文呈明显增长趋势,Mayo Clinic（梅奥诊所）成为全球发文量最多的研究机构;Friedman等形成了较为完整的研究团体;JAMA成为最高被引杂志;近年医学教育的人工智能应用研究热点问题主要集中在医学影像及虚拟手术等方面。

     

医疗人工智能对知情同意的挑战与应对

目前在辅助诊断、辅助治疗方面,人工智能技术取得了较大进展,但是医疗人工智能对知情同意带来了诸多新问题：弱人工智能的黑箱属性不突出,患者对医疗人工智能决策过程的知情可以用对临床试验结果等的知情以及其他严格管理措施去间接地实现;强人工智能需要提高可解释性或以其他方式应对黑箱问题。因额外风险的存在,在使用医疗人工智能时,医方应增加患者知情同意的内容,并利用人工智能应对知情同意的形式主义问题。医方还应在必要时特别说明诊疗主体与责任主体。医疗人工智能处理患者个人信息时亦需严守知情同意原则。

     

人工智能医疗器械的伦理审查要点

人工智能医疗器械分为具备辅助识别的二类和辅助诊断的三类医疗器械,我国三类人工智能医疗器械刚进入注册申报阶段。很多人工智能医疗器械以科研方式进入医疗机构,为受试者免费试用以获取临床试验数据,这给伦理审查带来极大挑战。伦理委员会审查三类人工智能医疗器械的核心问题包括风险评估、数据库、数据安全及软件更新。除关注医疗器械产品与试验操作外,更要从适用范围、研究要求与资料、研究方案、风险控制、数据库、数据安全和软件更新等方面仔细把关,不断总结经验,切实保护受试者权益,也助推我国人工智能医疗器械的健康快速发展。     

医学人工智能应用若干问题的哲学思考

人工智能在医学领域应用已触及众多方向,从医学影像、病理诊断、精神卫生,到康复医疗、居家健康支持等都有所进展,也引发了广泛的哲学及伦理思考。在医学哲学视角下,探讨人工智能机器道德主体地位争议、机器使用所产生的多重关系的界定,以及人工智能技术价值判断及信任考量、数据获得性及隐私保护现状。进一步指出在充满不确定性的应用场景下,人工智能可能引起的不公平、歧视与风险责任,呼吁建立与技术深度融合的人工智能伦理审查和协同治理机制。     

人工智能医学教育应用研究的国际图景与趋势

运用文献计量学方法,基于近10年来Web of Science（WoS）数据库中的人工智能医学教育应用研究相关文献,开展关联、聚类、突变等可视化分析,探究国际人工智能医学教育应用研究现状、研究热点和发展趋势,发现机器人辅助手术培训、智能评价反馈系统和智能虚拟仿真系统是国际人工智能医学教育的研究热点,其研究演进遵循从标准化到个性化、从实体空间到虚实融合、从关注独立思考到人机协同决策这一脉络,以期为我国人工智能医学教育研究工作者提供参考和情报支持。