医疗人工智能的“图灵测试”：路在何方

通过对医疗人工智能发展应关注的医学人文相关伦理问题进行总结,探索并思考医疗人工智能长远发展应关注的伦理要求,包括对医师专业精神的要求、精准服务患者的个性需求、医疗人工智能服务公平可及以及医患之间的情感互动等问题,并对以类人智能为终极目标的人工智能技术在医疗应用提出深层的哲学问题,即如何对医学人工智能技术在医学人文伦理方面进行测试。进而提出医疗人工智能的"图灵测试"之问,以期在交叉领域及时就医疗人工智能发展的伦理框架进行深度哲学探讨,从而产生有针对性的可执行的测试方法和标准,促进医疗人工智能的健康长远发展。     

从AlphaGo到ChatGPT：人工智能的伦理边界何在？

审视目前如火如荼的AI研发及其应用能否获得应该的伦理边界以保证将对人类的威胁降到可控范围,可从对AlphaGo的讨论入手,呈现其前世Chinook和Deep Blue与今生ChatGPT：对AlphaGo前世的追溯,发现人的生成性发展是以算术方式展开,AI技术的生成性进化是以几何学方式展开;对AlphaGo今生的展现,揭示人的无限潜能的开发是绝对有限,AI技术自身潜力开发敞开无限可能性。总言之,贯通AlphaGo的前世和今生,AI技术从最初的模拟到迁移再到扩展而生成自建构、自创设工作原理和运行机制,获得人的特质并具备人的主体性能力。在这种状况下,设计人工智能机的伦理边界已不可能,确立人工智能应用和再研发的伦理边界虽有可能性,但也面临研发和应用的公开化和透明化何以可能的实际困难;但更为困难的方面,却是技术专家或研究者、企业以及一些国家的政府能否真正克制本能的贪婪,并达成共识去解构利益、权力、垄断、争霸等理念,避免人工智能的发展走向野蛮的暴虐。     

“学界热”与“行业冷”：医学伦理学落地医疗实践之思

医学伦理学是医学人文教育的基础阵地,中国过去40年医学伦理学科建设有成绩也有不足。当前医学伦理学落地医疗实践成为问题的焦点。从伦理学界的热点问题出发,描述热中有冷、冷热交加的伦理现象：应用伦理热、科研伦理热、医学伦理热,分析现象背后的原因可能是伦理观念与意识不足,理论与实践脱节及实践深度与广度不够。以此为基点寻生根之径,知的层面要自上而下多层保障;行的层面要理论联系实践,要深化内化转化;最终达到知行合一,入脑入心入行,加速医学伦理学落地生根。

     

医疗人工智能临床应用的伦理审视

算法偏见与隐私泄露危机、意识难题与道德主体困惑、数字鸿沟与资源供给失衡加剧了医疗人工智能应用的技术伦理、信念伦理和分配伦理危机。由于伦理设计滞后,人工智能在临床应用的过程中表现出研究伦理与服务伦理的二阶性、自由意志与公共利益的矛盾性、智能技术与临床经验的集成性等特征。面对人工智能应用的伦理困境,需从人本性的视角规避智能技术异化,保护患者隐私;从主体性的视角克服道德主体困惑,缓解意识难题;从公众性的视角弥合资源数据裂沟,促进分配正义,通过强化正向伦理规约缓解人工智能临床应用的伦理危机。

     

人工智能发展中的“智能透明”问题

在人工智能发展的伦理规制中,透明原则是其他伦理原则的前提性基础。在专用人工智能发展阶段,透明原则规制的合理性勿庸置疑。但当人工智能向通用化发展,对于自主进化的智能算法,透明原则就不仅不再合理,而且会逐渐进入一个实践困境。作为通用人工智能研究的内在要求,通用机器智能发展的透明原则隐含着某种内在的悖理性：智能的通用化意味着自主进化,而智能的自主进化则意味着走向不透明。当然,这一内在悖理性并不意味着人工智能通用化发展的“死结”,而是解释和诠释内在关联的人工智能发展呈现。它意味着人工智能伦理维度的更高层次,意味着智能算法发展过程中算法伦理诠释学理解的必要性。人工智能发展中的“智能透明”问题集中体现了这一点,其理解进路和解决之道就在于,随着智能算法自主性的发展不断纵深引入诠释机制,构成更高层次的双向循环理解过程。     

从“拟人归因”到“联盟建立”：人与聊天机器人关系对参与度的影响

随着人工智能(Artificial Intelligence, AI)技术的迅猛发展, AI聊天机器人可模拟人类指导以改善在线自助干预(Internet-based Self-help Interventions, ISIs)中用户的参与度及疗效。然而,学界对聊天机器人作用机制的探索尚处初期阶段。因此,为加深对这一问题的理性认识,文章基于人机关系的视角提出了适应ISIs情境的理论模型：聊天机器人可与用户经历拟人归因、功利性价值判断、发展依恋关系、建立数字治疗联盟(DigitalTherapeuticAlliance,DTA)这4个阶段来逐步发展人与聊天机器人关系(Human-ChatbotRelationships,HCRs),并通过HCRs提高用户参与度。未来研究可继续丰富HCRs的相关理论并检验其内在机制,基于HCRs理论来设计聊天机器人,深入考察影响HCRs的额外变量,统一参与度的操作定义并开发适合的参与度测量工具。     

婚检“检”破处女膜映射出的医学伦理问题

近年来婚检或妇检过程中“检”破未婚女性处女膜的现象屡屡发生,给未婚女性的身心带来巨大伤害,既侵犯了未婚女性的合法权益,又严重地损害了医学伦理声誉。医师在检查未婚妇女的生殖器官时除了要遵循普通的疾病诊断特别是体格检查过程中的伦理要求和妇科检查道德规范外,在婚检过程中还应当特别强调遵循自愿检查(知情同意)原则、尊重原则、不伤害(安全性)原则,履行谨慎检查、保护隐私等医学伦理义务,切实遵守婚前体格检查的技术规范,确保被检妇女的权益不受侵害。     

伦理文明观：“非常伦理”的“最后觉悟”

当今世界,“文明的冲突”根本上是文明观的冲突。百年未有之大变局、新冠疫情和重大自然灾害、高新技术的发展和人口老龄化,宣示人类世界从诸文化实体的关系、人类与宇宙自然的关系以及人类与自身的关系全景式地进入“非常时代”,遭遇“非常风险”,期待“非常伦理”。“非常伦理”有“非常伦理智慧”“非常伦理形态”“非常伦理觉悟”三个层次。人类社会发展史和个体生命发育史表明,伦理是人类文明的原色和理想,但在现代性文明中已然迷失。面对“非常时代”关乎“种族的绵亘”的“非常”挑战,亟待推进“非常伦理觉悟”,进行文明观的伦理革命,其要义是使人类和人类文明学会“为伦理思考所支配”,实现伦理文明观的回归与重建。伦理文明观是文明内部诸要素关系的价值生态的文明观,也是人与自然关系、国家与国家关系以及诸文化实体关系的“人类命运共同体”的文明观。伦理文明观的“非常伦理觉悟”,具有“最后觉悟”的文明史意义。     

“医学伦理学再启程”亟待破解的医学伦理课题

面临新境遇的医学伦理学,亟待破解的医学伦理课题有：医疗资本和医疗利益集团追求利润最大化的行为对公立医疗机构公益性造成持续性损害;医学高新技术僭越伦理底线,无限制地对身体进行技术干预;医学技术权力与医学高新技术、医疗资本结盟形成挑战医学伦理的异化力量;确立利益伦理是医学伦理学研究的重要内容;确认患者利益置于首位是现代医学伦理学的首要原则;促进美德伦理与规范伦理结合,推进制度伦理建设与机构伦理建设是医学伦理学落地生根的关键环节。

     

医学职业潜规则的颠覆与“伦理生态”的营造——论医学职业精神重构的第一要务

我国的医学职业精神重构是一项庞大的系统工程,目前的第一要务是营造良好的医学伦理生态,而要达到上述近远期目标,则必须从颠覆医学职业潜规则起步。颠覆是破,营造是立,二者相辅相成,而且都需要从认识的困惑与误区中走出来,都需要政府、卫生行政管理部门及其官员、医院院长和一线医务人员的同心协力。其中,政府、卫生行政管理部门及其官员合乎医学职业精神的积极作为是最为关键的首要环节。     

ChatGPT介入医学教育的伦理风险及应对策略

作为人工智能时代的新兴产物,ChatGPT在医学教育领域产生了极为重要的影响。ChatGPT的介入能以强大的算力、海量的数据和智能的模式,为医学教育工作提供多样化的帮助与服务,赋能医学教育的革新。ChatGPT在助力医学教育的同时亦产生了一系列伦理问题：致使师生信息面临着多重风险、导致师生交往的可能性异化、致使师生遭到算法的严重裹胁以及造成医学学术公平失信与不端。面对ChatGPT介入医学教育的伦理风险,应从科学技术、政府部门、教学单位和师生个体等层面进行协同治理、积极应对,推动ChatGPT在医学教育领域发挥正值效能。

     

ChatGPT在医疗领域中的应用、伦理风险与治理研究

以ChatGPT为代表的人工智能技术将为传统医疗领域带来一系列变革,主要体现在病症早期诊断、提供医疗解释、改变传统就医模式、担任“医生助理”、推动医学教育升级等方面。同时,ChatGPT在医疗领域也面临主体性责任缺失、患者是否信任、技术异化等诸多问题和伦理风险。目前,以ChatGPT为代表的人工智能技术并不能取代临床医生在诊疗过程中做出的“以病人为中心”,基于医学事实、道德、价值等多维度的综合判断。对ChatGPT为代表的人工智能技术在医疗中的应用风险的治理需要从技术可靠性、技术可信性、人文关怀等多方面进行研究。

     

人工智能在医学教育领域的应用研究——基于CiteSpace的文献共词分析

人工智能及大数据已经成为包括医学教育在内的各研究领域的热点问题。为了阐明人工智能在医学教育中的发展趋势,利用CiteSpace软件分析2013—2022年Web of Science核心合集文献270篇。从发文量、国家和地区、研究机构、作者、发表杂志、引文情况、关键词及发展趋势等方面进行综合分析得出研究结论：从2018年开始相关论文呈明显增长趋势,Mayo Clinic（梅奥诊所）成为全球发文量最多的研究机构;Friedman等形成了较为完整的研究团体;JAMA成为最高被引杂志;近年医学教育的人工智能应用研究热点问题主要集中在医学影像及虚拟手术等方面。

     

医疗人工智能算法风险防范的法治化思考

医疗人工智能算法应用过程中存在诊疗活动自主性受限、诊疗过程透明性匮乏、医疗算法偏见性诱导以及安全性缺失风险。在风险防治过程中出现了传统监管缺陷、主体资格界定模糊、算法权力控制失衡、责任主体追溯难等现实挑战,迫切需要运用法律手段予以纾解。因此,应构筑医疗算法风险的全面防治体系,坚持医疗算法权力驯化的向善向美属性,增强医疗算 法权力对抗中主体权利的质效,厘清医疗算法责任归属中归责原则的困惑进而为医疗人工智能算法风险的防治补足法治力量。

     

交互与共享：人工智能医疗决策的伦理向度

人工智能在医疗健康领域的应用打破传统医−患决策格局,使其演变成医−机−患或机−患之间的多维医疗决策模式。人−机交互在医疗决策上存在三种可能性,分别为人工智能辅助医疗决策、人−机混合智能医疗决策以及人工智能替代医疗决策。然而,技术蕴含负面性,三种交互模式潜在着伦理风险。人工智能替代人类决策违背道德要求,混合智能才是未来发展趋势。因此,以混合智能为基础提出人−机共享医疗决策的伦理框架,通过构建信任、公正和责任的伦理基础,谋求实现以人为本的价值目标,用于增进人类福祉。

     

医疗机器人的伦理风险与治理探析——基于“医−患−机”分析框架

基于“医−患−机”分析框架,医疗机器人的不断发展面临主体资质复杂、责任认定困难等责任伦理风险,医患关系重构、医患信任危机等医患伦理风险,数据质量与数据隐私等数据伦理风险,算法安全与算法偏见等算法伦理风险以及医疗资源分配正义风险。医疗机器人的伦理治理要以医学伦理和机器人伦理准则为依据,建立多元伦理治理体制,推动学术共同体的构建,探索自愿型、调节型与管制型等伦理治理工具的组合运用,加快医疗机器人伦理治理的法治化发展。

     

An Analysis of Fundamental Issues in the Research of Artificial Intelligence Ethical Risk Prevention

While receiving widespread attention, the fundamental issues in the research of artificial intelligence (AI) ethical risk prevention need to be probed and articulated. Although the relevant research is still at an initial stage with long-term tasks, it has a very important social significance. The strategic goals of AI ethical risk prevention research are clarifying ethical risks, taking flexible and effective measures, and providing ethical support for the development of AI technology. This paper argues that key tasks must be of the top priority, such as broadening the theoretical foundation, evaluating ethical risks, realizing ethical design and solving core ethical risks. Therefore, the research of AI ethical risk prevention can be substantially promoted.     

Medical diagnostic reasoning: Epistemological modeling as a strategy for design of computer-based consultation programs

The complexity of cognitive emulation of human diagnostic reasoning is the major challenge in the implementation of computer-based programs for diagnostic advice in medicine. We here present an epistemological model of diagnosis with the ultimate goal of defining a high-level language for cognitive and computational primitives. The diagnostic task proceeds through three different phases: hypotheses generation, hypotheses testing and hypotheses closure. Hypotheses generation has the inferential form of abduction (from findings to hypotheses) constrained under the criterion of plausibility. Hypotheses testing is achieved by a deductive inference (from generated hypotheses to expected findings), followed by an eliminative induction, constrained under the criterion of covering, which matches expected findings against patient's findings to select the best explanation. Hypotheses closure is a deductive-inductive type of inference very similar to the inferences operating in hypotheses testing. In this case induction matches the consequences of the generated hypotheses against the patient's characteristics or preferences under the criterion of utility. By using the language exploited in this epistemological model, it is possible to describe the cognitive tasks underlying the most influential knowledge-based diagnostic systems.     

大学生心理行为问题的识别:基于潜在剖面分析

为探索潜在剖面分析(latent profile analysis, LPA)在心理行为问题识别上的应用, 对12718名大学生进行心理普查, 并对644名学生由心理咨询师、辅导员和兼职班主任对其心理状况进行评定, 采用评定结果和阳性症状检出率作为"黄金标准"分析了诊断的敏感度与特异度。结果发现:(1)潜在剖面分析发现本研究大学生样本的心理行为问题可划分为三个亚群体:风险组、困扰组和健康组, 分别占比9.86%、19.15%和70.99%;(2)风险组表现为突出的精神症状(Z≥2.6SD), 有61.21%的被试出现阳性症状, 远高于困扰组的38.28%和健康组的8.36%;此外, 困扰组以认知与情绪症状为主;(3)潜在剖面分析方法比传统划界分数方法在敏感度上能提高8.93%~35.26%, 更为科学有效。