人工智能情感的伦理风险及其应对

人工智能情感技术迅猛发展,不断提升着机器模拟人类情感识别、表达与应答功能的能力。在便利生产生活的同时,人工智能情感加剧了情感生活的数据化、工具化、机械化,冲击着情感的私密性、真实性、体验感、意义感,衍生出情感隐私泄露、情感欺骗盛行、情感控制加剧和情感能力退化等伦理风险。这些伦理风险的背后是资本逻辑的驱动、情感算法自身的局限性、伦理观念的相对滞后与工具理性的泛滥。应对人工智能情感的伦理风险,从根本上说就是要合理规制资本、推动科技向善。具体而言,应实行敏捷治理、健全伦理法规、深化人文反思。     

人工智能伦理风险的镜像、透视及其规避

人工智能的迅速发展给人们生产生活带来了极大便利,同时也引起了一定的伦理风险问题,诸如技术伦理风险、社会伦理风险和人类生存伦理风险等。这些伦理风险的背后是主体规范缺失和角色失准、情境变化中矛盾展现、人类关于实践意义认知差异和原则淡化、伦理形态的嬗变与重构等因素。规避人工智能所带来的伦理风险,须坚持维护人类共同利益的最高伦理规范,在全面深化基本原则遵循的基础上,推进伦理制度建设和新型人机关系建构,不断提升人类应对科技迅猛发展带来的伦理风险的能力和水平。     

医疗人工智能临床应用的伦理审视

算法偏见与隐私泄露危机、意识难题与道德主体困惑、数字鸿沟与资源供给失衡加剧了医疗人工智能应用的技术伦理、信念伦理和分配伦理危机。由于伦理设计滞后,人工智能在临床应用的过程中表现出研究伦理与服务伦理的二阶性、自由意志与公共利益的矛盾性、智能技术与临床经验的集成性等特征。面对人工智能应用的伦理困境,需从人本性的视角规避智能技术异化,保护患者隐私;从主体性的视角克服道德主体困惑,缓解意识难题;从公众性的视角弥合资源数据裂沟,促进分配正义,通过强化正向伦理规约缓解人工智能临床应用的伦理危机。

     

负责任创新中医疗人工智能应用技术的伦理审视

负责任创新是目前探讨人工智能技术在医疗领域应用的重要理论,也是引导医疗人工智能应用技术向善发展的理想图景,其基本结构主要包括预测、反思、协商、反应四个维度。当前,医疗人工智能应用技术受技术“黑箱特质”的影响,暴露了其在安全、隐私、道德、分配等方面的伦理风险,桎梏了其应用于医疗事业的广阔前景。面对医疗人工智能应用技术的伦理困境,从其技术研发、设计、应用、跟踪等全过程分析嵌入负责任创新四维度模型,能够有效缓解医疗人工智能应用技术在实践中存在的伦理风险,从而真正实现其为人类健康的精准赋能。

     

医疗人工智能产品研发的伦理审查与法律考量

国内医疗人工智能研究日益增多,具有多学科合作,并以数据驱动的特点。走访深圳开展健康领域人工智能研发的企业、医疗机构以及研究机构的开发者,了解到存在监管不足、数据收集及处理过程欠缺标准化、责任不清等挑战。并且,面临应该如何遵循医学科研伦理审查原则,如何合法合规收集、利用、共享数据并界定责任等问题。从医院进行伦理审查实践层面探讨医疗人工智能的研究价值、科学有效性、风险受益等的审查要点;医疗人工智能研究的法律考量主要包括个人信息收集和利用的边界,以及侵权责任主体的认定。     

医疗人工智能算法风险防范的法治化思考

医疗人工智能算法应用过程中存在诊疗活动自主性受限、诊疗过程透明性匮乏、医疗算法偏见性诱导以及安全性缺失风险。在风险防治过程中出现了传统监管缺陷、主体资格界定模糊、算法权力控制失衡、责任主体追溯难等现实挑战,迫切需要运用法律手段予以纾解。因此,应构筑医疗算法风险的全面防治体系,坚持医疗算法权力驯化的向善向美属性,增强医疗算 法权力对抗中主体权利的质效,厘清医疗算法责任归属中归责原则的困惑进而为医疗人工智能算法风险的防治补足法治力量。

     

科技伦理中的原则主义

原则主义是20世纪70年代产生于生命医学伦理学研究和实践领域的重要方法,近几年来随着人工智能的兴起,原则主义被不同行动主体在多层次、多领域广泛应用。然而,新兴技术引发道德难题的情境化、多元化、大众化等特征,使得原则主义在方法论意义上面临着诸如融贯性、伦理洗地、人类中心主义等多重困境。实际上,原则主义是当前科技伦理治理的有效工具,能够发挥构建科研文化的认知作用,在实践上也有利于科技伦理的多元主体参与、全球科技治理、伦理风险评估和敏捷治理,并能够为新兴技术的政策制定和立法提供价值基础。而当代原则主义的构建应遵循人与技术物相互融合、协同演化的基本理念,并非传统意义上的人类中心主义。     

论人工智能伦理建构何以可能

主体性是进行独立价值判断以及伦理探讨的前提,也决定着人工智能及其伦理探讨的阀域。没有主体意识的人工智能仍属于技术工具范畴,其伦理的探讨仍囿于种际伦理视域;拥有主体意识的人工智能可以进行独立的价值判断,才能生成自身的道德规范。人工智能伦理的哲学思考以人工智能的主体性设定为基础,集中探讨人工智能伦理的理论前提、人工智能伦理的边界,以及建构人工智能伦理的可能性等问题。     

交互与共享：人工智能医疗决策的伦理向度

人工智能在医疗健康领域的应用打破传统医−患决策格局,使其演变成医−机−患或机−患之间的多维医疗决策模式。人−机交互在医疗决策上存在三种可能性,分别为人工智能辅助医疗决策、人−机混合智能医疗决策以及人工智能替代医疗决策。然而,技术蕴含负面性,三种交互模式潜在着伦理风险。人工智能替代人类决策违背道德要求,混合智能才是未来发展趋势。因此,以混合智能为基础提出人−机共享医疗决策的伦理框架,通过构建信任、公正和责任的伦理基础,谋求实现以人为本的价值目标,用于增进人类福祉。

     

核电风险的社会可接受性及其决策伦理探析

核电风险源于核技术潜在的风险和不确定性。核技术风险因其认知主体的知识状态、认知模式、认知策略等导致核技术风险具有主观建构性,我们通过对公众和核技术专家等不同认知主体的认知范式进行分析,不同认知主体具有不同的经验,因而存在不同的基本假设、概念体系、观察视角和研究方式。在对核技术风险感知的分析基础上,对核技术风险决策伦理规约进行探讨和分析,从而为核技术风险决策提供理论基础和实践借鉴,在规避核电风险的基础上合理利用核资源。     

人工智能医疗器械的伦理审查要点

人工智能医疗器械分为具备辅助识别的二类和辅助诊断的三类医疗器械,我国三类人工智能医疗器械刚进入注册申报阶段。很多人工智能医疗器械以科研方式进入医疗机构,为受试者免费试用以获取临床试验数据,这给伦理审查带来极大挑战。伦理委员会审查三类人工智能医疗器械的核心问题包括风险评估、数据库、数据安全及软件更新。除关注医疗器械产品与试验操作外,更要从适用范围、研究要求与资料、研究方案、风险控制、数据库、数据安全和软件更新等方面仔细把关,不断总结经验,切实保护受试者权益,也助推我国人工智能医疗器械的健康快速发展。     

An Analysis of Fundamental Issues in the Research of Artificial Intelligence Ethical Risk Prevention

While receiving widespread attention, the fundamental issues in the research of artificial intelligence (AI) ethical risk prevention need to be probed and articulated. Although the relevant research is still at an initial stage with long-term tasks, it has a very important social significance. The strategic goals of AI ethical risk prevention research are clarifying ethical risks, taking flexible and effective measures, and providing ethical support for the development of AI technology. This paper argues that key tasks must be of the top priority, such as broadening the theoretical foundation, evaluating ethical risks, realizing ethical design and solving core ethical risks. Therefore, the research of AI ethical risk prevention can be substantially promoted.     

国际人工智能伦理治理研究态势分析与展望

借助文献计量学方法,对人工智能伦理治理研究的宏观趋势进行分析发现：人工智能伦理治理近年来研究热度增长迅速,领域边界逐渐形成;阐明人工智能伦理与技术原理是实现相应伦理治理的理论前提;医疗健康与自动驾驶是当下人工智能伦理治理关注的热点领域;伦理学与治理理论的深度融合、伦理风险评级机制、伦理原则的实践具象化转进以及多元利益相关者协同的整合治理或将成为人工智能伦理治理未来关注的重要研究方向。

     

医学人工智能应用若干问题的哲学思考

人工智能在医学领域应用已触及众多方向,从医学影像、病理诊断、精神卫生,到康复医疗、居家健康支持等都有所进展,也引发了广泛的哲学及伦理思考。在医学哲学视角下,探讨人工智能机器道德主体地位争议、机器使用所产生的多重关系的界定,以及人工智能技术价值判断及信任考量、数据获得性及隐私保护现状。进一步指出在充满不确定性的应用场景下,人工智能可能引起的不公平、歧视与风险责任,呼吁建立与技术深度融合的人工智能伦理审查和协同治理机制。     

现代医学技术的异化及其哲学根源

现代医学技术是现代医学进步的载体,在人类的健康发展上起到重大作用。但是,现代医学技术高速发展的同时也带来了许多技术异化的问题,诸如医疗服务低效率、医患关系低信任、医学人文丧失等。系统研究了现代医学技术异化的本质特征,深入分析了现代医学技术主体化、资本化、权力化及机械化的现实表现,并从本体论、认识论及方法论层面上探析现代医学技术异化现象产生的哲学根源,从而能够从根本上找到现代医学技术异化现象的消解路径,对过度医疗的解决、医患关系的改善以及和谐有序的就医大环境的建立有重大的理论意义。     

ChatGPT介入医学教育的伦理风险及应对策略

作为人工智能时代的新兴产物,ChatGPT在医学教育领域产生了极为重要的影响。ChatGPT的介入能以强大的算力、海量的数据和智能的模式,为医学教育工作提供多样化的帮助与服务,赋能医学教育的革新。ChatGPT在助力医学教育的同时亦产生了一系列伦理问题：致使师生信息面临着多重风险、导致师生交往的可能性异化、致使师生遭到算法的严重裹胁以及造成医学学术公平失信与不端。面对ChatGPT介入医学教育的伦理风险,应从科学技术、政府部门、教学单位和师生个体等层面进行协同治理、积极应对,推动ChatGPT在医学教育领域发挥正值效能。