人工智能（AI）技术在医疗领域的应用越来越深入，然而，AI模型的“黑盒”特性导致其只给结果，不说理由。医疗专家无法理解AI模型决策逻辑，这可能带来误诊风险、失控隐患等问题，也让医疗AI难以通过严格监管，更难获得临床信任。如何让医疗专家和AI“无障碍对话”，是全球医疗AI推广的核心痛点。
5月18日，深圳理工大学计算机科学与人工智能学院院长潘毅、讲席教授唐金陵团队，中国科学院深圳先进技术研究院研究员蔡云鹏团队，珠海中科先进技术研究院前沿科学计算中心执行主任王涵博士，深圳理工大学-中国科学院深圳先进技术研究院联培博士后谢锐涛等团队，在国际顶级期刊Nature Biomedical Engineering上发表重要研究成果，提出了一种称为“类关联流形学习”的数学方法，成功将黑盒AI模型决策规律转化为低维空间可视化流形，并且以生成式方法生成使得模型输出改变的一系列特征变化样本，从而让医生直观理解模型行为，一举弥合医疗AI的“可解释鸿沟”，有助于发现AI背后隐藏的医学知识规律。
同时，这项研究还被期刊特邀撰写每期仅1篇的研究简报（Research Briefings）进行推介。Nature Biomedical Engineering主编Rita Strack评价该研究：“提出了一种聪明的方法，以使用者能理解的方式探究黑盒模型内部工作机制。”
论文上线截图
论文对应研究简报截图
主编评论截图
独创流形学习方法
把黑盒AI“拆明白”
研究团队创造性地提出了一种“可重组的流形分解”思路，把海量数据与复杂AI决策，分解为两个流形子空间：
①低维类关联子流形装着AI做决策的全部关键特征，决定AI的所有判断；
②高维子流形记录与诊断无关的个性化特征。
两个空间的数据能自由重组，产生一系列按特定趋势连续变化的逼真、可控的对比样本，直观展示AI决策变化与样本特征变化的关联规律。简单说，就是把AI的“大脑思路”压缩成一张清晰、低维的“地图”，医生一看就懂。
类关联流形学习算法基本框架
精度更高、维度更低
获专家盲测压倒性认可
研究团队在眼科眼底影像和OCT造影、X光胸透影像、脑肿瘤MRI影像、心电图、基因表达谱等在内的多种生物医学数据集上对该方法进行了充分评测，证明其效果远超传统方法，能够把深度学习模型决策压缩到仅8维，维度只有传统方法的1/3-1/10；精度损失仅1%-3%，误差是传统方法的1/10；局部特征解释的准确率也明显超越传统方法，所提取规律与现有医学知识高度吻合。
此外，多名医疗专家的盲测结果一致表明，新方法产生的解释图压倒性地更为专家所认可，它不仅能帮医生看懂AI，还能发现疾病亚型、病灶规律、关联机制，甚至揪出AI的“短路学习”漏洞，为临床辅助诊断和医学科学发现提供了更有力的计算工具，让AI辅助诊断更安全、更靠谱。
类关联流形学习算法通过流形投影和连续生成变化样本的联动，实现AI提取临床规律的可视化展示，并实现已知医学概念规律的对齐。
临床与监管双受益
医学AI有望迈入“透明时代”
近年来，欧盟、美国FDA、中国卫健委等监管机构纷纷出台了关于人工智能可解释性的推荐性甚至强制性指导意见。这项成果对于提升医疗AI器械的安全性和合规性，提升AI辅助诊疗的质量和认可度、提高AI辅助医学科学发现的效率，具有非常重要的应用价值。从“黑盒不可知”到“透明可解释”，医疗AI终于跨过关键一步，未来看病更智能、更放心。
深圳理工大学计算机科学与人工智能学院院长潘毅、讲席教授唐金陵，以及中国科学院深圳先进技术研究院研究员蔡云鹏为论文共同通讯作者。深圳理工大学-中国科学院深圳先进技术研究院联培博士后谢锐涛为论文第一作者。珠海中科先进技术研究院前沿科学计算中心执行主任王涵博士等共同参与了研究。中山大学眼科中心多名医疗专家为方法评测提供了重要支持。该项研究得到了中国科学院战略性先导科技专项、深圳市高层次人才团队项目、深圳市智能生物信息学重点实验室、国家自然科学基金项目的资助。
论文地址：https://www.nature.com/articles/s41551-026-01676-w?sessionid=
