Healthcare artificial intelligence systems routinely fail when deployed across institutions, with documented performance drops and perpetuation of discriminatory patterns embedded in historical data. This brittleness stems, in part, from learning statistical associations rather than causal mechanisms. Causal graph neural networks address this triple crisis of distribution shift, discrimination, and inscrutability by combining graph-based representations of biomedical data with causal inference principles to learn invariant mechanisms rather than spurious correlations. This Review examines methodological foundations spanning structural causal models, disentangled causal representation learning, and techniques for interventional prediction and counterfactual reasoning on graphs. We analyse applications demonstrating clinical value across psychiatric diagnosis through brain network analysis, cancer subtyping via multi-omics causal integration, continuous physiological monitoring with mechanistic interpretation, and drug recommendation correcting prescription bias. These advances establish foundations for patient-specific Causal Digital Twins, enabling in silico clinical experimentation, with integration of large language models for hypothesis generation and causal graph neural networks for mechanistic validation. Substantial barriers remain, including computational requirements precluding real-time deployment, validation challenges demanding multi-modal evidence triangulation beyond cross-validation, and risks of causal-washing where methods employ causal terminology without rigorous evidentiary support. We propose tiered frameworks distinguishing causally-inspired architectures from causally-validated discoveries and identify critical research priorities making causal rather than purely associational claims.


翻译:医疗健康人工智能系统在跨机构部署时经常失效,表现为性能下降及历史数据中歧视性模式的延续。这种脆弱性部分源于学习统计关联而非因果机制。因果图神经网络通过将生物医学数据的图表示与因果推断原理相结合,学习不变机制而非虚假关联,从而应对分布偏移、歧视性和不可解释性这三重危机。本文综述了涵盖结构因果模型、解耦因果表示学习、以及图上干预预测与反事实推理技术的方法学基础。我们分析了在以下应用中展现临床价值的研究:通过脑网络分析进行精神疾病诊断、基于多组学因果整合的癌症亚型分型、具有机制解释的连续生理监测,以及纠正处方偏见的药物推荐。这些进展为患者特异性因果数字孪生奠定了基础,支持在计算机模拟中进行临床实验,并整合大型语言模型进行假设生成,以及利用因果图神经网络进行机制验证。仍存在重大障碍,包括计算需求阻碍实时部署、验证挑战要求超越交叉验证的多模态证据三角验证,以及因果清洗风险——即方法使用因果术语但缺乏严谨证据支持。我们提出了分层框架,以区分受因果启发的架构与经过因果验证的发现,并确定了使研究主张基于因果而非纯粹关联的关键优先方向。

0
下载
关闭预览

相关内容

【IJCAJ 2020】多通道神经网络 Multi-Channel Graph Neural Networks
专知会员服务
26+阅读 · 2020年7月19日
论文浅尝 | GEOM-GCN: Geometric Graph Convolutional Networks
开放知识图谱
14+阅读 · 2020年4月8日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
0+阅读 · 12月18日
VIP会员
相关基金
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员