Healthcare artificial intelligence systems routinely fail when deployed across institutions, with documented performance drops and perpetuation of discriminatory patterns embedded in historical data. This brittleness stems, in part, from learning statistical associations rather than causal mechanisms. Causal graph neural networks address this triple crisis of distribution shift, discrimination, and inscrutability by combining graph-based representations of biomedical data with causal inference principles to learn invariant mechanisms rather than spurious correlations. This Review examines methodological foundations spanning structural causal models, disentangled causal representation learning, and techniques for interventional prediction and counterfactual reasoning on graphs. We analyse applications demonstrating clinical value across psychiatric diagnosis through brain network analysis, cancer subtyping via multi-omics causal integration, continuous physiological monitoring with mechanistic interpretation, and drug recommendation correcting prescription bias. These advances establish foundations for patient-specific Causal Digital Twins, enabling in silico clinical experimentation, with integration of large language models for hypothesis generation and causal graph neural networks for mechanistic validation. Substantial barriers remain, including computational requirements precluding real-time deployment, validation challenges demanding multi-modal evidence triangulation beyond cross-validation, and risks of causal-washing where methods employ causal terminology without rigorous evidentiary support. We propose tiered frameworks distinguishing causally-inspired architectures from causally-validated discoveries and identify critical research priorities making causal rather than purely associational claims.


翻译:医疗健康人工智能系统在跨机构部署时经常失效,表现为性能下降以及历史数据中嵌入的歧视性模式被延续。这种脆弱性部分源于学习统计关联而非因果机制。因果图神经网络通过将生物医学数据的图表示与因果推断原理相结合,学习不变机制而非虚假关联,从而应对分布偏移、歧视性和不可解释性的三重危机。本综述探讨了方法学基础,涵盖结构因果模型、解耦因果表示学习,以及图上的干预预测与反事实推理技术。我们分析了展示临床价值的应用,包括通过脑网络分析进行精神疾病诊断、基于多组学因果整合的癌症亚型分型、具有机制解释的连续生理监测,以及纠正处方偏见的药物推荐。这些进展为患者特异性因果数字孪生奠定了基础,支持在计算机模拟中进行临床实验,并整合大型语言模型进行假设生成,以及因果图神经网络进行机制验证。仍存在重大障碍,包括计算需求阻碍实时部署、验证挑战要求超越交叉验证的多模态证据三角验证,以及因果洗白风险——即方法使用因果术语但缺乏严谨证据支持。我们提出了分层框架,区分受因果启发的架构与经过因果验证的发现,并确定了关键研究重点,以提出因果性而非纯关联性的主张。

0
下载
关闭预览

相关内容

论文浅尝 | GEOM-GCN: Geometric Graph Convolutional Networks
开放知识图谱
14+阅读 · 2020年4月8日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
0+阅读 · 12月18日
VIP会员
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员