Medical data often exhibits long-tail distributions with heavy class imbalance, which naturally leads to difficulty in classifying the minority classes (i.e., boundary regions or rare objects). Recent work has significantly improved semi-supervised medical image segmentation in long-tailed scenarios by equipping them with unsupervised contrastive criteria. However, it remains unclear how well they will perform in the labeled portion of data where class distribution is also highly imbalanced. In this work, we present ACTION++, an improved contrastive learning framework with adaptive anatomical contrast for semi-supervised medical segmentation. Specifically, we propose an adaptive supervised contrastive loss, where we first compute the optimal locations of class centers uniformly distributed on the embedding space (i.e., off-line), and then perform online contrastive matching training by encouraging different class features to adaptively match these distinct and uniformly distributed class centers. Moreover, we argue that blindly adopting a constant temperature $\tau$ in the contrastive loss on long-tailed medical data is not optimal, and propose to use a dynamic $\tau$ via a simple cosine schedule to yield better separation between majority and minority classes. Empirically, we evaluate ACTION++ on ACDC and LA benchmarks and show that it achieves state-of-the-art across two semi-supervised settings. Theoretically, we analyze the performance of adaptive anatomical contrast and confirm its superiority in label efficiency.


翻译:医学数据往往呈现出长尾分布的情况,这导致边界区域或罕见对象的分类困难。最近的研究通过提供无监督对比准则,显著改进了长尾场景下的半监督医学图像分割。然而,它们在标记的数据部分上的表现仍不清楚,类分布也高度不平衡。在本文中,我们提出了 ACTION++,一种改进的、具有适应性解剖对比的对比学习框架,用于半监督医学分割。具体而言,我们提出用自适应监督对比损失,在嵌入空间上首先计算类中心的最佳位置,并通过鼓励不同类特征适应性地匹配这些不同且均匀分布的类中心来进行在线对比匹配训练。此外,我们认为在长尾医学数据中盲目采用恒定温度 $\tau$ 的对比损失不是最优的,而建议使用动态 $\tau$ 通过简单的余弦调度来产生更好的多数类和少数类之间的分离。从实验上,我们在 ACDC 和 LA 基准测试上评估了 ACTION++ 并展示了其在两种半监督设置下的最先进性能,从理论上分析了自适应解剖对比的性能,并确认了其在标签效率方面的优越性。

1
下载
关闭预览

相关内容

专知会员服务
13+阅读 · 2021年10月13日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2023年5月19日
Arxiv
10+阅读 · 2021年2月26日
W-net: Bridged U-net for 2D Medical Image Segmentation
Arxiv
19+阅读 · 2018年7月12日
VIP会员
相关VIP内容
专知会员服务
13+阅读 · 2021年10月13日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员