使用智能手机收集的呼吸音,经过深度学习模型训练,用于检测和分类COVID-19,最近变得流行起来。它消除了对现场检测程序的需要,特别是对相关医疗用品、有经验的工人和设备有限的农村地区。然而,现有的基于声音的诊断方法是在完全监督的方式下进行训练的,这需要大量标记良好的数据。重要的是发现新的方法来利用无标记的呼吸数据,这可以更容易地获得。在本文中,我们提出了一种新的自监督学习框架,用于COVID-19咳嗽分类。引入对比预训练阶段,以训练无标记数据的基于Transformer的特征编码器。具体来说,我们设计了一个随机掩蔽机制来学习呼吸音的鲁棒表示。然后在下游阶段对预训练的特征编码器进行微调,以执行咳嗽分类。此外,在下游阶段还研究了不同随机掩蔽率下的集成。通过广泛的评估,我们证明了所提出的对比训练前、随机掩蔽机制和集成架构有助于提高咳嗽分类性能。
https://www.zhuanzhi.ai/paper/04b3668a6f463e3342c18d32b55b0f33