[CVPR 2021] 序列到序列对比学习的文本识别

无监督的对比学习方法在图像分类、目标检测和图像分割[1,2,3,4]中都取得不错的成果。但是无监督和半监督的方法在文本识别中还有待进一步探索。

对于已有的无监督方法SimCLR[1]，它将整张图像作为对比学习中的输入元素，这种整图、非序列化的无监督方法从后文的实验中证明对文本识别的效果很差。所以本文提出了一个序列化的无监督方法SeqCLR，它从整张图片中映射出一定数量的实例来作为对比学习中的输入元素。