我们提出了一个严格的方法,使用一组任意相关的弱监督源,以解决多类分类任务时,只有一个非常小的标记数据集可用。我们的学习算法可证明收敛于一个模型,该模型对于一组未标记数据的可行标记的对抗性选择具有最小的经验风险,其中标记的可行性是通过对弱监督源的严格估计统计量定义的约束来计算的。我们为这种依赖于弱监督来源提供的信息的方法提供了理论保障。值得注意的是,该方法不要求弱监督源具有与多类分类任务相同的标注空间。我们通过实验证明了我们的方法在各种图像分类任务中的有效性。