提高小样本学习对全新分类的识别能力
机器学习的“学习如何遗忘”
复杂城市背后简单的空间尺度规则
FD-GAN:具有融合鉴别器的生成对抗网络用于单幅图像去雾
GTNet:用于零样本目标检测的生成迁移网络
论文名称:Cross-Domain Few-Shot Classification via Learned Feature-Wise Transformation
作者:Hung-Yu Tseng /Hsin-Ying Lee /Jia-Bin Huang /Ming-Hsuan Yang
发表时间:2019/9/26
论文链接:https://openreview.net/forum?id=SJl5Np4tPr
推荐原因
这篇论文研究的是小样本学习,也就是如何在每个类别只有几个、甚至一个样本的情况下学习如何分类。现有的基于指标的小样本分类算法,都是通过一个学习到的指标函数,把要预测的样本的特征嵌入和给定的样本进行对比。虽然这些方法已经展示出了可喜的效果,但由于不同类别的特征分布有很大的差异,所以这样的方法并不能很好地分辨来自新的分类(与给定的样本不同的分类)的样本。
在这篇论文中,作者们在基于指标的方法基础上又加入了领域迁移的思路,他们用特征级别的变换层+仿形变换来增强图像特征,作用是在训练过程中模拟不同领域的不同特征分布。作者们还设计了一个“学习如何学习”的模块,为变换层学习超参数。作者们的大量实验表明他们的方法可以作用于各种各样的基于指标的方法,并带来稳定的表现提高。
论文名称:Machine Unlearning
作者:Bourtoule Lucas /Chandrasekaran Varun /Choquette-Choo Christopher /Jia Hengrui /Travers Adelin /Zhang Baiwu /Lie David /Papernot Nicolas
发表时间:2019/12/9
论文链接:https://arxiv.org/abs/1912.03817
推荐原因
假设你用一百万条数据训练了一个机器学习模型,然后数据提供方有一天突然告诉你,其中有几条数据是有问题的、或者现在不允许使用了,现在要把这几条数据对模型的影响取消掉。除了从头训练一个新模型,还有什么办法吗?这个问题就是机器学习的“反学习”,Machine Unlearning,“学习如何遗忘”。
在传统搜索中,想删除某条数据很容易;但在机器学习模型中,数据会被模型记住,存在被攻击者还原、获取的风险;即便采用一些保护方式,数据的影响也成为了模型参数的一部分,难以单独解耦,从而难以单独消除。所以想要删除数据,常见做法基本上只能是重新训练模型。
在这篇论文中,作者们提出了一种新的训练框架来解决这个问题。他们的方法可以减少受到删除数据影响的参数的数量,而且会对训练算法中间阶段的输出做一些缓存,以减少遗忘这些数据的过程中对整个模型的更新次数。依靠这样的设计,他们的方法减少了数据遗忘过程中的计算开销,即便在最差情况下也有效。如果用户能够提供先验,他们的方法还能获得更好的效果。作者们的这项研究能对机器学习模型实际应用中的数据治理起到帮助。
论文名称:Simple spatial scaling rules behind complex cities
作者:Ruiqi Li /LeiDong /JiangZhang /Xinran Wang /WenXu Wang /Zengru Di /H.Eugene Stanley
发表时间:2017/11/28
论文链接:https://www.nature.com/articles/s41467-017-01882-w
推荐原因
文章通过一个基于空间吸引和匹配生长机制的简单模型,提供一个普遍的超线性和亚线性总体尺度律的起源的一般性解释,并准确地预测千米级的社会经济活动。为从城市元素之间的相互作用的角度揭示城市的演变开辟了一条新的途径,有着广泛的应用
论文名称:FD-GAN: Generative Adversarial Networks with Fusion-discriminator for Single Image Dehazing
作者:Dong Yu /Liu Yihao /Zhang He /Chen Shifeng /Qiao Yu
发表时间:2020/1/20
论文链接:https://arxiv.org/abs/2001.06968v1
https://paper.yanxishe.com/review/9629
推荐原因
这篇论文被AAAI 2020接收,考虑的是图像去雾问题。
大部分现有的基于学习的图像去雾方法并非完全端到端的,而是遵循传统的去雾步骤:首先评估传输介质和大气光线,随后恢复基于大气散射模型的无雾图像。但是在实践中,由于缺乏先验信息和约束条件,很难精准估计出中间参数,而不精确的估计则削弱了去雾的效果,结果导致伪影、色彩失真和雾霾去除效果不足。为解决这些问题,这篇论文提出一个完全端到端的具有融合判别器的生成对抗网络(Generative Adversarial Networks with Fusion-discriminator,FD-GAN)进行图像去雾。FD-GAN将频率信息作为附加先验知识,以生成更自然、逼真的除雾图像。进一步,这篇论文合成大尺寸训练数据,包含不同的室内与户外雾化图,以促进模型表现。实验表明,FD-GAN在公共合成数据集和真实世界图像上均达到了当前最佳的性能。
论文名称:GTNet: Generative Transfer Network for Zero-Shot Object Detection
作者:Zhao Shizhen /Gao Changxin /Shao Yuanjie /Li Lerenhan /Yu Changqian /Ji Zhong /Sang Nong
发表时间:2020/1/19
论文链接:https://arxiv.org/abs/2001.06812v1
推荐原因
这篇论文提出了一种生成迁移网络(Generative Transfer Network,GTNet)来用于零样本目标检测。GTNet包含一个目标检测模块和一个知识迁移模块。前者可学习大量已知领域知识,而后者利用合成的特征来生成未知类型的特征,这些特征则被用于训练目标检测模块中新的分类层。为了使用类内方差和IoU方差为每个未知类合成特征,这篇论文设计了一个基于IoU的生成对抗网络IoUGAN作为特征合成器,包含三个单元模型:类特征生成单元,前景特征生成单元和背景特征生成单元。类特征生成单元利用以类语义嵌入为条件的类内方差信息生成位置特征,前景特征生成单元和背景特征生成单元将IoU方差加入到类特征生成单元的结果中,分别得到指定类前景与背景特征。在公共数据集上的评估表明这篇论文提出的GTNet优于当前最佳的零样本目标检测方法。
为了更好地服务广大 AI 青年,AI 研习社正式推出全新「论文」版块,希望以论文作为聚合 AI 学生青年的「兴趣点」,通过论文整理推荐、点评解读、代码复现。致力成为国内外前沿研究成果学习讨论和发表的聚集地,也让优秀科研得到更为广泛的传播和认可。
我们希望热爱学术的你,可以加入我们的论文作者团队。
加入论文作者团队你可以获得
1.署着你名字的文章,将你打造成最耀眼的学术明星
2.丰厚的稿酬
3.AI 名企内推、大会门票福利、独家周边纪念品等等等。
加入论文作者团队你需要:
1.将你喜欢的论文推荐给广大的研习社社友
2.撰写论文解读
如果你已经准备好加入 AI 研习社的论文兼职作者团队,可以添加运营小姐姐的微信,备注“论文兼职作者”