今日 Paper | 疾病状态预测；网络剪枝技术；代价体滤波；为新闻报道制作标题等

会员服务 ·

今日 Paper | 疾病状态预测；网络剪枝技术；代价体滤波；为新闻报道制作标题等

2020 年 2 月 26 日 AI科技评论

利用图注意力网络在单细胞数据集上预测疾病状态

论文名称：Disease State Prediction From Single-Cell Data Using Graph Attention Networks

作者：Neal G. Ravindra /Arijit Sehanobish /Jenna L. Pappalardo /David A. Hafler /David van Dijk

发表时间：2020/02/14

论文链接：https://arxiv.org/abs/2002.07128

推荐原因

核心问题: 本文解决的是在单细胞RNA序列数据集上进行多发硬化症(MS)预测的问题。此前，单细胞RNA序列从来未用来疾病的预测和诊断。同时，多发硬化症(MS)的诊断也十分困难。创新点: 图注意网络(GAT)可以很好的提取原始特征信息以及图结构信息，本文就使用的是图注意力网络(GAT)，主要深度提取到了对于疾病预测很重要的特征(如细胞类型和基因特征)，并把这些特征加入到了现有多发硬化症的知识体系。同时，还利用此模型进行了细胞新特征空间的推断，而这些特征重点体现了不同疾病状态之间的区别。最后，作者还利用注意力权重学习到了一种新的低维嵌入表示，提取出了重要基因特征，并可视化了学习出的的图表示。研究意义: 该模型结果超过了图卷积网络，随机森林和多层感知机这几种传统机器学习方法，是第一个将深度学习方法在单细胞数据集上预测疾病的模型。

无语预训练的网络剪枝技术

论文名称：Pruning from Scratch

作者：Yulong Wang /Xiaolu Zhang /Lingxi Xie /Jun Zhou

发表时间：2019/9/27

论文链接：https://arxiv.org/pdf/1909.12579.pdf

推荐原因

核心问题：深度学习之所以有效，一个很大的原因就是它的拟合能力很强，虽然这是它的优势，但是也会带来一些问题，一个主要的问题就是模型过大往往需要大量的数据，而且训练速度慢，所以减少模型大小和运行延时也成为逐渐关注的需求，这对于部署于边缘移动端设备有实际应用价值。

创新点：该论文证实了一个有效的剪枝结构无需从预训练权重得到，预训练权重得到的剪枝结构往往是同质缺乏多样性的，这很有可能限制了更好性能结构的探索。他们发现直接从随机初始化权重即可以剪枝得到更多样且最终性能更好的剪枝结构。

研究意义：这不仅极大的加速了模型剪枝流程，减少费时繁重的训练过程，同时也为模型剪枝领域提供了一个强有力的基准结果。在CIFAR10上压缩分类模型的实验，方法不仅大大减少了传统剪枝方法的预训练负担，而且在相同的计算预算下，达到了相似甚至更高的精度。

用于深度立体匹配的自适应单峰匹配代价体滤波

论文名称：Adaptive Unimodal Cost Volume Filtering for Deep Stereo Matching

作者：Zhang Youmin /Chen Yimin /Bai Xiao /Yu Suihanjin /Yu Kun /Li Zhiwei /Yang Kuiyuan

发表时间：2019/9/9

论文链接：https://arxiv.org/abs/1909.03751

推荐原因

论文提出给匹配代价体（cost volume）添加自适应单峰分布的真值信息来监督，从而提升立体视差估计的准确率。本文的创新点比较新颖，关注的是以往被忽略的匹配代价体的监督问题，从理论上得出匹配代价体的分布是单峰分布。作者所提出的CENet和stereo focal loss也直观而有效。行文写作简洁明了，值得学习。立体匹配方法最大的难点是缺少泛化性能，本文对匹配代价体的概率分布施加约束，能够作为辅助的监督信息，适用于多种基于匹配代价体的立体匹配方法。

基于运动自适应反馈单元的视频人脸超分辨率

论文名称：Video Face Super-Resolution with Motion-Adaptive Feedback Cell

作者：Xin Jingwei /Wang Nannan /Li Jie /Gao Xinbo /Li Zhifeng

发表时间：2020/2/15

论文链接：https://arxiv.org/abs/2002.06378

推荐原因

这篇论文考虑的是视频超分辨率的问题。

目前的CNN方法通常将这个问题视为大量单独的多帧超分辨率任务，即一批低分辨率帧用于生成单个高分辨率帧。然而由于帧与帧之间的复杂时间依赖性，随着低分辨率输入帧数量增加，重构的高分辨率帧性能会变差。这篇论文提出了一种运动自适应反馈单元（Motion-Adaptive Feedback Cell，MAFC），可以有效捕获运动补偿并将其以自适应方式反馈到网络。这种方法有效利用了帧间运动的信息，可以避免网络对运动估计和补偿方法的依赖。此外，得益于运动自适应反馈单元的出色特性，在极端复杂的运动场景下，新提出的方法可以实现更好的性能。