SFFAI 38 报名通知 | 网络结构搜索-单目标跟踪

会员服务 ·

SFFAI 38 报名通知 | 网络结构搜索-单目标跟踪

2019 年 7 月 2 日 人工智能前沿讲习班

关注文章公众号

回复"SFFAI38论文"获取本主题精选论文

SFFAI报名通知

论坛主题

网络结构搜索-单目标跟踪

召集人

蒋正锴，自动化研究所模式识别国家重点实验室研究生二年级在读。

论坛讲者

方杰民，华中科技大学电子信息与通信学院媒体与通信实验室研究生在读，地平线算法实习生，主要研究方向为网络结构搜索、模型结构优化。

题目：Recent advances and highlights of NAS

摘要：近年来网络结构搜索（NAS）在自动化设计神经网络结构方面获得了较大的成功，也成为模型结构优化领域不可忽视的重要研究课题。NAS不仅减轻了人们设计、调优模型结构的重重负担，而且相较于人工设计的网络结构，NAS搜索出的模型性能有了进一步提升。最近NAS取得了巨大的进展，搜索代价从最初的万级GPU hours降低到和普通训练模型同等水平，NAS的算法更能在优化精度的同时提高模型速度，NAS的应用也从分类向分割、检测等领域进一步扩展。本次报告将介绍、讨论最近NAS的一些进展和闪光点，并分享我们在NAS领域所做的相关工作。

Spotlight：

NAS算法的发展与创新；
NAS的加速方法；
搜索空间的探索和进展。

张志鹏，中科院自动化所模式识别国家重点实验室，研二，导师胡卫明。暂与微软亚洲研究院合作(包括CVPR19论文)。研究方向为单目标跟踪。

题目：Deeper and Wider Siamese Network for Real-Time Object Tracking (CVPR2019 Oral)

摘要：目标跟踪是计算机视觉的基本任务之一，近年来随着大量跟踪数据库如OTB,VOT,LASOT，GOT10K的提出，以及VOT比赛的推广，单目标跟踪领域迅速发展。而这其中siamese跟踪算法由于其在速度和精度之间很好的平衡而逐渐成为单目标跟踪研究中最火的方向。然而在今年之前，siamese跟踪算法仍然是只是基于浅层的AlexNet，深层网络不但没有帮助反而会使效果下降。在CVPR19中，我们通过对网络结构属性的分析，提出网络padding, 感受野, 特征输出大小，stride是影响加深网络的关键。进而我们提出了适用于跟踪siamese网络的crop-in-residual模块，通过堆积模块加深网络，使深层siamese网络在跟踪上效果有了显著提高。Ps：MSRA组里招实习生，有意向请联系houwen.peng@microsoft.com (不限于跟踪很多方向)。

论文地址：https://arxiv.org/abs/1901.01660

论文代码：https://github.com/researchmm/SiamDW

Spotlight：

提出CIR模块结果siamese网络不能加深的问题；
用大量实验分析网络属性对siamese跟踪的影响；
提出设计siamese跟踪网络的guideline。

论文推荐

近年来Siamese网络在单目标跟踪中发展迅速，在近两年的VOT比赛和顶会中Siamese大放异彩。讲者张志鹏将分享经典的siamese跟踪论以及近期的进展。

NAS在自动化模型优化方向取得了很大的成功，近年来NAS领域的新工作层出不穷，短时间内取得了巨大的进展。讲者将分享NAS的发展历程，和最近NAS在缩减搜索代价上的突破，以及NAS中关于搜索空间的研究和进展。

一

推荐理由：该工作在NAS领域有极大的推进作用，由CMU和DeepMind发表于ICLR2019。DARTS与之前的各类NAS算法不同在于，基于RL或EA的搜索算法对网络结构的处理均在离散空间中进行，这使得整个搜索、优化过程的计算代价巨大。DARTS首次提出将搜索空间映射为连续可微的表示，整个搜索过程直接通过梯度下降和反向传播来进行结构的优化。DARTS在保持结构性能的条件下极大减少了搜索代价，后续一系列优秀的gradient-based NAS工作也均基于DARTS的思路。

—— 方杰民

二

推荐理由：该工作由Google产出，被收录于CVPR2019. 该方法的两大创新点被后续NAS工作广泛采纳，在NAS领域也具有重要作用。第一，Mnas提出直接在搜索过程中优化目标硬件上网络结构的latency，通过多目标优化的方法基于RL取得了优秀的结果。第二，Mnas提出基于MobileNet的级联block的搜索空间，摒弃了之前基于Cell拓扑结构复杂的搜索空间，Mnas的搜索空间在latency上更为友好，并在精度上也有很大的优势，该搜索空间被后来工作广泛应用。

—— 方杰民

三

推荐理由：该工作由MIT Song Han实验室产出，被收录于ICLR2019. 本工作还是以减少搜索代价为出发点，对NAS算法进行改进。虽然Differentiable NAS的方法可以极大缩短搜索时间，但是由于其搜索空间由一个连续可微超大网络的表示，传统的Differentiable NAS方法需要占用较多的GPU显存。ProxylessNAS的方法在于优化super network的参数每次只通过一条或部分路径，从而极大减少了显存占用。该工作还针对硬件优化结构，获得了非常优秀的结果。

—— 方杰民

四

推荐理由：Auto-DeepLab获得了CVPR2019 oral。该工作基于gradient-based NAS方法在分割任务上取得了优秀的结果。该工作创新性的提出了一个针对分割任务的网络层次的搜索空间，Auto-DeepLab的搜索空间主要包含分割网络backbone部分可能的结构，其包含了更多空间分辨率操作的可能性。在backbone中Auto-DeepLab会搜索出一条更适合分割任务的上/下采样的路径，路径上每个节点基于之前工作广泛使用的cell结构。该方法搜索时间较短，性能卓越。

—— 方杰民

五

推荐理由: 在某种意义上SiamFC是SOT里继KCF后的又一个里程碑，发表在ECCVW2016。Siamese tracking的开山之作SINT将目标跟踪定义为一个匹配问题。将所有的proposal对应的特征提取之后与目标特征一一比对，得到最相似的即为最终目标。但是这种方法速度很慢。为了提高速度，SiamFC将特征提取比对的过程抽象成一个卷积层，以模板对应的特征作为卷积核在搜索区域对应的特征上进行滑窗卷积，多快好省的完成了匹配过程。近期流行的Siamese目标跟踪方法本质上都是在其上面做的改进。

—— 张志鹏

六

推荐理由: 商汤在CVPR2018的SiamRPN是对SiamFC的一个重要改进。SiamFC存在的一个本质问题是无法进行尺度估计，而跟踪中随着时间的变化目标大小形状一直在变化。为了解决这个问题，SiamRPN在SiamFC的基础上增加了一个用于回归目标大小的head，可以将其看成是一个onestage的特定目标检测。速度快，精度高。

—— 张志鹏

七

推荐理由: 2018年ECCV中MSRA的一篇工作。自SiamFC在2016年出来之后，一直到2018年前没有很亮眼的改进。SA-SIAM是继SiamRPN后一篇很有意思的改进。SA-SIAM的思想很简单（就像所有的siamese工作那样），利用双流网络去学习输入图像不同的特征，然后将不同的特征cross-correlation之后的相应图进行fusion得到最后结果。为了保持两支网络的差异化，分别将其在Imagenet和tracking的数据集上进行训练。SA-SIAM的后续改进在VOT-2018 real-time challenge取得了第三名。

—— 张志鹏

八

推荐理由: SA-SIAM团队在2019年CVPR的一篇新工作。其核心思想是将onestage的SiamRPN转成twostage。利用第二个stage refine的结果来进一步提高准确率。值得一提的是在训练时SPM将location的难度分解到两个stage上面。在第一个stage训练时将同类物体都当成正样本，在第二个stage再从这些检测到的同类物体进行精分。降低了传统训练SiamRPN时候直接将target从同时从同类物体和背景中分离的难度。

—— 张志鹏

报名须知

时间

2019年7月7日（周日）

14:00 -- 17:00

地点

中国科学院自动化研究所智能化大厦三层一会议室

报名方式

点击下方原文链接 或扫描二维码报名

活动名额/注意事项

1、为确保小范围深入交流，本次活动名额有限（不收取任何费用）；

2、活动采取审核制报名，我们将根据用户研究方向与当期主题的契合度进行筛选，通过审核的用户将收到确认邮件；

3、如您无法按时到场参与活动，请于活动开始前 24 小时在AIDL微信公众号后台留言告知，留言格式为放弃报名 + 报名电话。无故缺席者，将不再享有后续活动的报名资格。

4、审核制绿色通道，添加小助手微信（下方二维码），可优先通过审核，并拉您进入本次活动交流群。

小助手微信号

SFFAI招募召集人！

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了SFFAI这个公益活动。SFFAI每周举行一期线下活动，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。

SFFAI自2018年9月16日举办第一期线下交流，每周一期，风雨无阻，截至目前已举办37期线下交流活动，共有72位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了SFFAI的活动。SFFAI已经成为人工智能学生交流的第一品牌，有一群志同道合的研究生Core-Member伙伴，有一批乐于分享的SPEAKER伙伴，还有许多认可活动价值、多次报名参加现场交流的观众。

我们邀请你一起来组织SFFAI主题论坛，加入SFFAI召集人团队。每个召集人负责1-2期SFFAI主题论坛的组织筹划，我们有一个SFFAI-CORE团队来支持你。一个人付出力所能及，创造一个一己之力不可及的自由丰盛。你带着你的思想，带着你的个性，来组织你感兴趣的SFFAI主题论坛。

当召集人有什么好处？

谁可以当召集人？

怎样才能成为召集人？

为什么要当召集人？

了解我们，加入我们，请点击下方海报！