终于!DAVIS2017视频目标分割冠军代码开源了

2018 年 8 月 3 日 极市平台

极市平台和图普科技联名推出的AI谜题挑战《The Second Chance》,点击识别文末二维码进入解开AI难度谜题,赢取GPU和极市资源大奖,还有机会获得图普技术offer~小伙伴们快来挑战一下哦~~

为方便大家交流AI谜题相关话题,极市建立了“AI谜题挑战交流群”,有兴趣的小伙伴可添加小助手(cv-mart)申请进群~

来源:我爱计算机视觉


传统视频分割经常依赖于时序连续来生成mask(目标的掩膜),而真实的视频中的目标位置往往存在着一些跳变,比如在目标快速漂移和被遮挡的时候因为较大的位移而使得这种假设目标运动连续的算法失败。为了克服这个问题,来自香港中文大学、哈尔滨工业大学和商汤科技公司的研究团队提出了一种更有效的机制,即通过自适应的目标重识别(object re-identification)应对目标丢失。


基于此的目标重识别视频分割(VS-ReID)模型包括目标mask生成模块和ReID模块。mask生成模块通过光流卷曲(flow warping)生成初始的(目标-背景)引导概率图,ReID模块则在视频序列中通过自适应匹配检索丢失的目标实例。这两个模块迭代应用,有效解决了视频分割中突然的目标位移过大带来的丢失,VS-ReID模型在2017 DAVIS视频分割比赛中获得了冠军。


问题描述:给定视频序列和第一帧的标注,输出所有实例后续的mask



困难点:实例分割中小目标和精细的结构与尺度和姿态的变化,跟踪中频繁的遮挡:



应对策略:Mask 生成模块与目标重识别模块



VS-ReID算法总览:



Mask生成模块示图:



通过前后帧的光流再前一帧mask的卷曲,生成引导概率图:




目标重识别模块:




从重识别模块给定的包围盒恢复目标mask:




例子:在第21帧和80帧恢复了两个之前被遮挡的目标:



DAVIS 2017比赛测试集上取得了最好的精度:



一些分割示例:



算法来自论文《Video Object Segmentation with Re-identification》

https://arxiv.org/abs/1708.00197


代码:

https://github.com/lxx1991/VS-ReID

https://liuziwei7.github.io/projects/VSReID.html





*推荐阅读*

语义分割+视频分割开源代码集合

一文概览主要语义分割网络:FCN,SegNet,U-Net...


获取更多技术干货资讯,业内大牛学术交流、后续官方谜题直播分享,点击左下角“阅读原文”立刻申请加入“极市&图普AI谜题交流群”群~

ps.已填写过极市开发者调研表的同学请加小助手微信(cv-mart),直接邀请进群~


扫描下方二维码,立解谜题↓↓↓


登录查看更多
19

相关内容

【CVPR 2020-商汤】8比特数值也能训练卷积神经网络模型
专知会员服务
25+阅读 · 2020年5月7日
专知会员服务
109+阅读 · 2020年3月12日
专知会员服务
41+阅读 · 2020年2月20日
深度强化学习策略梯度教程,53页ppt
专知会员服务
179+阅读 · 2020年2月1日
近期必读的9篇 CVPR 2019【视觉目标跟踪】相关论文和代码
一网打尽!100+深度学习模型TensorFlow与Pytorch代码实现集合
深度学习视频中多目标跟踪:论文综述
专知会员服务
93+阅读 · 2019年10月13日
CenterNet:目标即点(代码已开源)
极市平台
25+阅读 · 2019年5月24日
重磅!商汤开源目标跟踪最强算法SiamRPN系列
AI前线
13+阅读 · 2019年5月24日
语义分割+视频分割开源代码集合
极市平台
35+阅读 · 2018年3月5日
一文带你入门视频目标分割(附数据集)
THU数据派
19+阅读 · 2017年10月10日
入门 | 一文概览视频目标分割
机器之心
10+阅读 · 2017年10月6日
目标跟踪的一篇论文及代码视频
CreateAMind
8+阅读 · 2017年9月7日
Arxiv
6+阅读 · 2018年6月21日
Arxiv
6+阅读 · 2018年3月29日
Arxiv
3+阅读 · 2018年3月22日
Arxiv
7+阅读 · 2018年1月24日
Arxiv
6+阅读 · 2018年1月14日
VIP会员
相关资讯
CenterNet:目标即点(代码已开源)
极市平台
25+阅读 · 2019年5月24日
重磅!商汤开源目标跟踪最强算法SiamRPN系列
AI前线
13+阅读 · 2019年5月24日
语义分割+视频分割开源代码集合
极市平台
35+阅读 · 2018年3月5日
一文带你入门视频目标分割(附数据集)
THU数据派
19+阅读 · 2017年10月10日
入门 | 一文概览视频目标分割
机器之心
10+阅读 · 2017年10月6日
目标跟踪的一篇论文及代码视频
CreateAMind
8+阅读 · 2017年9月7日
相关论文
Top
微信扫码咨询专知VIP会员