直播预告 | CCF YOCSEF南京：深度学习可解释性有何解决之道？

深度学习在实际应用场景中取得了巨大成功，但是无法给出决策过程的明确解释，也一直被诟病“黑箱模型”。现实场景如医疗、教育、政府决策中，人们不仅关注于执行任务的准确和效率，更希望理解其决策的原因和行动。可解释性人工智能（Explainable AI, XAI）旨在建立用户和模型之间的信任关系，提高模型的可解释性和透明性。

目前，国务院在《新一代人工智能规划》中提出了“实现具备高可解释性、强泛化能力的人工智能”目标，可解释性人工智能在学术界和工业界引起了广泛关注。9月26日13:30-17:30，CCF YOCSEF南京联合图图Seminar共同举办深度学习可解释性主题论坛：

本次技术研讨会将围绕可解释性深度学习技术展开探讨，促进国内同行在相关领域的交流和理解。将讨论如下议题：

• 如何严格定义模型可解释性？如何评价解释结果的可靠性？

• 深度学习的性能和可解释性如何平衡？

• 提升深度学习可解释性有哪些研究途径？最大的挑战是什么？

• 深度学习可解释未来的发展方向是什么？应用场景有哪些？

0 1

论坛组织

主办单位：

中国计算机学会（CCF）

承办单位：

南京理工大学计算机科学与工程学院

CCF YOCSEF南京学术委员会

支持单位：

中国图象图形学报

南京贤至再灵智能科技有限公司

南京汉德数字孪生技术研究院

0 2

参与方式

论坛时间：

2020年9月26日（星期六）13:30-17:30

线下地址：

南京市栖霞区纬地路9号南大科学园孵化基地

3号楼12层1201室

线上直播：

【B站】

222 529 12

【知网在线教学平台】

https://k.cnki.net/CInfo/Index/10294

0 3

论坛日程

0 4

引导嘉宾

报告人：俞扬

博士，南京大学教授。主要研究领域为机器学习、强化学习。获得4项国际论文奖励和2项国际算法竞赛冠军，入选2018年IEEE Intelligent Systems杂志评选的“国际人工智能10大新星”，获2018亚太数据挖掘"青年成就奖”，受邀在IJCAI’18作关于强化学习的"青年亮点"报告。 

报告题目：神经-符号系统的一些探索

报告摘要：人工智能从上世纪六十年代至今，前半程主要关注符号系统，其过程多符合人类高层认知，易于理解；后半程则主要关注学习系统，以神经网络为代表的模型往往难以解释。这两类系统天生不易兼容，难以协力。报告将汇报我们在神经网络与符号系统的转换和联通方面的一些探索。

报告人：张拳石

上海交通大学约翰霍普克罗夫特计算机科学中心长聘教轨副教授。他于2014年获得日本东京大学博士学位，于2014-2018年在加州大学洛杉矶分校（UCLA）从事博士后研究，主要研究方向包括机器学习和计算机视觉。其研究工作主要发表在计算机视觉、人工智能、机器学习等不同领域的顶级期刊和会议上（包括IEEE T-PAMI、ICML、ICLR、CVPR、ICCV、AAAI、KDD、ICRA等）。近年来，张拳石在神经网络可解释性方向取得了多项具有国际影响力的创新性成果。张拳石被“微软学术搜索”列为可解释性方向上国际排名第六的学者（关键词“interpretable”时间2017-2019）。张拳石承担了CCF-A类会议IJCAI 2020的可解释性方向的Tutorial，并先后担任了AAAI和CVPR大会可解释性方向的分论坛主席。 

报告题目：Deep Learning: Interpretability, Capacity, and Evaluation

报告摘要：深度神经网络（DNN）掀起了AI的研究热潮，但DNN本身被视为黑盒，其内部的知识表征不透明。在本次演讲中，嘉宾将介绍深度学习可解释性研究中的几大核心问题点，包括：1. DNN表征与图模型的深度耦合与解释；2.学习具有可解释的中层特征的神经网络；3. 在数学层面解释神经网络的表达能力；4. 对解释结果的量化评估。

报告人：潘世瑞

于悉尼科技大学获得博士学位，现任澳大利亚蒙纳士大学助理教授。发表高水平文章80余篇，包括TNNLS, TKDE, TCYB, KDD, WWW, CVPR, ICDE, AAAI, IJCAI 等。长期担任NeurIPS, ICLR, KDD, AAAI, IJCAI，TPAMI, TKDE 等程序委员会成员以及期刊审稿人。谷歌学术引用3000余次，H指数26。主要研究方向为数据挖掘及机器学习，侧重于图数据学习与分析。其图神经网络综述发表于2020年，引用高达700余次。 

报告题目：图结构学习

报告摘要：图神经网络已经被广泛用于图分类，聚类，链接预测等图分析任务中。学习图神经网络通常需要较为丰富的图结构先验知识，但很多场景下图结构信息不能直接获取。本次报告主要汇报我们最近图神经网络的一些研究进展。我们试图回答一个问题：如果图结构先验知识缺失，如何学习图神经网络？我们的答案是图结构学习。

报告人：刘威威

武汉大学计算机学院，教授、博导、担任院长助理。主要研究方向为人工智能、机器学习，包括多标签/多类学习、超高维特征选择、超高维最近邻分类、大规模聚类研究，相关论文被国际人工智能和机器学习旗舰性的学术会议和期刊收录，如JMLR，TPAMI，NeurIPS/NIPS，ICML等。入选美国电气与电子工程师协会IEEE Senior Member。曾获Pattern Recognition Journal杰出审稿人荣誉奖励。担任神经网络顶级期刊TNNLS主要客座编辑。担任人工智能顶级学术会议AAAI/IJCAI 2020的Senior Program Committee，以及机器学习顶级学术会议ICLR 2020、2021的Area Chair。 

报告题目：On the Optimality of Classifier Chain for Multi-label Classification

报告摘要：To capture the interdependencies between labels in multi-label classification problems, classifier chain (CC) tries to take the multiple labels of each instance into account under a deterministic high-order Markov Chain model. Since its performance is sensitive to the choice of label order, the key issue is how to determine the optimal label order for CC. In this work, we first generalize the CC model over a random label order. Then, we present a theoretical analysis of the generalization error for the proposed generalized model. Based on our results, we propose a dynamic programming based classifier chain (CC-DP) algorithm to search the globally optimal label order for CC and a greedy classifier chain (CC-Greedy) algorithm to find a locally optimal CC. Comprehensive experiments on a number of real-world multi-label data sets from various domains demonstrate that our proposed CC-DP algorithm outperforms state-of-the-art approaches and the CC-Greedy algorithm achieves comparable prediction performance with CC-DP.

0 5

特邀嘉宾

王崇骏

博士、教授、博导，任职于南京大学计算机科学与技术系及南京大学软件新技术国家重点实验室，兼任南京大学计算机应用研究所副所长、南京大学中德HPI研究院副院长。研究兴趣是自主智能与群体智能、复杂网络分析、大数据分析及智能系统等，近五年发表论文60余篇、出版专著2部。截至2019年底，主持和参与包括国家重点研发项目、973、发改委4G专项、教育部重点基金、工信部产业化基金、国家自然科学基金、国家社会科学基金、省自然科学基金、支撑计划、重点研发项目在内的国家及省部级基金与企事业资助项目50余项。在教育医疗类惠民行业、优政兴业类政府领域、互联网新经济领域有30余项科研成果获得产品化和商品化推广。

潘金山

南京理工大学计算机学院教授。主要从事图像去模糊、图像复原等相关底层视觉问题的研究。在CVPR/ICCV/ECCV等国际会议以及IEEE TPAMI、IJCV等重要国际期刊上发表论文40余篇。研究工作获得国家自然科学基金优秀青年科学基金资助。获得了中国人工智能学会优秀博士学位论文奖以及辽宁省优秀博士学位论文奖。

魏秀参

博士，南京理工大学计算机科学与工程学院教授，南京大学学生创业导师，澳大利亚阿德莱德大学访问学者，曾任旷视南京研究院创始院长。主要研究领域为计算机视觉和机器学习，在相关领域国际顶级期刊和会议发表论文三十余篇，Google Scholar Citations 1200余次，并获得iWildCam 2020、iNaturalist 2019等计算机视觉领域国际权威赛事共4项世界冠军。分别在国际重要会议PRICAI 2018和ICME 2019组织题为“Fine-Grained Image Analysis”的短课程。著有《解析深度学习–卷积神经网络原理与视觉实践》一书。曾获南京经开区中青年优秀人才、CVPR 2017最佳审稿人、南京大学博士生校长特别奖学金等荣誉，担任WebFG 2020 Workshop程序委员会主席，及ICCV、CVPR、ECCV、NeurIPS、IJCAI、AAAI等国际顶级会议程序委员会委员。

夏彬

博士，讲师，硕士生导师，江苏省人工智能学会数据挖掘与应用专委会委员，CCF YOCSEF南京AC学术秘书。毕业于南京理工大学，获工学博士学位。2014-2016年在Florida International University的School of Computing and Information Sciences访问，并担任研究助理。目前任职于南京邮电大学计算机学院、软件学院、网络空间安全学院，近年来在TSC、DMKD、ESWA、KBS、KAIS、TNB等多个知名SCI/EI期刊以及KDD、PAKDD、IJCNN、WISE、SEKE、ISKE、ICSOC、BigDataService、SciSec等多个重要国际会议上发表学术论文20余篇。现作为项目负责人主持包括国家自然科学基金青年项目、江苏省高校自然科学研究项目面上项目、南京邮电大学引进人才科研启动基金等多个科研项目，参与国家重点研发计划重大专项、国家自然科学基金面上项目、华为创新研究计划等课题多项，并曾担任WISE-2015 Committee Member、IEEE ICSC-2016、IEEE ICSC-2017国际会议PC Member，并承担TKDE、KAIS等多个知名期刊和国际会议的审稿人。

0 6

执行主席

沈肖波

博士，南京理工大学教授。现任CCF YOCSEF南京AC委员，江苏省人工智能学会模式识别专委会副秘书长，CCF人工智能与模式识别专委会通讯委员。主要研究兴趣为多视图学习、多标记学习、哈希技术、网络结构嵌入的理论与算法研究。在国际期刊或会议发表30篇左右论文，包括TNNLS、TIP、TCYB、AAAI、IJCAI、ACM MM等。目前担任多个国际期刊的审稿人和会议的程序委员会，包括TPAMI、TNNLS、TIP、TCYB、NIPS、ICML、CVPR、ICCV、AAAI、IJCAI等。担任TNNLS的客座编委，共同参与组织ACML 2018以及IJCAI 2019的“Multi-output Learning”的workshop。

唐斌

河海大学研究员。现任CCF YOCSEF南京AC委员。目前主要研究领域包括边缘计算、分布式计算、分布式机器学习等。近5年来，先后主持国家自然科学基金重点项目分课题/面上项目/青年基金项目各1项、江苏省自然科学基金优秀青年基金/青年基金各1项、国家电网科技计划项目2项。在包括IEEE/ACM TPDS、TNET、INFOCOM、ISIT、ICDCS等在内的国内外重要学术刊物及会议发表论文30余篇，其中一篇TPDS论文被遴选为Spotlight Paper。作为主要完成人获得江苏省科学技术奖一等奖两项、国家电网有限公司科学技术进步奖一等奖一项。

0 7

论坛直播群

扫描二维码进入论坛直播群

或添加学报小编微信

拉您进群

"图图Seminar" 直播回放

回放平台

知网平台：

http://k.cnki.net/Room/Home/Index/181822

B站：

https://space.bilibili.com/27032291

往期目录

汪荣贵——机器学习基本知识体系与入门方法

陈强——从Cell封面论文谈AI研究中的实验数据问题

石争浩——从先验到深度：低见度图像增强

行知论坛——南理工行知论坛&图图Seminar：智能画质增强专题

孙显——遥感图像智能分析：方法与应用

章国锋——视觉SLAM在AR应用上的关键性问题探讨

林宙辰——机器学习中优化算法前沿简介

白相志，冯朝路——“医学图像与人工智能”主题论坛

李雷达——以人为中心的图像感知评价：从质量到美学

汪荣贵——深度强化学习系列课程1-4讲

张明敏，郭诗辉——“人工智能与虚拟现实”主题论坛

高连如——高光谱遥感图像处理与信息提取

杨杨——“出身决定论”？看科研之路如何逆袭

于仕琪——步态识别新动向：基于人体模型的方法与数据

     好文推荐

前沿进展 | 多媒体信号处理的数学理论

中国卫星遥感回首与展望

单目深度估计方法：现状与前瞻

目标跟踪40年，什么才是未来？

10篇CV综述速览计算机视觉新进展

算法集锦 | 深度学习在遥感图像处理中的六大应用

封面故事 | 从传统到深度：火灾烟雾识别综述

封面故事 | 光场数据压缩综述

学者观点 | 结合深度学习和半监督学习的遥感影像分类

编辑推荐 | 视频 + 地图！四维信息助力实景中国

深度学习+图像降噪，如何解决“卡脖子”问题？

❂ 专家报告

专家推荐|高维数据表示：由稀疏先验到深度模型

专家报告 | AI与影像“术”——医学影像在新冠肺炎中的应用

专家推荐|真假难辨还是虚幻迷离，参与介质图形绘制让人惊叹！

学者推荐 | 深度学习与高光谱图像分类【内含PPT 福利】

专家报告|深度学习+图像多模态融合

专家报告 | 类脑智能与类脑计算

实战例题！200+PPT带你看懂监督学习

118页PPT！机器学习模型参数与优化那些事儿~

专家开讲 | 机器学习究竟是什么？

❂ 论文写作

羡慕别人中了顶会？做到这些你也可以！

如何阅读一篇文献？

共享 | SAR图像船舶切片数据集

资源分享| 不知道如何获取最新的算法资讯？快来这里看一看

资源分享|热门IT资讯号推荐

本文系《中国图象图形学报》转载稿件

内容仅供学习交流

版权属于原作者

欢迎大家关注转发！

编辑：秀   秀

指导：梧桐君

审校：夏薇薇

总编辑：肖   亮

声  明

欢迎转发本号原创内容，任何形式的媒体或机构未经授权，不得转载和摘编。授权请在后台留言“机构名称+文章标题+转载/转发”联系本号。转载需标注原作者和信息来源为《中国图象图形学报》。本号转载信息旨在传播交流，内容为作者观点，不代表本号立场。未经允许，请勿二次转载。如涉及文字、图片等内容、版权和其他问题，请于文章发出20日内联系本号，我们将第一时间处理。《中国图象图形学报》拥有最终解释权。

我就知道你“在看”