TBSI精品课程 | 应用信息论基础＆信息推论：信息爆炸时代如何独立思考

2018 年 4 月 17 日 清华大学研究生教育 TBSI

本期TBSI （清华伯克利深圳学院）精品课程系列带领大家走进信息学领域。信息学主要是指以信息为研究对象，利用计算机及其程序设计等技术为研究工具来分析问题、解决问题的学问，是以扩展人类的信息功能为主要目标的一门综合性学科。在当前时代数据爆炸和信息技术对社会、经济生活等各方面渗透的大背景下，TBSI信息学课程的教授们利用前沿的数据科学和信息技术，带领学生们探索信息技术和经济、社会等多学科交叉领域的尖端问题。

精品课程：应用信息论基础

Fundamentals of Applied Information Theory

课程背景

本课程以信息论中香农三点基本理论为基础，向学生展示信息测度中涉及的数据方法、信息处理及理论问题。本课程将帮助学生夯实信息理论的基本概念，并理解信息处理、转换、存储和压缩的理论及方法。本课程将有利于加强学生对信息和通讯工程研究中核心问题的深度理解并提升学生在此类研究中的创新思维以及实践分析能力。

课程目标

　　信息理论对通讯和数据系统分析研究具有重大而深远的影响。在过去的68年间，信息理论不仅为通讯和网络系统研发提供了理论范式和强大助力，而且在大数据时代的混沌中复兴崛起。为未来数据科学家建立起理论框架并使其能逆向思考问题非常关键，例如要注意算法容量的边界，避免盲目试错式的系统设计等。

讲师介绍

张林清华大学长聘教授，目前担任清华-伯克利深圳学院共同院长，是物联网、传感器信号处理领域的专家，IEEE Senior Member，其科研成果曾获得IEEE Sensys 2010最佳技术展示奖、IEEE CASE 2013最优论文奖、IEEE IPSN 2014最佳技术展示奖、中国-欧盟Dragon Star Innovation Awards 2015。研究涉及无线传感器网络的各个方面，包括系统体系结构、协议设计与性能优化分析、传感信息的提取与处理等领域，他重点研究应用统计信号处理、机器学习和信息论工具，解决海量传感数据的传输以及从中提取有效信息的计算传感问题。他的研究得到了中国自然科学基金委、科技部863计划、重大专项计划的资助，还得到了来自企业界的支持。

学生反馈

“上这门课印象最深的还是第一节导引课，张老师用诸如：丰子恺的画，从信息论角度看阿波罗登月等生动的例子把信息论变成了一门艺术。对一些概念和定理的讲述都从理解的角度出发，通俗易懂。”——TBSI 2016级博士连婧

在美国加州召开的第25届国际计算机学会地理信息系统国际会议上（ACM SIGSPATIAL 2017），连婧的长摘要论文，题为“基于通勤模式的定制公交服务区域设计”（Extracting Commute Patterns for Customized Bus Service Area Design）获学生研究竞赛研究生组第二名。该论文指导教师：张林、黄绍伦、李阳。为解决交通拥堵问题，该文章提出从海量出租车GPS数据中提取用户出行规律进行定制巴士线路设计。

精品课程：信息推论

Inference and Information

课程背景

本课程专为对信息理论和机器学习交叉研究的基本方面及最前沿发展有兴趣的研一、研二学生开设。课程将把加深学生对机器学习、数据挖掘和信息论的理解作为授课的主要特色，并在展开的研究中将数学理论应用到机器学习问题中去。本课程的目标之一是帮助学生更好地认识数学理论和学习系统之间的基础并牢固发展“理论”和“系统”之间的联系。

学生反馈

“信息推论与传统的机器学习课程不同，除了介绍现有的算法如何解决实际问题，更侧重帮助我们理解一套框架，将现有的机器学习算法统一起来。整个框架好比一个工具箱，各种算法只是其中的锤子或是锯子。这种新颖的角度使我对机器学习得到了一些新的认识”——TBSI 2016级硕士李嘉麟

讲师介绍

黄绍伦 2008年取得国立台湾大学电子工程系学士学位，后分别于2010年和2013年获得麻省理工学院（MIT）电子工程和计算机科学专业硕士和博士学位。他于2013-2016年期间担任麻省理工学院和台湾大学的联合博士后研究员。他从2016年9月起加入清华-伯克利深圳学院，现为清华-伯克利深圳学院数据科学与信息技术研究中心特别研究员。他的研究兴趣包括大数据分析、机器学习与信息论等数据科学方面的研究。

郑立中 教授，于1994年和1997年在清华大学电子信息工程系取得学士和硕士学位，于2002年在伯克利加州大学（UC-Berkeley）电子工程与计算机科学系取得博士学位。从2002年起在麻省理工学院（MIT）电子工程系担任教授。他的研究兴趣包括信息论，统计推断，通信和网络理论。他在2002年从UC Berkeley获Eli Jury Award，在2003年获得IEEE Information Theory Society Paper Award，2004年获NSF CAREERAward，在2007年获the AFOSR Young Investigator Award。他是IEEE Transactionson Information Theory的副编辑，2012年IEEE International Symposium on Information Theory的主席，IEEEfellow。

TBSI作为一所高水平的特色学院，背靠清华和伯克利两大顶级学府的TBSI师资队伍也是超级豪华。

目前TBSI共有全职教师15名，预计今年将达到22位。此外，还有兼聘教师47人。教师队伍中包括中国科学院院士1人、中国工程院院士4人、美国国家工程院院士2人、新西兰皇家科学院院士1人、千人计划人才（含青年千人）11人、教育部长江学者8人、国家杰青8人、国家优青2人、深圳市海外高层次人才8人、深圳市高层次人才3人，高层次人才比例高达100%。

未来，TBSI的师资队伍有30位来自清华大学，30位来自伯克利加州大学，另外将在全球范围选聘60-70位最优质的师资。同时，TBSI还邀请工业界导师加入，并与腾讯、大疆、比亚迪、中兴通讯等高新企业成立产业顾问委员会，开展产学研合作。

本文转载自“清华伯克利深圳学院”公众号

编辑：王筝