统计学(Statistics)是研究收集、分析、解读、展示及组织(collection, analysis, interpretation, presentation and organization)数据的学科，通过量化地研究随机性，从而理解数据的产生机制，并进行判别、预测、优化、决策。统计学理论和方法是很多现代科学分支的支柱，其广泛的应用深刻地影响现代生活，具有代表性的应用领域包括：
生物/医学(生物统计学，基因统计学，生物信息学，制药学等)
社会学/环境学(社会统计学，心理学，人口学，空间统计学，环境统计学等)
工业工程学(质量控制，可靠性分析等)
经济学/金融学(精算学，金融统计学等)
工程学/计算机科学(统计学习，数据挖掘，信号/图像采样/处理等)
基础科学(统计物理学，统计化学等)
社会学/环境学(社会统计学，心理学，人口学，空间统计学，环境统计学等)
工业工程学(质量控制，可靠性分析等)
经济学/金融学(精算学，金融统计学等)
工程学/计算机科学(统计学习，数据挖掘，信号/图像采样/处理等)
基础科学(统计物理学，统计化学等)
VIP内容
本教程关注信息理论在统计学中的应用。被称为信息散度或Kullback-Leibler距离或相对熵的信息度量起着关键作用。涵盖的主题包括大偏差、假设检验、指数族的最大似然估计、列联表的分析以及具有“信息几何”背景的迭代算法。同时，还介绍了通用编码的理论，以及由通用编码理论驱动的最小描述长度原理的统计推理。
成为VIP会员查看完整内容
Information Theory and Statistics: A Tutorial
