从应用的观点来看,研究这本书的主要原因是帮助处理描述随机、时变函数的复杂性。一个随机变量可以被解释为一个单一测量的结果。描述单个随机变量的分布是相当简单的。它完全由一个单变量的累积分布函数F(x)指定。在计算机上近似地表示一个累积分布函数是比较容易的。几个随机变量的联合分布要复杂得多,一般用一个联合累积概率分布函数F(x1, x2,…)来描述。它比n个单变量函数复杂得多。一个随机过程,例如一个通信信道中的时变衰落模型,涉及许多,可能是无限多个随机变量(在一个观察区间内的每个时刻t都有一个)。
这本书帮助读者准备理解和使用以下方法来处理随机过程的复杂性:
这本书是为伊利诺伊大学香槟分校(University of Illinois at Urbana-Champaign)电子与计算机工程系(Department of Electrical and Computer Engineering)的随机过程研究生第一学期课程而写的。本课程假定学生上过概率论课程,在第一章简要回顾。学生也应该熟悉实际分析和初级线性代数,如极限的概念、导数的定义、黎曼积分和对称矩阵的对角化。这些主题将在附录中回顾。最后,学生应该对变换方法和复变分析有一定的熟悉程度,尽管相关章节会对所使用的概念进行回顾。希望一些阅读这本书的学生会发现,它们有助于理解系统工程的各种技术文献,包括控制系统、信号和图像处理、通信理论,以及各种网络和算法的分析。希望一些学生能继续设计系统,定义和分析随机模型。希望其他人会有动力继续学习概率论,继续学习测度理论及其在概率论和分析中的应用。
本书的前四章在后面的章节中使用得非常多,所以大多数读者在继续阅读之前应该先阅读这些章节。第一章主要是对概率论第一课中发现的概念的回顾,重点是公理和期望的定义。希望对基本概率进行更广泛回顾的读者可以参考伊利诺斯大学ECE 313的作者笔记。第二章主要介绍随机变量序列收敛的各种方法,以及概率论的基本极限定理:大数定律、中心极限定理和大偏差的渐近性态。第三章主要讨论最小均方误差估计和正交原理。基于创新序列从几何角度解释了卡尔曼滤波。第四章介绍了随机过程的概念,并简要介绍了几个关键的例子和随机过程的分类。本章将介绍马尔可夫过程和鞅,但在以后的章节中将有更深入的讨论。在第4章之后,下面的四个主题可以相互独立地进行讨论。第5章描述了马尔可夫过程在建模和统计推断中的使用。应用程序包括自然语言处理。第6章描述了马尔可夫过程在动力学系统建模和分析中的应用。应用程序包括排队系统的建模。第7-9章发展了基于均方收敛的随机过程的演算,接着是线性滤波,正交展开,最后是因果和非因果维纳滤波。第10章探讨关于过滤的鞅,重点是初等集中不等式和可选抽样定理。