【学科发展报告】集值系统辨识及其应用

2018 年 9 月 7 日 中国自动化学会

一、引言

集值系统是指无法测得系统数据（如输出、状态等）的精确值，只知道它是否属于某个集合的系统。实际中由于数据测量、传输与存储的局限，客观条件或生产成本等因素的限制，经常会出现无法精确测量系统输出或状态值的情况，取而代之的是大量“合格、不合格”“疾病、健康”之类的集值数据。特别是随着信息化和生物技术的发展以及大数据时代的到来，集值系统广泛存在于关系国计民生的生产和生活中。

较之精确数据，集值数据具有可利用信息少和非线性强两大特征，对该类系统的辨识与控制研究具有本质困难，需要新的视角和方法。首先，可用信息的减少使得原有的系统辨识和控制方法不再适用。其次，集值数据与系统之间存在很强的非线性，这类系统的建模、辨识和控制必须放到非线性控制系统框架下讨论。

集值系统的辨识与控制作为一个新兴的、有着很强实际背景的研究领域，存在着诸多本质的科学问题。比如，集值数据下能否达到理想的辨识效果？系统的未建模动态和未知干扰对辨识精度有何影响？与常规系统相比，信息的减少对辨识算法的收敛速度有何影响？代表集值个数的空间复杂性与辨识速度的时间复杂性有何关系？对系统辨识而言，一味追求高精度的测量数据是否必要？如何实现适应控制？等等。

二、研究现状与主要成果

在过去的几年中，集值系统的研究主要集中在系统辨识以及应用。集值系统辨识方面已经得到了一系列的研究成果，受到国内外著名学者的关注和研究，随着相关结果的不断积累，逐步形成了集值系统辨识相对完整的理论框架；在适应控制方面，实现了一类集值增益系统的适应跟踪控制；在同步控制方面，提出了二时间尺度同步算法和递推投影同步算法，实现了二值量测下的多个体同步控制；除了对控制理论研究本身的推动之外，相关结果应用到了国防、医学、能源等领域的研究中。在雷达目标识别方面，完成了对真假目标的集值建模。在复杂疾病建模和统计验证方面，成功建立了白血病的集值模型，并构造了新的、更为有效的统计验证方法。

具体成果如下：

（一）集值输入下集值输出系统的辨识［2-4］

在集值输入下研究了集值输出有限脉冲系统的辨识问题，基于 QCCE（Quasi-Convex Combination Estimator）和加权最小二乘构造了两阶段的参数估计算法，证明了强收敛性和渐近无偏性，给出了收敛速度、渐近正态性等，并讨论了最优输入设计问题。特别地，给出了加权矩阵的选取方法使得相应算法在 Cramér-Rao 下界意义下渐近有效。进一步，在噪声分布函数未知的情况下，讨论了可辨识性问题和相应的算法设计［2］。

随后，把上述方法推广到了 Wiener 系统和 Hammerstein 系统等非线性系统［3，4］。

（二）基于极大似然函数的集值输出系统辨识［5-8］

将极大似然估计方法引入了集值辨识领域［5］，从而将集值辨识转化成了似然函数的极值求解问题，该方法得到了进一步的发展和完善。针对一类具有二集值输出的线性系统，给出了极大似然准则下的辨识算法［6］，通过分析对数似然函数的 Hessian 矩阵，证明了似然函数的极大值最多只有一个，进而找到了极大似然估计存在唯一的充分必要条件。然后给出了参数的迭代估计算法，通过构造 Lyapunov 函数证明了迭代算法不仅具有收敛性，还具有指数收敛速度。

该方法还在集值输出的 ARMA 系统和 dithering noise 方面得到了应用［7，8］。

（三）基于随机逼近方法的集值系统辨识［9，10］

作为一种重要的系统辨识方法，随机逼近在集值辨识方面发挥了重要作用。在考虑信道不确定性的前提下，研究了集值输出线性系统的辨识问题，提出了随机逼近型的估计算法，证明了收敛性，给出了收敛速度，讨论信道不确定性对算法性能的影响。基于二集值系统输出［9］，研究了非线性系统的非参数辨识问题，提出了扩展截尾的随机逼近算法，证明了强收敛性［10］。

（四）集值系统的适应控制［11］

传感器网络一般同时具备集值和局部的数据特点，如何使其同步是该领域的重要科学问题。对于集值多自主体系统，提出了双尺度的同步算法：在小尺度时间内，各节点的状态保持不变，基于集值数据构造了邻居状态的估计算法；进而在大尺度时刻设计控制调整系统状态，最终证明了该同步算法的收敛性，得到了收敛速度［11］。

（五）集值辨识算法的应用研究［12-14］

随着集值辨识方法的不断完善，其实际应用价值也越来越明显。研究了二集值量测下的多个体同步问题，建立了二时间尺度的同步算法［12］：在小的时间尺度上，个体对邻居节点状态进行估计；在大的时间尺度上，个体根据估计值设计控制器来进行状态更新，证明了该同步算法可以使得系统达到同步，并给出了同步的速度。研究了基于雷达散射截面（RCS）的雷达目标识别问题。首先，对 RCS 序列进行了离散的小波变换，在变换域上提取统计特征；然后，利用集值辨识法建立特征与目标类别的关系，给出识别准则；最后，利用建立好的模型对测试数据进行识别，给出识别率。仿真结果显示，在信噪比较小的情况下，该方法相比模糊分类法和证据推理法可提高 10% 的识别率［13］。此外，集值辨识方法还在生物医学领域得到了应用［14］。

三、国内外研究进展比较

对一般集值系统的辨识问题研究是从 2003 年开始的［15］，它一经提出就得到了国内外著名学者和研究团队的关注。采用不同的方法，从模型类别、噪声特性、集值形式、通信环境等多种不同的角度对集值系统的参数估计问题进行了深入研究。特点如下：

（1）以美国 L. Y. Wang 教授、G. G. Yin 教授为代表的研究团队主要采用经验测度方法对集值系统进行辨识。该方法经常采用周期输入，好处是可以将多参数线性系统、有理函数系统、Wiener 系统、Hammerstein 系统等转化为多个单参数系统的辨识，在充分利用输出端阈值信息和噪声统计特性的基础上构造算法。对多集值输出情形，可以等价地看成是多个二集值输出，通过组合这些二集值下的算法可以给出渐近有效的辨识算法（Quasi- Convex Combination Estimator），进而可以讨论集值辨识中的复杂性问题［1］。

（2）意大利 A.Vicino 教授团队主要在有界噪声的框架下研究集值系统的集元（set membership）辨识、鲁棒辨识和最优输入设计等问题。从二集值输出开始，给出了增益系统的最优输入设计方法，进而把该方法用于求解高阶线性系统的次优输入设计问题［16］。随后，把所得结果推广到了多集值的情形［17］。

（3）澳大利亚 G. C.Goodwin 团队把极大似然估计方法引入了集值辨识，取得了一系列出色的成果。与精确输出或可加噪声测量相比，集值测量下的似然函数较为复杂，在一般情况下难以求出其极值的显式表达式，所以各种数值方法常被用来逼近似然函数的极值，比如最大期望算法（Expectation Maximization Algorithm）和牛顿法等。该方法已成功应用到了 FIR 系统和 ARMA 模型等情形［5，7］。有意思的是，在周期输入下可以得到似然函数极值的显式表达式，而这个显式表达式恰恰是经验测度法构造出的估计算法，这说明了极大似然法和经验测度法在周期输入下殊途同归。

（4）中科院张纪峰教授团队侧重于面向控制的集值辨识方法研究。适应控制问题的输入是以控制为最重要目的的，也主要是由控制目标决定，在这种情况下，很难对其输入做严格的限制，在周期输入和独立同分布输入下建立的算法难以直接应用。要研究集值系统的适应控制，就要设计一个面向控制的、在线的辨识算法，以此为基础并借鉴自校正调节器的经验设计适应控制器，并研究闭环系统的可辨识性、最优性、稳定性等。该团队提出的投影递推算法和双尺度算法已在适应控制问题上取得了进展［18，19］。此外，该团队也在探索集值辨识方法的实际应用，在生物医学、航空航天等领域取得了进展［13，14］。

（5）国内陈翰馥院士团队近些年也开始研究集值系统的辨识问题，其主要方法是变界截尾的随机逼近算法。基于高斯白噪声等随机输入，在没有优化指标的前提下直接构造辨识算法，然后从理论上证明强收敛性，讨论渐近正态性、渐近有效性等，已成功解决线性系统、非线性系统的非参数辨识等问题［10，20］。

四、发展趋势与展望

集值系统的适应控制问题将是集值系统研究的核心问题，与辨识和滤波问题相比较，这将是更有意义也更具挑战性的工作。由于受到已有辨识方法在输入要求、集值化假设、噪声特性等方面的影响，大多数辨识算法都无法用来做适应控制问题，其研究瓶颈是构造有效的在线辨识算法，而根本困难在于处理集值数据与参数估计的耦合项。

要研究集值系统的适应控制问题，一个可行的研究思路就是建立在线辨识算法，利用必然等价原则构造控制算法，从控制目标、系统结构以及系统噪声特征为基础分析闭环特征，研究最优控制器设计方法。该方面的研究在国内外都是刚刚起步，其研究成果在集值系统广泛应用的大环境下将具有巨大的应用价值。

这些问题的解决具有理论和实际的双重重要意义。

从理论角度来看，集值系统的辨识和控制研究可以建立一套与现代控制理论平行的系统建模、辨识和适应控制的完整理论体系，是控制论在新时代环境下的发展。同时，可以定量描述数据信息与系统辨识和控制的相互关系，从控制的角度研究数据信息，得到最优测量方法以提高数据的使用效率。

从应用角度来看，集值信息能够极大减弱系统辨识和控制对数据精度的依赖，从而可以有效提高数字传输的效率、降低工业中测量元件的成本、为生物实验和量子系统等与集值信息相关的新兴技术提供新思路。因此，集值系统的研究成果应用背景广泛，在工业自动控制、网络传输、智能传感器网络、生物实验等诸多领域都将有用武之地，这些领域的发展对加快我国现代化和信息化的进程将有很大的促进作用。

上下滑动查看参考文献

［1］ WangL.Y.，YinG.，ZhangJ.F.，et al. System identification with quantized observations［M］．Birkhäuser，Boston， MA，2010.

［2］ Guo J.，Wang L. Y.，Yin G.，et al. Asymptotically efficient identification of FIR systems with quantizedobservations and general quantized inputs［J］．Automatica，2015，57：113-122.

［3］ Guo J.，Wang L. Y.，Yin G.，et al. Identification of Wiener systems with quantized inputs andbinary-valued output observations［J］．Automatica，2017，78：280-286.

［4］ Guo J.，Liu H. T. Hammerstein system identification with quantised inputs and quantised output observations［J］． IET Control Theory & Applications，2017，11（4）：593-599.

［5］ GodoyB.，GoodwinG.，AgüeroJ.，et al. On identification of FIR systemshaving quantized output data［J］． Automatica，2011，47（9）：1905-1915.

［6］ Zhao Y. L.，Bi W. J. and Wang T. Iterative parameter estimatewith batched binary-valued observations［J］．Science China：Information Sciences，2016，59（5）：1-18.

［7］ Marelli D.，You K. Y. and Fu M. Y. Identification of ARMA models using intermittent and quantized output observations［J］．Automatica，2013，49（2）：360-369.

［8］ Gustafsson F. and Karlsson R. Generating dithering noise for maximum likelihood estimation from quantized data［J］． Automatica，2013，49（2）：554-560.

［9］ Guo J.，ZhaoY. L.，Sun C. Y.，et al. Recursive identification of FIR systems with binary-valued outputsand communication channels［J］．Automatica，2015，60：65-172.

［10］ Zhao W.，Chen H. F.，Tempo R. et al. Recursive identification of nonparametricnonlinear systems with binary- valued output observations［C］．In Proceedings of the 54thIEEE Conference on Decision and Control，121-126， 2015.

［11］ Zhao Y. L.，Wang T.，and Bi W. J.，Consensus Protocols for Multi-Agent Systems with Undirected Topologies and Binary-Valued Communications［J］．IEEE Transaction on Automatic Control，revised，2017.

［12］ Wang T.，Zhao Y. L. and Wang X. M. Consensus algorithm of multiagent system with binary-valued communication

［C］．In Proceedings of the 10th Asian ControlConference（ASCC），1-6，2015.

［13］ Wang T.，Bi W. J.，Zhao Y. L.，and Xue W. Radar target recognition algorithm based on RCS observation sequence — set-valued identification method［J］．Journal of Systems Science and Complexity，2016，29（3）：573-588.

［14］ Kang G.，Bi W. J.，Zhao Y. L.，et al. A new system identification approach to identify genetic variants in sequencing studies for a binary phenotype［J］．Human Heredity，2014，78（2）：104-116.

［15］ Wang L. Y.，Zhang J. F.，Yin G. G. System identification using binary sensors［J］．IEEE Transactions on Automatic Control，2003，48（11）：1892-1907.

［16］ Casini M.，Garulli A.，and Vicino A. Input Design in Worst-Case System Identification Using Binary Sensors［J］． IEEE Transactions on Automatic Control，2011，56（5）：1186-1191.

［17］ Casini M.，Garulli A.，and Vicino A. Input design in worst-case system identification with quantized measurements

［J］．Automatica，2012，48（12）：2997-3007.

［18］ Zhao Y. L.，Guo J.，Zhang J. F. Adaptive tracking control of linear systems with binary-valued observations and periodic target［J］．IEEE Transactions on Automatic Control，2013，58（5）：1293-1298.

［19］ Guo J.，Zhang J. F.，Zhao Y. L. Adaptive tracking of a class of first-order systems with binary-valued observations and fixed thresholds［J］．Journal of Systems Science and Complexity，2012，25（6）：1041-1051.

［20］ Yang X. L. and Fang H. T. Asymptotically efficient recursive identification method for fir system with quantized observations［C］．In Proceedings of the33rd Chinese Control Conference（CCC），6832-6837， 2014.

来源：中国自动化学会

往期文章推荐