随机过程

基于LS-SVM的非线性系统直接逆模型控制分析

摘要：针对非线性系统逆模型建立较难的问题，提出了基于最小二乘支持向量机（LS-SVM）的非线性系统逆模型辨识建模方法以及模型的控制方法。根据仿真结果表明，采用LS-SVM建立的非线性系统逆模型在应用多项式核函数(Poly)进行试验比径向基核函数（RBF）所得效果更佳，使模型具有很高的精度和较强的泛化能力。基于LS-SVM建立的非线性系统直接逆模型控制能够对给定信号实现有效的跟踪，获得较好的跟踪响应性能，证实了该方法的可行性和有效性。

关键词：最小二乘支持向量机（LS-SVM）；非线性系统；多项式核函数；直接逆模型控制

Analysis of Straight Inverse Model Control for Nonlinear

System Based on LS-SVM

Abstract:Aiming at the problem of hard system identification modeling for nonlinear system, a method of inverse model identification for nonlinear system based on LS- SVM was studied in detail.The simulation results show that,it obtained better results of the inverse model for nonlinear system based on LS-SVM using polynomial kernel function (Poly)tests than radial basis function(RBF),so that the model has high accuracy and generalization ability.The signal can be given to achieve effective tracking in Straight Inverse Model Control for Nonlinear System Based on LS-SVM ,and obtained better tracking response performance, confirming the feasibility and effectiveness of this method.

Key words: least square support vector machine(LS-SVM);nonlinear system;polynomial kernel function;straight inverse model control

0.引言

近些年来，逆模型控制作为非线性控制系统研究的主要理论方法之一，得到了非常显著的发展，取得了一系列的理论成果，建立起了比较完整的设计理论，并且在飞行器控制、机器人控制、电力系统控制、等多方面和多领域获得了广泛的应用。逆模型控制是一种简单、有效的设计控制器的方法，使用被控对象传递函数的逆模型作为串行控制器来开环控制系统的动态性能，这不仅避免了反馈引起的系统不稳定现象，而且可以单独设计系统的动态性能和抑制系统的扰动。但逆模型控制方法在工程的实现上存在较大的困难，逆模型控制要求被控系统的数学模型精确已知，而工程实际中的非线性特性往往难以确切的描述，对于大部分实际非线性系统，要建立系统的精确模型绝非易事；即使建立起非线性数学模型，要求导出被控对象逆模型的解析表达式通常也比较困难，甚至无法求解，因此，它的推广应用也受到很大的限制。

1

人工智能（AI）在这方面显示了明显的优势，与传统辨识方法不同的是基于人工智能的辨识建模方法不受非线性模型的限制，它依据被控系统的输入/输出数据对，通过学习得到一个描述系统输入/输出关系的非线性映射，这种方法也称基于数据的机器学习。而传统机器学习理论与方法研究的是样本数目趋于无穷大的渐近理论，都是在样本足够多的前提下进行研究的，而在实际应用中，样本数目的获取相当困难，样本数目通常都是有限时，传统的机器学习方法很难取得理想的效果。

支持向量机（SVM）[1]是近年来兴起的一种基于统计学习理论的新型机器学习算法，能自动学习问题模型的结构，能够较好的解决小样本、非线性和高维等问题。支持向量机与结构风险最小化为原则，不存在维数和局部极值问题，因此具有良好的泛化能力，可以应用于被控对象逆模型的建立。因此，采用SVM来设计控制系统的逆模型控制器必将是一个新颖且具有实用工程价值的研究方向。

本文主要是应用LS-SVM理论，对非线性直接逆模型进行辨识和校验，以及对非线性直接逆模型控制方法的分析，利用不同的核函数进行对比分析，证明多项式核函数的可行性和准确性，并进行了仿真试验研究。

1.最小二乘支持向量机（LS-SVM）理论

最小二-乘支持向量机(LS-SVM)是为了便于求解而对SVM的一种改进[2]，与标准SVM相比，LS-SVM用等式约束代替SVM中的不等式约束，求解过程变成了解一组等式方程，避免了求解耗时的二次规划(QP)问题，求解速度相对加快。

若训练样本集为(xi,yi),i?1,2,...,n,x?Rd,y?R支持向量机建模的主要思想是: 首先, 用一非线性映射?(?)将样本的输入空间Rd 映射到特征空间?(x)?(?(x1),?(x2),...,?(xn)); 然后，在这个高维空间中构造最优决策函数y?wT??(x)?b；最后，以结构风险最小化为原则确定模型参数w、b。 结构风险的计算公式为：

R?c?Remp+1?w?2 (1)

2其中: c 为正规化参数; Remp 为损失函数, 又称为经验风险。常见的损失函数有一次损失函数、二次损失函数和Hubber 损失函数, 不同的损失函数代表不同的支持向量机模型。最小二乘支持向量机是损失函数为二次损失函数的支持向量机,即Remp???i2i,?i为模型对

训练样本的预测误差。经验风险最小并不代表模型的期望风险最小, 人工神经网络的过学习就是经验风险最小化原则失败的例子 。

基于结构风险最小化原则确定决策函数参数w、b, 可等效为求解以下优化问题:

2

1minR=c???i2???w?2 (2) 2i?1s..tyi?wT??(xi)?b,i?1,2,...,n 用Lagrange方法求解这个优化问题：

nL(w,b,?i,?)?c???i2?i1?w?2?2i?1 (3) nT?(?i?(w??(xi)?b?yi))n其中????1,?2,...,?n?是Lagrange乘子。

根据优化条件分别对四个变量求偏导等于零可以得到：

w???i??(xi) (4)

i?1nn

??i?1i?0 (5)

2c?i??i (6) yi?wT??(xi)?b??i (7) 将式(4)和(6)代入(7),得

yi??(?j??(xj),?(xi))?b?j?1n1?i (8) 2c 若定义核函数为RBF核函数K(xi,xj)??(xj),?(xi)，则 yi??(?j?K(xi,xj))?b?j?1n1?i (9) 2c 将式(5)和式(9)合成线性方程如下：

?0??1? ?1????1??1K(x1,x1)?K(x2,x1)?K(xn,x1)12c1K(x1,x2)K(x2,x2)??K(xn,x2)......1...2c?...1K(x1,xn)K(x2,xn)?K(xn,xn)?12c????b??0????1??y1?????2?=?y2? (10) ???????????n????yn????? 求解上述线性方程组，就可以得到模型参数[b?1?2??n]。最后所确定的决策函数为：

3

f(x)???i?K(x,xi)?b (11)

i?1n 支持向量系数?中不等于零的元素?i所对应的样本( xi , yi ) 称为支持向量。从决策函数式(11) 可以看出, 对象的特性主要是由支持向量决定的。

算法中的核函数K ( xi , xj ) 是高维特征空间的内积, 根据泛函的有关理论, 只要满足Mercer 条件的函数都可以作为核函数。不同的核函数构造不同的支持向量机，常见的核函数形式有：

1）线性核函数：K(xi,xj)?xixj， 2）多项式核函数：K(xi,xj)?(xixj?1)d， 3）径向基核函数（RBF）：K(xi,xj)?exp(??xi?xj?22?2)。

2 基于LS-SVM的直接逆模型控制原理

基于LS- SVM 的非线性系统直接逆模型控制是利用LS- SVM 的函数逼近能力, 来近似实现非线性系统的逆动力学模型, 然后与被控系统串联, 以使系统的期望输出与实际对象输出之间实现恒等映射。该方法的可行性在相当程度上取决于逆模型的准确程度[3]。

2.1 LS-SVM非线性系统直接逆模型辨识建模原理

LS-SVM是基于结构风险最小化为原则的学习算法[4]，改变核函数或核函数的参数，就可以准确地逼近任意非线性函数，在建模时能较好地解决非线性、高阶以及局部极值等问题，这些特性都使得最小二乘支持向量机是一种非常有效的辨识建模方法，可以非常有效地用于控制系统逆模型的辨识建模。

对于非线性系统，考虑如下的离散α阶时延单输入单输出（SISO）系统

y(k??)?f[y(k???1),...,y(k???n),u(k),...u(k?m)] (12) 式中：y(k)、u(k)分别为系统输出和输入；m为输入延迟；n为输出延迟；α为系统输出对输入的总时延数，一般情况下??1。

如果式(12)可逆，则α阶逆系统可表示为

u(k)?g[y(k??),...,y(k???n),u(k?1),...,u(k?m)] (13) 令α阶逆系统的输入为?(k)?y(k??)，则式(13)可表示为

4

u(k)?g[?(k),...,?(k?n),u(k?1),...,u(k?m) (14) 将此α阶逆系统串联在原系统之前，则可组成伪线性复合系统，且满足如下的关系： y(z)?z???(z) (15) 为简单起见，以α=1为例，则式(13)所示的SISO系统的逆系统变为

u(k)?g[y(k?1),...,y(k?n?1),u(k?1),...,u(k?m)] (16) 因此，辨识建模的主要任务是确定g(.)的具体形式及相关参数值。可将LS-SVM的结构选择与式(16)相一致，基于LS-SVM的控制系统逆模型的辨识建模结构如图（1）所示。

u（k）被控对象y(k+1)TDLTDL u(k-m)…u(k-1) y(k-n+1)LS-SVM …逆模型 y(k)?(k)

图(1) 基于LS-SVM的SISO系统逆模型的辨识建模结构(α=1) 辨识逆模型的输出为

u(k)?g[y(k?1),...,y(k?n?1),u(k?1),...,u(k?m)] (16) 在建立基于LS-SVM的模型前，首先要确定训练样本。构造如下LS-SVM的训练样本集为

D?{(X(k?m),Y(k?m)),k?(m?1),...,(N?1)} (17) X(k?m)?{y(k?1),...,y(k?n?1),u(k?1),...,u(k?m)} (18) Y(k?m)?u(k) (19) 其中假设控制系统的输入/输出数据集为｛(u(k),y(k)),k=1,2,...,N｝,有N组输入/输出数据对，X的维数是(N-m-1)*(m+n+1),Y的维数是(N-m-1)*1。

^2.2 基于LS-SVM的直接逆模型控制系统

将训练好的控制系统LS-SVM辨识的逆模型和原系统复合，就可以实现直接逆模型控制，如下图(2)所示：

5

参考输入参考模型LS-SVM逆模型控制器 控制输出被控对象

图(2) 基于LS-SVM的直接逆模型控制的结构

基于LS-SVM的直接逆模型控制的基本思想是用来自LS-SVM逆模型控制器的信号去驱动被控对象，而该控制器的传递函数就是被控对象本身传递函数的逆。当α=1时，对SISO系统，基于LS-SVM的直接逆模型控制系统的详细结构如下图(3)所示。其中，参考输入是r，逆模型控制器的输出是u，被控对象的输出是y，TDL为多分头时延系统。

u(k-m) … u(k-1)TDLr(k+1)LS-SVM逆模型控制器u(k)被控对象y(k+1)TDL r(k) ...r(k-n+1)

图 (3) 基于LS-SVM的SISO直接逆模型控制系统的结构(α=1) 直接逆模型控制阶段步骤：

(1) 选择直接逆模型控制时的参考输入信号r；

(2)确定系统的采样时间ts、仿真总次数N和仿真时间t=ts*N； (3)初始化系统的输入/输出；

(4)在每一采样时刻k，当k>m+1时，构造逆模型控制器的实际输入 X(k?1)?{r(k),r(k?1),...,r(k?n),u(k?2),...,u(k?m?1)}； (5)计算逆模型控制器的输出u(k-1)； (6)计算被控对象的输出y(k)；

(7)如果k≥N，就退出循环，否则k=k+1，返回步骤(4),迭代计算；

(8)计算控制误差e(k)=y(k)-r(k),k=(m+2),...,N。如果控制误差不能满足要求，返回步骤(1),重新选择参考输入信号(如果参考输入信号选择不当，也会导致控制效果不佳)； (9)如果控制误差满足要求，输出相关结果(数据或图表),结束。

6

3 基于不同核函数试验仿真结果分析

选取支持向量机的类型为LS-SVM，假设系统结构未知，LS-SVM的训练样本结构构造如下：

X(k)?[y(k?3),y(k?2),y(k?1),u(k?1),u(k)]Y(k)?u(k?2) (20)

3.1基于多项式核函数的仿真结果分析

核函数为多项式核函数K(x,xi)?(xiTx?t)d，其参数为d=3，t=1.5.正则化参数C=1000采样时间为0.01s，仿真时间为2s。

(1)基于LS-SVM的逆模型辨识建模

如下图(4)、图(5)所示为逆模型的输出ur和建模误差e1，信号采用的是幅值为3的随机信号，建模误差比较小，建模精确度高。

38x 10-32.56242e11.5ur01-20.5-4000.20.40.60.81t/s1.21.41.61.82-600.20.40.60.81t/s1.21.41.61.82

图(4) 非线性系统的逆模型输出 图（5）非线性系统逆模型的建模误差

(2)LS-SVM辨识的逆模型校验

校验信号采用正弦信号0.5sin(2πt)+0.5,从下图(6)、图(7)中可以看出，校验误差在起始阶段存在很大的超调量，但是在经过几步调整后校验误差变得特别小，表明用LS-SVM建立的非线性系统的逆模型的性能好，能够满足你模型控制的需求。

7

1.40.450.40.351.210.30.250.8ur0.6e20.40.2000.20.40.60.81t/s1.21.41.61.820.20.150.10.050-0.0500.20.40.60.81t/s1.21.41.61.82

图(6)正弦信号时的逆模型输出 图（7）正弦信号时的校验误差

(3)基于LS-SVM的非线性系统直接逆模型控制

将训练好的LS-SVM逆模型和原系统复合，对复合后的伪线性系统的输入段施加各典 型信号，检验其跟踪效果。下面仍以正弦信号0.5sin(2πt)+0.5为例，如下图(8)、图(9)所示：

43.530 输出信号输入信号10.52.5-0.52-11.510.50 0-1.5-20.20.40.60.81t/s1.21.41.61.82-2.500.20.40.60.811.21.41.61.82

图(8)正弦信号时的跟踪 图(9) 正弦信号时的校验误差

由图可以看出，经过几步调整后校验误差特别小能够很好地跟踪输出信号，实际输出

信号与期望输出信号基本重合，说明基于LS-SVM的直接逆模型控制系统具有控制非线性对象的能力，动态性能好，跟踪精度高，控制效果好。

3.2 基于RBF核函数的仿真结果分析

?xi?xj?22?2 核函数为RBF核函数K(xi,xj)?exp(?)，其参数为d=3，t=1.5.正则化参数

C=1000采样时间为0.01s，仿真时间为2s。

如下图(10)、图(11)为输入段施加正弦信号时的输出跟踪图像，可以看出误差在一个阶段很小，在一个阶段又很大，跟踪很不稳定，精度不高，与多项式核函数相比，动态性能差，控制效果欠佳。

8

43.532.52输出信号输入信号 21.510.50-0.51.5-110.50 0-1.5-2-2.50.20.40.60.81t/s1.21.41.61.8200.20.40.60.811.21.41.61.82

图(10) RBF核函数时正弦信号的跟踪 图（11）RBF核函数时正弦信号的校验误差

从上面的分析，识别效果最好的RBF型核函数和多项式核函数相比，多项式核函数可以达到全局的跟踪效果都很好，而多项式核函数的控制效果只是在局部较好。这是由核函数的特点决定的, 核函数有两种主要类型, 局部性核函数和全局性核函数。RBF函数是一个典型的局部性核函数。局部性核函数仅仅在测试点附近小领域类对数据点有影响。而多项式( Poly)核函数是一个典型的全局性核函数。全局性核函数允许远离测试输入的数据点对核函数的值也有影响。局部性核函数学习能力强、泛化性能较弱, 而全局性核函数泛化性能强、学习能力较弱[5]。

4 结论

从仿真试验结果可以看出，对于非线性系统，基于LS-SVM的直接逆模型控制，在选择合适的核函数及参数的情况下，能够对给定信号实现有效的跟踪，获得满意的跟踪相应性能。在LS-SVM选择不同的核函数时，其跟踪效果不一样，应用RBF核函数的跟踪效果只能实现部分跟踪，部分的校验误差较大，这与核函数本身的特性有关系。总体来说，基于LS-SVM的直接逆模型控制效果好且简单易行。

参考文献

[1] Vapnik.V N,统计学习理论的本质.[M].张学工,译,北京:清华大学出版社,2000 [2]李丽娟,最小二乘支持向量机建模及预测控制算法.[D].浙江:浙江大学,2008 [3]胡良谋,曹克强等.支持向量机故障诊断及控制技术[M].北京:国防工业出版社,2011 [4]袁小芳,王耀南等,基于支持向量机的非线性逆模型控制及仿真研究.[J].湖南大学学报,2006 [5]朱先树,张仁杰,支持向量机核函数选择的研究.[J].科学技术与工程,2008.8(8) [6]陈小红,径向基函数网络及其在非线性控制中的应用.[D].浙江:浙江大学,1996

9

本文来源：https://www.bwwdw.com/article/s9xp.html