最小二乘法 線性與非線性擬合

1、最小二乘法線性與非線性擬合最小二乘法實現(xiàn)數(shù)據擬合最小二乘法原理函數(shù)插值是差值函數(shù)p(x與被插函數(shù)f(x在節(jié)點處函數(shù)值相同，即p( =f( (i=0,1,2,3,n，而曲線擬合函數(shù) 不要求嚴格地通過所有數(shù)據點( ，也就是說擬合函數(shù) 在 處的偏差=不都嚴格地等于零。但是，為了使近似曲線能盡量反應所給數(shù)據點的變化趨勢，要求| |按某種度量標準最小。即=為最小。這種要求誤差平方和最小的擬合稱為曲線擬合的最小二乘法。(一線性最小二乘擬合根據線性最小二乘擬合理論，我們得知關于系數(shù)矩陣A的解法為ARY。例題假設測出了一組，由下面的表格給出，且已知函數(shù)原型為y(x=c1+c2*e(-3*x+c3*cos(-2

2、*x*exp(-4*x+c4*x2x00.20.40.70.90.920.991.21.41.481.5y2.882.25761.96831.92582.08622.1092.19792.54092.96273.1553.2052試用已知數(shù)據求出待定系數(shù)的值。在Matlab中輸入以下程序x=0,0.2,0.4,0.7,0.9,0.92,0.99,1.2,1.4,1.48,1.5;y=2.88;2.2576;1.9683;1.9258;2.0862;2.109;2.1979;2.5409;2.9627;3.155;3.2052;A=ones(size(x exp(-3*x,cos(-2*x.*e

3、xp(-4*x x.2;c=Ay;c運行結果為ans =1.22002.3397-0.67970.8700下面畫出由擬合得到的曲線及已知的數(shù)據散點圖x1=0:0.01:1.5;A1=ones(size(x1 exp(-3*x1,cos(-2*x1.*exp(-4*x1 x1.2;y1=A1*c;plot(x1,y1,x,y,o事實上，上面給出的數(shù)據就是由已知曲線y(x= 0.8700-0.6797*e(-3*x+ 2.3397*cos(-2*x*exp(-4*x+ 1.2200*x2產生的，由上圖可見擬合效果較好。多項式最小二乘擬合在Matlab的線性最小二乘擬合中，用得較多的是多項式擬合，其

4、命令是A=polyfit(x,y,m其中 表示函數(shù)中的自變量矩陣， 表示因變量矩陣，是輸出的系數(shù)矩陣，即多項式的系數(shù)。多項式在自變量x處的函數(shù)值y可用以下命令計算：y=polyval(A,x例題對下面一組數(shù)據作二次多項式擬合，即要求出二次多項式 中的 ，使最小。x00.10.20.30.40.50.60.70.80.91y0.4471.9783.286.167.087.347.669.569.489.3011.2在Matlab中輸入以下命令x=0:.1:1;y=-0.447 1.978 3.28 6.16 7.08 7.34 7.66 9.56 9.48 9.30 11.2;a=polyfit

5、(x,y,2運行結果為a =-9.810820.1293-0.0317f=vpa(poly2sym(a,5%vpa（polyval2sym（），n）只適用于關于多項式函數(shù)的擬合。因為此函數(shù)對于自變量統(tǒng)一規(guī)定為“x”，將由polyfit（）所得出的系數(shù)按自變量冪次升降放在相應的位置。運行結果為f =-9.8108*x2+20.129*x-.31671e-1下面畫出由擬合得到的曲線及已知的數(shù)據散點圖y1=polyval(a,x;plot(x,y,o,x,y1（二）非線性最小二乘擬合（1）lsqcurvefit( lsqcurvefit( 是非線性最小二乘擬合函數(shù)，其本質上是求解最優(yōu)化問題。其使用格

6、式為x=lsqcurvefit(fun,x0,xdata,ydata其中，fun是要擬合的非線性函數(shù)，x0是初始參數(shù)，xdata，ydata是擬合點的數(shù)據，該函數(shù)最終返回系數(shù)矩陣。例題假設已知并已知該函數(shù)滿足原型為 ，其中 為待定系數(shù)。在Matlab中輸入以下命令x=0:.1:10;f=inline(a(1*exp(-a(2*x+a(3*exp(-a(4*x.*sin(a(5*x,a,x;%建立函數(shù)原型，則可以根據他來進行下面的求取系數(shù)的計算a,res=lsqcurvefit(f,1,1,1,1,1,x,y;a,res運行結果為ans =0.11970.21250.54040.17021.23

7、00res =7.1637e-007所求得的系數(shù)與原式中的系數(shù)相近。如果向進一步提高精度，則需修改最優(yōu)化的選項，函數(shù)的調用格式也將隨之改變。在Matlab中輸入以下命令ff=optimset;ff.TolFun=1e-20;ff.TolX=1e-15;%修改精度，即是修改其限制條件a,res=lsqcurvefit(f,1,1,1,1,1,x,y,ff;%兩個空矩陣表示系數(shù)向量的上下限a,res運行結果為ans =0.12000.21300.54000.17001.2300res =9.5035e-021下面繪圖x1=0:0.01:10;y1=f(a,x1;plot(x1,y1,x,y,o（2

8、）lsqnonlin( lsqnonlin( 函數(shù)是另一種求最小二乘擬合的函數(shù)，其本質上是求解最優(yōu)化問題最優(yōu)化解。它的應用格式為x=lsqnonlin(fun,x0其中，fun的定義與lsqnonlin( 函數(shù)中fun的定義有差別， x0仍為初始參數(shù)向量，將輸出的系數(shù)結果放在變量 中。說明lsqnonlin(函數(shù)的使用方法。首先編寫目標函數(shù) (curve_fun.mfunction y=curve_fun(p%非線性最小二乘擬合函數(shù)x=0.02 0.02 0.06 0.06 0.11 0.11 0.22 0.22 0.56 0.56 1.10 1.10;y=76 47 97 107 123 1

9、39 159 152 191 201 207 200;y=p(1*x./(p(2+x-y;再用lsqnonlin（）函數(shù)求解，輸入p,resnorm,residual=lsqnonlin(curve_fun,200,0.1運行結果為p =212.68360.0641resnorm =1.1954e+003residual =Columns 1 through 11 -25.43393.56615.8111-4.188911.3617-4.63835.684712.6847-0.1671-10.1671-6.0313Column 120.9687上面的兩種方法都可以作非線性最小二乘曲線擬合（3）

10、非線性函數(shù)的線性化在進行非線性擬合時，以往由于計算機和相關軟件水平有限，常常先把非線性的曲線擬合線性化，然后再進行擬合。下面比較一下先線性化再進行擬合和直接進行非線性擬合的差異。例題已知數(shù)據t0.250.511.523468c19.2118.1515.3614.1012.899.327.455.243.01滿足曲線 通過數(shù)據擬合求出參數(shù)和 。方法一：先將非線性函數(shù)轉化為線性函數(shù)編寫Matlab程序如下d=300;t=0.25 0.5 1 1.5 2 3 4 6 8;c=19.21 18.15 15.36 14.10 12.89 9.32 7.45 5.24 3.01;y=log(c;a=pol

11、yfit(t,y,1運行結果為a =-0.23472.9943k=-a(1k =0.2347v=d/exp(a(2v =15.0219由此也可以求出相關系數(shù)。方法二：應用非線性擬合直接求解系數(shù)建立m文件：function f=curvefun3(x,tdatad=300f=(x(1d*exp(-x(2*tdata%x(1=v;x(2=k運行程序tdata=0.25 0.5 1 1.5 2 3 4 6 8;cdata=19.21 18.15 15.36 14.10 12.89 9.32 7.45 5.24 3.01;x0=10 0.5;x=lsqcurvefit(curvefun3,x0,tda

12、ta,cdata運行結果為x =14.82120.2420下面繪圖f=curvefun3(x,tdata;plot(tdata,cdata,o,tdata,f我們發(fā)現(xiàn)兩種求法求出的系數(shù)很接近。（三）線性擬合和非線性擬合區(qū)別與聯(lián)系在許多實際問題中，變量之間內在的關系并不想前面說的那樣簡單。呈線性關系，但有些非線性擬合曲線可以通過適當?shù)淖兞刻鎿Q轉化為線性曲線，從而用線性擬合進行處理。對于一個實際的曲線擬合問題，一般先根據觀測值在直角坐標平面上描出散點圖，看一看散點的分布同哪類曲線圖形接近，讓后選用相接近的曲線擬合方程，再通過適當?shù)淖兞刻鎿Q轉化為線性擬合問題，按線性擬合解出后再還原為原變量所表示的曲

13、線擬合方程。表1.1線性擬合方程變量變換變換后線性擬合方程Y=,Y=aY=aY=,Y=Y=例題測出一組實際數(shù)據 見下表 是對其進行函數(shù)擬合。X1.10521.22141.34991.49181.64783.6693Y0.67950.60060.53090.46930.41480.1546X1.82212.01382.22552.45962.7183Y0.36660.32410.28640.25320.2238x=1.1052,1.2214,1.3499,1.4918,1.6478,1.8221,2.0138,2.2255,2.4596,2.7183,3.6693;y=0.6795,0.6006,0.5309,0.4693,0.4148,0.3666,0.3241,0.2864,0.2532,0.2238,0.1546;plot(x,y,x,y,*見下