最近做項目遇到曲線擬合的問題，簡單做個總結。
1. 曲線擬合
先扔出一點基本概念：
如果已知函數f(x)在若干點xi（i = 1,2,……n）處的值爲yi，便可根據插值原理建立插值多項式作爲f(x)的近似。但在科學實驗和生產實踐中，往往會遇到這樣一種情況，即節點上的函數值並不是很精確的，這些函數值是由實驗或觀測得到的數據，不可避免的帶有測量誤差，如果要求所得的近似函數曲線精確無誤的通過所有的點（xi, yi），就會使曲線保留着一切測試誤差。所以希望從給定的數據（xi, yi）出發，構造一個近似函數ψ(x)，能反映數據的基本趨勢即可。
2. 最小二乘法
對於曲線擬合函數ψ(x)，不要求其嚴格的通過所有數據點，也就是說擬合函數ψ(x)在xi處的偏差（亦稱殘差）不都嚴格的等於零，即爲矛盾方程組：
爲了是近似曲線能儘量反映所給數據點的變化趨勢，要求偏差按照某種度量標準最小。這後面的分析用到了範數的概念，這個不太懂，感興趣的可以查看《數值分析》相關內容。總之，結論是要求誤差的平方和最小，即要求下式具有最小值。
這種方法就叫做曲線擬合的最小二乘法。歸根結底是求上式的極小值。
3. 二次函數擬合
假設擬合方程爲二次曲線：
已知數據點（xi, yi），i = 1,2,……n，該近似擬合曲線的均方誤差爲：
要求上式的極小值，那麼歸結爲多元函數求極值的問題，立刻就會想到求導，則有：
求導過程如下：
可以將上面的結果，將上述線性方程組轉換爲矩陣方程，即：
其係數行列式（行列式符號錯了，懶得改）爲：
其值若不爲0，則方程組有解，另外：
由此可以解得二次曲線的各系數：
4. 高斯擬合
高斯函數形式如下：
直接採用最小二乘法，其均方誤差爲：
直接這樣計算比較複雜，可以先對高斯函數兩邊求對數，則均方誤差可以改寫爲：
從形式上化爲了二次函數，則可用多項式擬合的方法做相應的計算。