AI筆記: 數學基礎之導數的應用：泰勒Taylor公式

Taylor公式的應用

• 機器學習中廣泛應用，數學建模，線性迴歸，預測等領域

關於Taylor公式

• Taylor公式是用一個函數在某點的信息描述其附近取值的公式，如果函數足夠平滑，在已知函數在某一點的各階導數值的情況下
• Taylor公式可以利用這些導數值來做係數構建一個多項式近似函數在這一點的鄰域中的值
• 若函數f(x)在包含$x_0$的某個閉區間[a,b]上具有n階函數, 且在開區間(a,b)上具有n+1階函數,則對閉區間[a,b]上任意一點x, 有Taylor公式如下
• 注：$f^{(n)}(x)$表示f(x)的n階導數； $R_n(x)$是Taylor公式的餘項, 是$(x-x_0)^n$的高階無窮小

$f(x) = \frac{f(x_0)}{0!} + \frac{f'(x_0)}{1!}(x-x_0) + \frac{f''(x_0)}{2!}(x-x_0)^2 + ... + \frac{f^{(n)(x_0)}}{n!}(x-x_0)^n + R_n(x)$

麥克勞林公式

• 在泰勒公式中，當$x_0 = 0$時，就變成了麥克勞林公式
• 注：$0! = 1, 1! = 1, n! = n*(n-1)!$

$f(x) = \frac{f(0)}{0!} + \frac{f'(0)}{1!} + \frac{f''(0)}{2!}x^2 + ... + \frac{f^{(n)}(0)}{n!}x^n + R_n(x)$

關於Taylor公式的餘項

• Taylor公式：$f(x) = \sum_{k=0}^n \frac{f^{(k)}(x_0)}{k!} (x-x_0)^k + R_n(x)$
• 關於餘項$R_n(x)$
  • 餘項用於平衡誤差
  • 佩亞諾(Peano)餘項：$R_n(x) = o[(x-x_0)^n]$
    • 這裏的’o’比較難以理解，它表示比$(x-x_0)^n$趨向於0的速度還快
    • 同理$o[x^2]$表示比$x^2 \to 0$的速度還快
    • $o[(x-x_0)^n]$表示$(x-x_0)^n$高階無窮小
    • $\lim_{x \to x_0} \frac{o[(x-x_0)^n]}{(x-x_0)^n} = \lim_{x \to x_0} \frac{R_n(x)}{(x-x_0)^n} = 0$ 分子比分母更快的趨向於0，結果爲0
    • 舉例：$o[(x-x_0)^n]$ 可以表示成：$(x-x_0)^{n+1}、(x-x_0)^{n+2}、....$ 只要比$(x-x_0)^n$快就行，就是這個概念
    • 比如設 $R_n(x) = o[(x-x_0)^n] = (x-x_0)^{n+1}$, 則 $\lim_{x \to x_0} \frac{o[(x-x_0)^n]}{(x-x_0)^n} = \lim_{x \to x_0} \frac{(x-x_0)^{n+1}}{(x-x_0)^n} = \lim_{x \to x_0} x-x_0 = 0$
    • 我們稱爲這樣的泰勒展開式爲"含有佩亞諾(Peano)餘項的n階泰勒展開式"
  • 拉格朗日(Lagrange)餘項：$R_n(x) = f^{(n+1)}[x_0 + \theta(x - x_0)] \frac{(x-x_0)^{n+1}}{(n+1)!}$
    • 其中 $x_0 + \theta(x - x_0) = \varphi$ , $0 < \theta < 1$, $x_0 < \varphi < x$
    • 可簡寫爲：$R_n(x) = f^{(n+1)} (\varphi) \frac{(x-x_0)^{n+1}}{(n+1)!}$
    • 我們稱爲這樣的泰勒展開式爲"含有拉格朗日(Lagrange)餘項的n階泰勒展開式"
  • 這是兩位數學家提出的餘項

幾個常見的初等函數的帶有佩亞諾餘項的麥克勞林公式

• $e^x = 1 + x + \frac{1}{2!}x^2 + ... + \frac{1}{n!}x^n + o(x^n)$
  • 這裏$e^x$的n階導數都是它本身, 無懼降維打擊
  • 其次，$e^x = \sum_{n=0}^\infty \frac{x^n}{n!} \ \ x \in R$
  • 進行泰勒展開就有上式
• $sin x = x - \frac{1}{3!}x^3 + ... + \frac{(-1)^{m-1}}{(2m - 1)!} x^{2m -1} + o(x^{2m -1})$
  • $f(x) = sin x, x_0 = 0$
  • $sin'x=cosx、sin''x=-sinx、sin'''x=-cosx、sin^{(4)}x = sinx、sin^{(5)}x = cosx、sin^{(6)}x = -sin x、...$
  • $sinx=0+\frac{1}{1!}x + \frac{0}{2!} + \frac{-1}{3!}x^3 + \frac{0}{4!} + \frac{1}{5!}x^5 + \frac{0}{6!} + \frac{-1}{7!}x^7 + ...$
  • 由此推出上式
• $cos x = 1 - \frac{1}{2!}x^2 + \frac{1}{4!}x^4 - ... + \frac{(-1)^m}{(2m)!}x^{2m} + o(x^{2m})$
  • 同理$sin x$
• $ln(1+x) = x - \frac{1}{2}x^2 + \frac{1}{3}x^3 - ... + \frac{(-1)^{n-1}}{n} x^n + o(x^n)$
  • 這裏是複合函數求導
  • $f(x) = ln(1+x)$
  • $f'(x) = \frac{1}{1+x}, f''(x), f'''(x), ....$
  • 同理推出上式
• $\frac{1}{1 - X} = 1 + x + x^2 + ... + x^n + o(x^n)$
• $(1+x)^m = 1 + mx + \frac{m(m-1)}{2!}x^2 + ... + \frac{m(m-1)...(m-n+1)}{n!}x^n + o(x^n)$

泰勒公式的應用

• 求自然常數e的具體值，將$e^x$進行泰勒展開, 令$x=1$即可
• 歐拉公式(第一宇宙公式)的證明
  • $e^{ix} = cos x + isinx$, 其中 $i^2 = -1$, $i$爲虛數單位
  • 當$x=\pi$時，$e^{i \pi} + 1 = 0$
• 下文會有更多相關應用說明