Jensen不等式講解與證明

琴生不等式，是由丹麥數學家約翰•延森（Johan Jensen）命名，也成爲Jensen不等式或者詹森不等式。碼字不易，喜歡請點贊，謝謝！！！有問題隨時歡迎交流。

首先，對於如凸函數$f(x)$，對任意$0<=\alpha <=1$，有如下不等式成立：
$\alpha f(x)+(1-\alpha)f(y)>=f(\alpha x+(1-\alpha)y)$
如下圖所示。

現在我們證明對於凸函數$f(x)$來說，對任意$\lambda _j>=0$，並且有$\sum_{j=1}^{J}\lambda _j=1$，如下不等式成立：
$\sum_{j=1}^{J}\lambda _jf(x_j)>=f(\sum_{j=1}^{J}\lambda _jx_j)$
上面這個不等式就是著名的Jensen不等式。

證明：下面是Jensen不等式的證明
（1）首先對於$J=1$，很明顯不等式成立；
（2）對於$J=2$，由上面的凸函數圖可知，$\lambda _1f(x_1)+\lambda _2f(x_2)>=f(\lambda _1x_1+\lambda _2x_2)$，不等式成立；
（3）假設當$J=n$時，不等式成立，即$\sum_{j=1}^{n}\lambda _jf(x_j)>=f(\sum_{j=1}^{n}\lambda _jx_j)$
下面證明$J=n+1$時不等式成立即可：
$\begin{aligned} \sum_{j=1}^{n+1}\lambda _jf(x_j) = &\lambda _{n+1}f(x_{n+1})+\sum_{j=1}^{n}\lambda _jf(x_j)\\ &=\lambda _{n+1}f(x_{n+1})+({1-\lambda _{n+1}})\sum_{j=1}^{n}\frac{\lambda _j}{1-\lambda _{n+1}}f(x_j)\\ &>=\lambda _{n+1}f(x_{n+1})+({1-\lambda _{n+1}})f(\sum_{j=1}^{n}\frac{\lambda _j}{1-\lambda _{n+1}}x_j)\\ &>=f(\lambda _{n+1}x_{n+1}+({1-\lambda _{n+1}})\sum_{j=1}^{n}\frac{\lambda _j}{1-\lambda _{n+1}}x_j)\\ &=f(\lambda _{n+1}x_{n+1}+\sum_{j=1}^{n}\lambda _jx_j)\\ &=f(\sum_{j=1}^{n+1}\lambda _jx_j)\\ \end{aligned}$
因此，當$J=n+1$時，不等式成立。

通過上面三步的即證明了Jensen不等式成立。

同樣可以證明：對於凹函數$f(x)$來說，對任意$\lambda _j>=0$，並且有$\sum_{j=1}^{J}\lambda _j=1$，如下不等式成立：
$\sum_{j=1}^{J}\lambda _jf(x_j)<=f(\sum_{j=1}^{J}\lambda _jx_j)$