原创 [C++]談一談const關鍵字
C++中的const關鍵字 const關鍵字的作用 在編程的時候我們常常需要定義一種變量，但是這種變量的值是不變的，例如定義pi=3.14，e=2.72或者定義一種材料的彈性模量等，這時候需要用到const關鍵字 const pi
2020-06-25 13:29:23
原创 [最優化]求解線性方程組(1)
求解線性方程組（1） 最小二乘分析 在本文中將討論線性方程組中的一種情況的求解，即考慮線性方程組 Ax=bAx=b 其中，A∈Rm∗n,b∈Rm,m≥n,rank(A)=nA∈Rm∗n,b∈Rm,m≥n,rank(A)=n ，在
2020-06-25 13:29:11
原创 [機器學習]SVM的推導(3)
軟間隔SVM的推導 前文介紹了硬間隔SVM的相關推導，本文將繼續介紹軟間隔SVM的數學推導，即在樣本不是線性可分的情況下，允許一部分樣本錯誤分類的SVM。軟間隔SVM允許一部分樣本不滿足約束：yi(w⋅xi)≥0yi(w⋅xi)≥
2020-06-25 13:29:11
原创 [最優化]求解線性方程組(3)
求解線性方程組(3) 矩陣的僞逆 這裏所介紹的僞逆是Moore-Penrose逆矩陣，其定義爲：給定矩陣A∈Rm∗nA∈Rm∗n ，如果矩陣A†∈Rn∗mA†∈Rn∗m 滿足AA†A=AAA†A=A ，且存在兩個矩陣U∈Rn∗n,
2020-06-25 13:29:11
原创 [C++]C++中的順序容器
C++中的順序容器 概述 一個容器就是一些特定類型對象的集合。順序容器提供了控制元素存儲和訪問順序的能力。 順序容器類型 vector：可變大小數組，支持快速隨機訪問 deque：雙端隊列，支持快速隨機訪問 list：雙向鏈表
2020-06-25 13:29:08
原创 [最優化]求解線性規劃問題的單純形算法
單純形算法 1947年，丹齊格提出了一種求解線性規劃問題的方法，即今天所稱的單純形法，這是一種簡潔且高效的算法，被譽爲20世紀對科學發展和工程實踐影響最大的十大算法之一。 上文提到線性規劃問題的最優解一定是基本可行解，單純形法的
2020-06-25 13:29:08
原创 [最優化]等式約束的優化問題求解
等式約束的優化問題求解 基本概念 本文將討論下類形狀的優化問題 minimizef(x)subject toh(x)=0minimizef(x)subject toh(x)=0 其中x∈Rn,f:Rn→R,h:Rn→Rm,h=
2020-06-25 13:29:07
原创 [C++]C++函數中的參數傳遞
C++函數中的參數傳遞 在C++程序中，調用函數的時候需要向函數傳入一個參數，除了空參數(void)之外，參數傳遞分爲引用傳遞和值傳遞兩種 引用傳遞和值傳遞 當形參是引用類型時，稱之對應的實參被引用傳遞，或者函數被傳引用調用。和其
2020-02-21 15:45:43
原创 [最優化]線性規劃概述
線性規劃 在最優化問題中有一類問題被稱作線性規劃問題，屬於有約束下的優化問題，線性規劃是在線性約束條件下（等式或不等式）求解線性目標函數極值的問題。 線性規劃問題的標準模型 線性規劃的標準模型爲 minimize cT
2020-02-21 15:45:42
原创 [LeetCode]動態規劃中股票問題的通用解法
動態規劃中股票問題的通用解法 有一類動態規劃的問題是給定一個股票價格序列，然後計算買賣股票所能獲得的最大收益，這類問題通常有很多變種，例如只允許交易一次，允許交易多次或者增收交易稅等。即問題的最大收益通常由交易的時間和允許的最大交易次
2018-09-16 23:34:12
2
原创 [最優化]凸集的定義與常見凸集
凸集的定義與常見凸集 通常認爲，如果某個實際問題可以表述爲凸優化問題，那麼事實上已經解決了這個問題，然而凸優化問題的識別還比較困難，本文將先介紹凸集的定義與常見凸集。 仿射集 如果集合 C⊆RnC⊆Rn 是仿射的，等價於：對於任意的 x
2018-09-04 15:40:50
原创 [機器學習]神經網絡反向傳播的推導
神經網絡反向傳播的推導 對於神經網絡的訓練過程而言，其反向傳播算法是訓練過程的核心，神經網絡根據預測值y^y^ 與實際值yy 的偏差從後向前來計算損失函數對於各個參數的梯度，從而利用梯度下降的方法來優化訓練神經網絡的各個參數。 神經網絡的
2018-08-24 20:47:44
3
原创 [C++]C++中的IO類
C++中的IO類 C++語言不直接處理輸入輸出，而是通過一組定義在標準庫中的類型來處理IO。這些類型支持從設備讀取數據，向設備寫入數據的IO操作，設備可以是文件，控制檯窗口等。還有一些類型允許內存IO，即從string讀取數據，向stri
2018-08-24 20:47:44
2
原创 [最優化]線性規劃中的對偶問題
線性規劃中的對偶問題 每個線性規劃問題都有一個與之對應的對偶問題，對偶問題也是一個線性規劃問題，並且對偶問題的對偶問題是原問題。原問題的最優解可以由對偶問題得到，有時候利用對偶理論求解線性規劃問題更加簡單，也更能瞭解問題的本質。在對偶理論
2018-08-24 20:47:42
2
原创 [最優化]求解線性方程組(2)
求解線性方程組(2) 線性方程組的最小范數解 上一篇博文介紹了線性方程組的情況之一，即未知數數量小於方程個數的情況，介紹了最小二乘法，在本文中將介紹線性方程組的另一種情況，即方程個數小於未知數數量的情況，此時方程組有無限多的解，但是最接近
2018-08-24 20:47:39
3