轉載自:https://www.jb51.net/article/164673.htm
詳細:
1.閔可夫斯基距離(Minkowski Distance)
2.歐氏距離(Euclidean Distance)
3.曼哈頓距離(Manhattan Distance)
4.切比雪夫距離(Chebyshev Distance)
5.夾角餘弦(Cosine)
6.漢明距離(Hamming distance)
7.傑卡德相似係數(Jaccard similarity coefficient)
8.貝葉斯公式
1.閔氏距離的定義:
兩個n維變量A(x11,x12,…,x1n)與 B(x21,x22,…,x2n)間的閔可夫斯基距離定義爲:
其中p是一個變參數。
當p=1時,就是曼哈頓距離
當p=2時,就是歐氏距離
當p→∞時,就是切比雪夫距離
根據變參數的不同,閔氏距離可以表示一類的距離。
1 |
|
2.歐氏距離(Euclidean Distance)
歐氏距離(L2範數)是最易於理解的一種距離計算方法,源自歐氏空間中兩點間的距離公式(如圖1.9)。
python實現歐式距離公式的:
1 2 3 4 5 6 7 8 9 10 |
|
3.曼哈頓距離(Manhattan Distance)
從名字就可以猜出這種距離的計算方法了。想象你在曼哈頓要從一個十字路口開車到另外一個十字路口,駕駛距離是兩點間的直線距離嗎?顯然不是,除非你能穿越大樓。實際駕駛距離就是這個“曼哈頓距離”(L1範數)。而這也是曼哈頓距離名稱的來源,曼哈頓距離也稱爲城市街區距離(City Block distance)(如圖1.10)。
python實現曼哈頓距離:
1 2 3 4 5 6 7 8 |
|
4.切比雪夫距離(Chebyshev Distance)
國際象棋玩過麼?國王走一步能夠移動到相鄰的8個方格中的任意一個(如圖1.11)。那麼國王從格子(x1,y1)走到格子(x2,y2)最少需要多少步?自己走走試試。你會發現最少步數總是max(| x2-x1| , |y2-y1| ) 步。有一種類似的一種距離度量方法叫切比雪夫距離(L∞範數)。
轉存失敗重新上傳取消
Python實現切比雪夫距離:
1 2 3 4 5 6 7 8 9 |
|
5. 夾角餘弦(Cosine)
幾何中夾角餘弦可用來衡量兩個向量方向的差異,機器學習中借用這一概念來衡量樣本向量之間的差異(如圖1.12)。
轉存失敗重新上傳取消
(1)在二維空間中向量A(x1,y1)與向量B(x2,y2)的夾角餘弦公式:
轉存失敗重新上傳取消
(2) 兩個n維樣本點A (x11,x12,…,x1n)與 B(x21,x22,…,x2n)的夾角餘弦
類似的,對於兩個n維樣本點A(x11,x12,…,x1n)與 B(x21,x22,…,x2n),可以使用類似於夾角餘弦的概念來衡量它們間的相似程度。
轉存失敗重新上傳取消
夾角餘弦取值範圍爲[-1,1]。夾角餘弦越大表示兩個向量的夾角越小,夾角餘弦越小表示兩向量的夾角越大。當兩個向量的方向重合時夾角餘弦取最大值1,當兩個向量的方向完全相反夾角餘弦取最小值-1。
python實現夾角餘弦
1 2 3 4 5 6 7 |
|
6. 漢明距離(Hamming distance)
(1)漢明距離的定義
兩個等長字符串s1與s2之間的漢明距離定義爲將其中一個變爲另外一個所需要作的最小替換次數。例如字符串“1111”與“1001”之間的漢明距離爲2。
應用:信息編碼(爲了增強容錯性,應使得編碼間的最小漢明距離儘可能大)。
(2) python實現漢明距離:
1 2 3 4 5 6 7 8 9 |
|
7. 傑卡德相似係數(Jaccard similarity coefficient)
(1) 傑卡德相似係數
兩個集合A和B的交集元素在A,B的並集中所佔的比例,稱爲兩個集合的傑卡德相似係數,用符號J(A,B)表示。
轉存失敗重新上傳取消
(2) 傑卡德距離
與傑卡德相似係數相反的概念是傑卡德距離(Jaccard distance)。傑卡德距離可用如下公式表示:
轉存失敗重新上傳取消
傑卡德距離用兩個集合中不同元素佔所有元素的比例來衡量兩個集合的區分度。
(3) 傑卡德相似係數與傑卡德距離的應用
可將傑卡德相似係數用在衡量樣本的相似度上。
樣本A與樣本B是兩個n維向量,而且所有維度的取值都是0或1。例如:A(0111)和B(1011)。我們將樣本看成是一個集合,1表示集合包含該元素,0表示集合不包含該元素。
P:樣本A與B都是1的維度的個數
q:樣本A是1,樣本B是0的維度的個數
r:樣本A是0,樣本B是1的維度的個數
s:樣本A與B都是0的維度的個數
那麼樣本A與B的傑卡德相似係數可以表示爲:
這裏p+q+r可理解爲A與B的並集的元素個數,而p是A與B的交集的元素個數。
Python實現傑卡德距離:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
|
8. 經典貝葉斯公式
原: P(AB)=P(A | B)·P(B)=P(B | A)·P(A)
轉存失敗重新上傳取消
本例,我們不去研究黃色的蘋果與黃色的梨有什麼差別。而承認其統計規律:蘋果是紅色的概率是0.8,蘋果是黃色的概率就是1-0.8=0.2,而梨是黃色的概率是0.9,將其作爲先驗概率。有了這個先驗概率,就可以利用抽樣,即任取一個水果,前提是抽樣對總體的概率分佈沒有影響,通過它的某個特徵來劃分其所屬的類別。黃色是蘋果和梨共有的特徵,因此,既有可能是蘋果也有可能是梨,概率計算的意義在於得到這個水果更有可能的那一種。
條件: 10個蘋果10個梨子
用數學的語言來表達,就是已知:
1 |
|
求P(梨|黃色):
1 2 3 |
|
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。