布隆過濾器(Bloom Filter)Java實現

布隆過濾器原理很簡單:就是把一個字符串哈希成一個整數key,然後選取一個很長的比特序列,開始都是0,在key把此位置的0變爲1;下次進來一個字符串,哈希之後的值key,如果在此比特位上的值也是1,那麼就說明這個字符串存在了。

如果按照上面的做法,那就和哈希算法沒有什麼區別了,哈希算法還有重複的呢。

布隆過濾器是將一個字符串哈希成多個key,我還是按照書上的說吧。

先建立一個16億二進制常量,然後將這16億個二進制位全部置0。對於每個字符串,用8個不同的隨機產生器(F1,F2,.....,F8)產生8個信息指紋(f1,f2,....,f8).再用一個隨機數產生器G把這八個信息指紋映射到1到16億中的8個自然數g1,g2,...,g8。現在把這8個位置的二進制位全部變爲1。這樣一個布隆過濾器就建好了。

那麼如何檢測一個字符串是否已經存在了呢?

現在用8個隨機數產生器(F1,F2,...,F8)對這個字符串產生8個信息指紋s1,s2,...,s8,然後將這8個信息指紋對應到布隆過濾器的8個二進制位,分別是T1,T2,...,T8.如果字符串存在,那麼顯然T1,T2,...,T8對應的二進制位都應該是1。就是這樣來判斷字符串是否已經存在的。

其實布隆過濾器就是對哈希算法的一個擴展,既然本質是哈希,那麼就肯定會有不足,也就是說,肯定會有誤判,一個字符串明明沒有出現過而布隆過濾器判斷出現了,雖然可能性很小,但是確實存在。

那麼如何減少這種概率呢,首先可以想到的是如果將8個信息指紋擴展到16個錯誤的概率肯定會降低,但是也要考慮到,這樣的話,那麼一個布隆過濾器所能存儲的字符串數量也降低了1倍;另外就是選取很好的哈希函數,對字符串的哈希方法有很多種,其中不乏很好的哈希函數。

布隆過濾器主要運用在過濾惡意網址用的,將所有的惡意網址建立在一個布隆過濾器上,然後對用戶的訪問的網址進行檢測,如果在惡意網址中那麼就通知用戶。這樣的話,我們還可以對一些常出現判斷錯誤的網址設定一個白名單,然後對出現判斷存在的網址再和白名單中的網址進行匹配,如果在白名單中,那麼就放行。當然這個白名單不能太大,也不會太大,布隆過濾器錯誤的概率是很小的。有興趣的讀者可以去查閱,布隆過濾器的錯誤率。

下面給出Java版的布隆過濾器源碼:


[java] view plain copy print?

  1. import java.util.BitSet;  

  2.   

  3. /** 

  4.  * 

  5.  * @author xkey 

  6.  */  

  7. public class BloomFilter {  

  8.   

  9.     private static final int DEFAULT_SIZE = 2 << 24;//布隆過濾器的比特長度  

  10.     private static final int[] seeds = {3,5,71113313761};//這裏要選取質數,能很好的降低錯誤率  

  11.     private static BitSet bits = new BitSet(DEFAULT_SIZE);  

  12.     private static SimpleHash[] func = new SimpleHash[seeds.length];  

  13.   

  14.     public static void addValue(String value)  

  15.     {  

  16.         for(SimpleHash f : func)//將字符串value哈希爲8個或多個整數,然後在這些整數的bit上變爲1  

  17.             bits.set(f.hash(value),true);  

  18.     }  

  19.       

  20.     public static void add(String value)  

  21.     {  

  22.         if(value != null) addValue(value);  

  23.     }  

  24.       

  25.     public static boolean contains(String value)  

  26.     {  

  27.         if(value == nullreturn false;  

  28.         boolean ret = true;  

  29.         for(SimpleHash f : func)//這裏其實沒必要全部跑完,只要一次ret==false那麼就不包含這個字符串  

  30.             ret = ret && bits.get(f.hash(value));  

  31.         return ret;  

  32.     }  

  33.       

  34.     public static void main(String[] args) {  

  35.         String value = "[email protected]";  

  36.         for (int i = 0; i < seeds.length; i++) {  

  37.             func[i] = new SimpleHash(DEFAULT_SIZE, seeds[i]);  

  38.         }  

  39.         add(value);  

  40.         System.out.println(contains(value));  

  41.     }  

  42. }  

  43.   

  44. class SimpleHash {//這玩意相當於C++中的結構體  

  45.   

  46.     private int cap;  

  47.     private int seed;  

  48.   

  49.     public  SimpleHash(int cap, int seed) {  

  50.         this.cap = cap;  

  51.         this.seed = seed;  

  52.     }  

  53.   

  54.     public int hash(String value) {//字符串哈希,選取好的哈希函數很重要  

  55.         int result = 0;  

  56.         int len = value.length();  

  57.         for (int i = 0; i < len; i++) {  

  58.             result = seed * result + value.charAt(i);  

  59.         }  

  60.         return (cap - 1) & result;  

  61.     }  

  62. }  



總結:布隆過濾器是對哈希算法的一種創新,而且需要消耗的空間也很小,錯誤率很低。總之這種創新的思路很值得學習,是一種對bit這種數據類型的運用。


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章