Java技術體驗,HTTP多線程下載,端口偵聽和自啓動服務

我就把幾個技術整合到了一起。包括三個部分，實現時也是逐個做到的

1. 多線程的文件下載，HTTP協議
2. 把這個功能做成一個HTTP的服務，偵聽在某個端口上，方便非Java的系統使用
3. 把這個功能封裝爲一個Windows服務，在機器啓動時可以自動啓動

我們逐個看程序。

一、多線程下載

這個主要使用了HTTP協議裏面的一個Range參數，他設置了你讀取數據的其實位置和終止位置。 經常使用flashget的用戶在查看連接的詳細信息時，應該經常看到這個東西。比如

Range:bytes=100-2000

代表從100個字節的位置開始讀取，到2000個字節的位置結束，應讀取1900個字節。

程序首先拿到文件的長度，然後分配幾個線程去分別讀取各自的一段，使用了
RandomAccessFile
進行隨機位置的讀寫。

下面是完整的下載的代碼。

1. package net.java2000.tools;
3. import java.io.BufferedInputStream;
4. import java.io.File;
5. import java.io.IOException;
6. import java.io.RandomAccessFile;
7. import java.net.URL;
8. import java.net.URLConnection;
10. /**
11.  * HTTP的多線程下載工具。
12.  * 
13.  * @author 趙學慶 www.java2000.net
14.  */
15. public class HTTPDownloader extends Thread {
16.   // 要下載的頁面
17.   private String page;
19.   // 保存的路徑
20.   private String savePath;
22.   // 線程數
23.   private int threadNumber = 2;
25.   // 來源地址
26.   private String referer;
28.   // 最小的塊尺寸。如果文件尺寸除以線程數小於這個，則會減少線程數。
29.   private int MIN_BLOCK = 10 * 1024;
31.   public static void main(String[] args) throws Exception {
32.     HTTPDownloader d = new HTTPDownloader("http://www.xxxx.net/xxxx.rar", "d://xxxx.rar", 10);
33.     d.down();
34.   }
36.   public void run() {
37.     try {
38.       down();
39.     } catch (Exception e) {
40.       e.printStackTrace();
41.     }
42.   }
44.   /**
45.    * 下載操作
46.    * 
47.    * @throws Exception
48.    */
49.   public void down() throws Exception {
50.     URL url = new URL(page); // 創建URL
51.     URLConnection con = url.openConnection(); // 建立連接
52.     int contentLen = con.getContentLength(); // 獲得資源長度
53.     if (contentLen / MIN_BLOCK + 1 < threadNumber) {
54.       threadNumber = contentLen / MIN_BLOCK + 1; // 調整下載線程數
55.     }
56.     if (threadNumber > 10) {
57.       threadNumber = 10;
58.     }
59.     int begin = 0;
60.     int step = contentLen / threadNumber;
61.     int end = 0;
62.     for (int i = 0; i < threadNumber; i++) {
63.       end += step;
64.       if (end > contentLen) {
65.         end = contentLen;
66.       }
67.       new HTTPDownloaderThread(this, i, begin, end).start();
68.       begin = end;
69.     }
70.   }
72.   public HTTPDownloader() {
73.   }
75.   /**
76.    * 下載
77.    * 
78.    * @param page 被下載的頁面
79.    * @param savePath 保存的路徑
80.    */
81.   public HTTPDownloader(String page, String savePath) {
82.     this(page, savePath, 10);
83.   }
85.   /**
86.    * 下載
87.    * 
88.    * @param page 被下載的頁面
89.    * @param savePath 保存的路徑
90.    * @param threadNumber 線程數
91.    */
92.   public HTTPDownloader(String page, String savePath, int threadNumber) {
93.     this(page, page, savePath, 10);
94.   }
96.   /**
97.    * 下載
98.    * 
99.    * @param page 被下載的頁面
100.    * @param savePath 保存的路徑
101.    * @param threadNumber 線程數
102.    * @param referer 來源
103.    */
104.   public HTTPDownloader(String page, String referer, String savePath, int threadNumber) {
105.     this.page = page;
106.     this.savePath = savePath;
107.     this.threadNumber = threadNumber;
108.     this.referer = referer;
109.   }
111.   public String getPage() {
112.     return page;
113.   }
115.   public void setPage(String page) {
116.     this.page = page;
117.   }
119.   public String getSavePath() {
120.     return savePath;
121.   }
123.   public void setSavePath(String savePath) {
124.     this.savePath = savePath;
125.   }
127.   public int getThreadNumber() {
128.     return threadNumber;
129.   }
131.   public void setThreadNumber(int threadNumber) {
132.     this.threadNumber = threadNumber;
133.   }
135.   public String getReferer() {
136.     return referer;
137.   }
139.   public void setReferer(String referer) {
140.     this.referer = referer;
141.   }
142. }
144. /**
145.  * 下載線程
146.  * 
147.  * @author 趙學慶 www.java2000.net
148.  */
149. class HTTPDownloaderThread extends Thread {
150.   HTTPDownloader manager;
152.   int startPos;
154.   int endPos;
156.   int id;
158.   int curPos;
160.   int BUFFER_SIZE = 4096;
162.   int readByte = 0;
164.   HTTPDownloaderThread(HTTPDownloader manager, int id, int startPos, int endPos) {
165.     this.id = id;
166.     this.manager = manager;
167.     this.startPos = startPos;
168.     this.endPos = endPos;
169.   }
171.   public void run() {
172.     // System.out.println("線程" + id + "啓動");
173.     // 創建一個buff
174.     BufferedInputStream bis = null;
175.     RandomAccessFile fos = null;
176.     // 緩衝區大小
177.     byte[] buf = new byte[BUFFER_SIZE];
178.     URLConnection con = null;
179.     try {
180.       File file = new File(manager.getSavePath());
181.       // 創建RandomAccessFile
182.       fos = new RandomAccessFile(file, "rw");
183.       // 從startPos開始
184.       fos.seek(startPos);
185.       // 創建連接,這裏會爲每個線程都創建一個連接
186.       URL url = new URL(manager.getPage());
187.       con = url.openConnection();
188.       con.setAllowUserInteraction(true);
189.       curPos = startPos;
190.       // 設置獲取資源數據的範圍,從startPos到endPos
191.       con.setRequestProperty("Range", "bytes=" + startPos + "-" + endPos);
192.       // 盜鏈解決
193.       con.setRequestProperty("referer", manager.getReferer() == null ? manager.getPage() : manager.getReferer());
194.       con.setRequestProperty("userAgent", "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)");
195.       // 下面一段向根據文件寫入數據,curPos爲當前寫入的未知,這裏會判斷是否小於endPos,
196.       // 如果超過endPos就代表該線程已經執行完畢
197.       bis = new BufferedInputStream(con.getInputStream());
198.       while (curPos < endPos) {
199.         int len = bis.read(buf, 0, BUFFER_SIZE);
200.         if (len == -1) {
201.           break;
202.         }
203.         fos.write(buf, 0, len);
204.         curPos = curPos + len;
205.         if (curPos > endPos) {
206.           // 獲取正確讀取的字節數
207.           readByte += len - (curPos - endPos) + 1;
208.         } else {
209.           readByte += len;
210.         }
211.       }
212.       // System.out.println("線程" + id + "已經下載完畢:" + readByte);
213.       bis.close();
214.       fos.close();
215.     } catch (IOException ex) {
216.       ex.printStackTrace();
217.     }
218.   }
219. }

二、做成Http的服務，偵聽某個端口
使用了JDK6的特性，大家自己看代碼吧，並不複雜

1. package net.java2000.tools;
3. import java.io.IOException;
4. import java.io.OutputStream;
5. import java.net.InetSocketAddress;
6. import java.net.URLDecoder;
7. import java.util.regex.Matcher;
8. import java.util.regex.Pattern;
9. import com.sun.net.httpserver.HttpExchange;
10. import com.sun.net.httpserver.HttpHandler;
11. import com.sun.net.httpserver.HttpServer;
12. import com.sun.net.httpserver.spi.HttpServerProvider;
14. /**
15.  * 下載程序的服務版本。<br>
16.  * 可以供其它程序調用，而不是侷限於java
17.  * 
18.  * @author 趙學慶 www.java2000.net
19.  */
20. public class HTTPDownloadService {
21.   /**
22.    * @param args
23.    * @throws IOException
24.    */
25.   public static void main(String[] args) throws IOException {
26.     HttpServerProvider httpServerProvider = HttpServerProvider.provider();
27.     int port = 60080;
28.     if (args.length > 0) {
29.       try {
30.         port = Integer.parseInt(args[0]);
31.       } catch (Exception ex) {}
32.     }
33.     // 綁定端口
34.     InetSocketAddress addr = new InetSocketAddress(port);
35.     HttpServer httpServer = httpServerProvider.createHttpServer(addr, 1);
36.     httpServer.createContext("/", new HTTPDownloaderServiceHandler());
37.     httpServer.setExecutor(null);
38.     httpServer.start();
39.     System.out.println("started");
40.   }
41. }
43. /**
44.  * 下載的服務器
45.  * 
46.  * @author 趙學慶 www.java2000.net
47.  */
48. class HTTPDownloaderServiceHandler implements HttpHandler {
49.   private static Pattern p = Pattern.compile("//?page=(.*?)//&rpage=(.*?)&savepath=(.*)$");
51.   public void handle(HttpExchange httpExchange) {
52.     try {
53.       Matcher m = p.matcher(httpExchange.getRequestURI().toString());
54.       String response = "OK";
55.       if (m.find()) {
56.         try {
57.           new HTTPDownloader(URLDecoder.decode(m.group(1), "GBK"), URLDecoder.decode(m.group(2), "GBK"), URLDecoder.decode(m.group(3), "GBK"), 10).start();
58.         } catch (Exception e) {
59.           response = "ERROR -1";
60.           e.printStackTrace();
61.         }
62.       } else {
63.         response = "ERROR 1";
64.       }
65.       httpExchange.sendResponseHeaders(200, response.getBytes().length);
66.       OutputStream out = httpExchange.getResponseBody();
67.       out.write(response.getBytes());
68.       out.close();
69.       httpExchange.close();
70.     } catch (Exception ex) {
71.       ex.printStackTrace();
72.     }
73.   }
74. }

這個程序可以單獨運行的，通過
http://127.0.0.1:60080
訪問，參數是固定順序的，比如
http://127.0.0.1:60080?page=http://www.csdn.net&rpage=http://blog.csdn.net&savepath=d:/csdn.html

三個參數分別代表了
page = 被下載的頁面
rpage = referer的頁面，用來對付防盜鏈的系統
savepath = 下載後保存的文件




三、改造成Windows的服務

主要使用了這個技術，不是很複雜 http://www.java2000.net/p598


所需要的東西我已經全部提供，且提供了一個完整的zip包供下載學習和研究用。