Java的文件讀寫操作


當我們讀寫文本文件的時候,採用Reader是非常方便的,比如FileReader,InputStreamReader和BufferedReader。其中最重要的類是InputStreamReader, 它是字節轉換爲字符的橋樑。你可以在構造器重指定編碼的方式,如果不指定的話將採用底層操作系統的默認編碼方式,例如GBK等。使用FileReader讀取文件:

[java] view plain copy
  1. FileReader fr = new FileReader("ming.txt");    
  2.   
  3. int ch = 0;    
  4.   
  5. while((ch = fr.read())!=-1 )   
  6.   
  7.   {     
[java] view plain copy
  1. System.out.print((char)ch);     
[java] view plain copy
  1. }   

其中read()方法返回的是讀取得下個字符。當然你也可以使用read(char[] ch,int off,int length)這和處理二進制文件的時候類似。

事實上在FileReader中的方法都是從InputStreamReader中繼承過來的。read()方法是比較好費時間的,如果爲了提高效率我們可以使用BufferedReader對Reader進行包裝,這樣可以提高讀取得速度,我們可以一行一行的讀取文本,使用readLine()方法。

BufferedReader br = new BufferedReader(new InputStreamReader(new FileInputStream("ming.txt")));
String data = null;
while((data = br.readLine())!=null)
{
System.out.println(data); 
}

瞭解了FileReader操作使用FileWriter寫文件就簡單了,這裏不贅述。

Eg.我的綜合實例

testFile:

[java] view plain copy
  1. import java.io.File;  
  2. import java.io.FileInputStream;  
  3. import java.io.FileNotFoundException;  
  4. import java.io.FileOutputStream;  
  5. import java.io.IOException;  
  6. import java.io.InputStreamReader;  
  7.   
  8. public class testFile {  
  9.     /** 
  10.      * @param args 
  11.      */  
  12.     public static void main(String[] args) {  
  13.         // TODO Auto-generated method stub  
  14.         // file(內存)----輸入流---->【程序】----輸出流---->file(內存)  
  15.         File file = new File("d:/temp""addfile.txt");  
  16.         try {  
  17.             file.createNewFile(); // 創建文件  
  18.         } catch (IOException e) {  
  19.             // TODO Auto-generated catch block  
  20.             e.printStackTrace();  
  21.         }  
  22.   
  23.         // 向文件寫入內容(輸出流)  
  24.         String str = "親愛的小南瓜!";  
  25.         byte bt[] = new byte[1024];  
  26.         bt = str.getBytes();  
  27.         try {  
  28.             FileOutputStream in = new FileOutputStream(file);  
  29.             try {  
  30.                 in.write(bt, 0, bt.length);  
  31.                 in.close();  
  32.                 // boolean success=true;  
  33.                 // System.out.println("寫入文件成功");  
  34.             } catch (IOException e) {  
  35.                 // TODO Auto-generated catch block  
  36.                 e.printStackTrace();  
  37.             }  
  38.         } catch (FileNotFoundException e) {  
  39.             // TODO Auto-generated catch block  
  40.             e.printStackTrace();  
  41.         }  
  42.         try {  
  43.             // 讀取文件內容 (輸入流)  
  44.             FileInputStream out = new FileInputStream(file);  
  45.             InputStreamReader isr = new InputStreamReader(out);  
  46.             int ch = 0;  
  47.             while ((ch = isr.read()) != -1) {  
  48.                 System.out.print((char) ch);  
  49.             }  
  50.         } catch (Exception e) {  
  51.             // TODO: handle exception  
  52.         }  
  53.     }  
  54. }  


java中多種方式讀文件


[java] view plain copy
  1. //------------------參考資料---------------------------------  
  2. //  
  3. //1、按字節讀取文件內容  
  4. //2、按字符讀取文件內容  
  5. //3、按行讀取文件內容  
  6. //4、隨機讀取文件內容  
  7.   
  8. import java.io.BufferedReader;  
  9. import java.io.File;  
  10. import java.io.FileInputStream;  
  11. import java.io.FileReader;  
  12. import java.io.IOException;  
  13. import java.io.InputStream;  
  14. import java.io.InputStreamReader;  
  15. import java.io.RandomAccessFile;  
  16. import java.io.Reader;  
  17.   
  18. public class ReadFromFile {  
  19.     /** 
  20.      * 以字節爲單位讀取文件,常用於讀二進制文件,如圖片、聲音、影像等文件。 
  21.      *  
  22.      * @param fileName 
  23.      *            文件的名 
  24.      */  
  25.     public static void readFileByBytes(String fileName) {  
  26.         File file = new File(fileName);  
  27.         InputStream in = null;  
  28.         try {  
  29.             System.out.println("以字節爲單位讀取文件內容,一次讀一個字節:");  
  30.             // 一次讀一個字節  
  31.             in = new FileInputStream(file);  
  32.             int tempbyte;  
  33.             while ((tempbyte = in.read()) != -1) {  
  34.                 System.out.write(tempbyte);  
  35.             }  
  36.             in.close();  
  37.         } catch (IOException e) {  
  38.             e.printStackTrace();  
  39.             return;  
  40.         }  
  41.         try {  
  42.             System.out.println("以字節爲單位讀取文件內容,一次讀多個字節:");  
  43.             // 一次讀多個字節  
  44.             byte[] tempbytes = new byte[100];  
  45.             int byteread = 0;  
  46.             in = new FileInputStream(fileName);  
  47.             ReadFromFile.showAvailableBytes(in);  
  48.             // 讀入多個字節到字節數組中,byteread爲一次讀入的字節數  
  49.             while ((byteread = in.read(tempbytes)) != -1) {  
  50.                 System.out.write(tempbytes, 0, byteread);  
  51.             }  
  52.         } catch (Exception e1) {  
  53.             e1.printStackTrace();  
  54.         } finally {  
  55.             if (in != null) {  
  56.                 try {  
  57.                     in.close();  
  58.                 } catch (IOException e1) {  
  59.                 }  
  60.             }  
  61.         }  
  62.     }  
  63.   
  64.     /** 
  65.      * 以字符爲單位讀取文件,常用於讀文本,數字等類型的文件 
  66.      *  
  67.      * @param fileName 
  68.      *            文件名 
  69.      */  
  70.     public static void readFileByChars(String fileName) {  
  71.         File file = new File(fileName);  
  72.         Reader reader = null;  
  73.         try {  
  74.             System.out.println("以字符爲單位讀取文件內容,一次讀一個字節:");  
  75.             // 一次讀一個字符  
  76.             reader = new InputStreamReader(new FileInputStream(file));  
  77.             int tempchar;  
  78.             while ((tempchar = reader.read()) != -1) {  
  79.                 // 對於windows下,rn這兩個字符在一起時,表示一個換行。  
  80.                 // 但如果這兩個字符分開顯示時,會換兩次行。  
  81.                 // 因此,屏蔽掉r,或者屏蔽n。否則,將會多出很多空行。  
  82.                 if (((char) tempchar) != 'r') {  
  83.                     System.out.print((char) tempchar);  
  84.                 }  
  85.             }  
  86.             reader.close();  
  87.         } catch (Exception e) {  
  88.             e.printStackTrace();  
  89.         }  
  90.         try {  
  91.             System.out.println("以字符爲單位讀取文件內容,一次讀多個字節:");  
  92.             // 一次讀多個字符  
  93.             char[] tempchars = new char[30];  
  94.             int charread = 0;  
  95.             reader = new InputStreamReader(new FileInputStream(fileName));  
  96.             // 讀入多個字符到字符數組中,charread爲一次讀取字符數  
  97.             while ((charread = reader.read(tempchars)) != -1) {  
  98.                 // 同樣屏蔽掉r不顯示  
  99.                 if ((charread == tempchars.length)  
  100.                         && (tempchars[tempchars.length - 1] != 'r')) {  
  101.                     System.out.print(tempchars);  
  102.                 } else {  
  103.                     for (int i = 0; i < charread; i++) {  
  104.                         if (tempchars[i] == 'r') {  
  105.                             continue;  
  106.                         } else {  
  107.                             System.out.print(tempchars[i]);  
  108.                         }  
  109.                     }  
  110.                 }  
  111.             }  
  112.         } catch (Exception e1) {  
  113.             e1.printStackTrace();  
  114.         } finally {  
  115.             if (reader != null) {  
  116.                 try {  
  117.                     reader.close();  
  118.                 } catch (IOException e1) {  
  119.                 }  
  120.             }  
  121.         }  
  122.     }  
  123.   
  124.     /** 
  125.      * 以行爲單位讀取文件,常用於讀面向行的格式化文件 
  126.      *  
  127.      * @param fileName 
  128.      *            文件名 
  129.      */  
  130.     public static void readFileByLines(String fileName) {  
  131.         File file = new File(fileName);  
  132.         BufferedReader reader = null;  
  133.         try {  
  134.             System.out.println("以行爲單位讀取文件內容,一次讀一整行:");  
  135.             reader = new BufferedReader(new FileReader(file));  
  136.             String tempString = null;  
  137.             int line = 1;  
  138.             // 一次讀入一行,直到讀入null爲文件結束  
  139.             while ((tempString = reader.readLine()) != null) {  
  140.                 // 顯示行號  
  141.                 System.out.println("line " + line + ": " + tempString);  
  142.                 line++;  
  143.             }  
  144.             reader.close();  
  145.         } catch (IOException e) {  
  146.             e.printStackTrace();  
  147.         } finally {  
  148.             if (reader != null) {  
  149.                 try {  
  150.                     reader.close();  
  151.                 } catch (IOException e1) {  
  152.                 }  
  153.             }  
  154.         }  
  155.     }  
  156.   
  157.     /** 
  158.      * 隨機讀取文件內容 
  159.      *  
  160.      * @param fileName 
  161.      *            文件名 
  162.      */  
  163.     public static void readFileByRandomAccess(String fileName) {  
  164.         RandomAccessFile randomFile = null;  
  165.         try {  
  166.             System.out.println("隨機讀取一段文件內容:");  
  167.             // 打開一個隨機訪問文件流,按只讀方式  
  168.             randomFile = new RandomAccessFile(fileName, "r");  
  169.             // 文件長度,字節數  
  170.             long fileLength = randomFile.length();  
  171.             // 讀文件的起始位置  
  172.             int beginIndex = (fileLength > 4) ? 4 : 0;  
  173.             // 將讀文件的開始位置移到beginIndex位置。  
  174.             randomFile.seek(beginIndex);  
  175.             byte[] bytes = new byte[10];  
  176.             int byteread = 0;  
  177.             // 一次讀10個字節,如果文件內容不足10個字節,則讀剩下的字節。  
  178.             // 將一次讀取的字節數賦給byteread  
  179.             while ((byteread = randomFile.read(bytes)) != -1) {  
  180.                 System.out.write(bytes, 0, byteread);  
  181.             }  
  182.         } catch (IOException e) {  
  183.             e.printStackTrace();  
  184.         } finally {  
  185.             if (randomFile != null) {  
  186.                 try {  
  187.                     randomFile.close();  
  188.                 } catch (IOException e1) {  
  189.                 }  
  190.             }  
  191.         }  
  192.     }  
  193.   
  194.     /** 
  195.      * 顯示輸入流中還剩的字節數 
  196.      *  
  197.      * @param in 
  198.      */  
  199.     private static void showAvailableBytes(InputStream in) {  
  200.         try {  
  201.             System.out.println("當前字節輸入流中的字節數爲:" + in.available());  
  202.         } catch (IOException e) {  
  203.             e.printStackTrace();  
  204.         }  
  205.     }  
  206.   
  207.     public static void main(String[] args) {  
  208.         String fileName = "C:/temp/newTemp.txt";  
  209.         ReadFromFile.readFileByBytes(fileName);  
  210.         ReadFromFile.readFileByChars(fileName);  
  211.         ReadFromFile.readFileByLines(fileName);  
  212.         ReadFromFile.readFileByRandomAccess(fileName);  
  213.     }  
  214. }  

[java] view plain copy
  1. //二、將內容追加到文件尾部  
  2. import java.io.FileWriter;  
  3. import java.io.IOException;  
  4. import java.io.RandomAccessFile;  
  5.   
  6. /** 
  7.  * 將內容追加到文件尾部 
  8.  */  
  9. public class AppendToFile {  
  10.     /** 
  11.      * A方法追加文件:使用RandomAccessFile 
  12.      *  
  13.      * @param fileName 
  14.      *            文件名 
  15.      * @param content 
  16.      *            追加的內容 
  17.      */  
  18.     public static void appendMethodA(String fileName,  
  19.   
  20.     String content) {  
  21.         try {  
  22.             // 打開一個隨機訪問文件流,按讀寫方式  
  23.             RandomAccessFile randomFile = new RandomAccessFile(fileName, "rw");  
  24.             // 文件長度,字節數  
  25.             long fileLength = randomFile.length();  
  26.             // 將寫文件指針移到文件尾。  
  27.             randomFile.seek(fileLength);  
  28.             randomFile.writeBytes(content);  
  29.             randomFile.close();  
  30.         } catch (IOException e) {  
  31.             e.printStackTrace();  
  32.         }  
  33.     }  
  34.   
  35.     /** 
  36.      * B方法追加文件:使用FileWriter 
  37.      *  
  38.      * @param fileName 
  39.      * @param content 
  40.      */  
  41.     public static void appendMethodB(String fileName, String content) {  
  42.         try {  
  43.             // 打開一個寫文件器,構造函數中的第二個參數true表示以追加形式寫文件  
  44.             FileWriter writer = new FileWriter(fileName, true);  
  45.             writer.write(content);  
  46.             writer.close();  
  47.         } catch (IOException e) {  
  48.             e.printStackTrace();  
  49.         }  
  50.     }  
  51.   
  52.     public static void main(String[] args) {  
  53.         String fileName = "C:/temp/newTemp.txt";  
  54.         String content = "new append!";  
  55.         // 按方法A追加文件  
  56.         AppendToFile.appendMethodA(fileName, content);  
  57.         AppendToFile.appendMethodA(fileName, "append end. n");  
  58.         // 顯示文件內容  
  59.         ReadFromFile.readFileByLines(fileName);  
  60.         // 按方法B追加文件  
  61.         AppendToFile.appendMethodB(fileName, content);  
  62.         AppendToFile.appendMethodB(fileName, "append end. n");  
  63.         // 顯示文件內容  
  64.         ReadFromFile.readFileByLines(fileName);  
  65.     }  
  66. }  

 

1、判斷文件是否存在,不存在創建文件

[java] view plain copy
  1. File file=new File(path+filename);   
  2.     if(!file.exists())   
  3.     {   
  4.         try {   
  5.             file.createNewFile();   
  6.         } catch (IOException e) {   
  7.             // TODO Auto-generated catch block   
  8.             e.printStackTrace();   
  9.         }   
  10.     }    
 

2、判斷文件夾是否存在,不存在創建文件夾

[java] view plain copy
  1. File file =new File(path+filename);   
  2. //如果文件夾不存在則創建   
  3. if  (!file .exists())     
  4. {     
  5.     file .mkdir();   
  6. }     


java 寫文件的三種方法比較

[java] view plain copy
  1. import java.io.File;     
  2.   
  3. import java.io.FileOutputStream;     
  4.   
  5. import java.io.*;     
  6.   
  7. public class FileTest {     
  8.   
  9.     public FileTest() {     
  10.   
  11.     }     
  12.   
  13.     public static void main(String[] args) {     
  14.   
  15.         FileOutputStream out = null;     
  16.   
  17.         FileOutputStream outSTr = null;     
  18.   
  19.         BufferedOutputStream Buff=null;     
  20.   
  21.         FileWriter fw = null;     
  22.   
  23.         int count=1000;//寫文件行數     
  24.   
  25.         try {     
  26.   
  27.             out = new FileOutputStream(new File(“C:/add.txt”));     
  28.   
  29.             long begin = System.currentTimeMillis();     
  30.   
  31.             for (int i = 0; i < count; i++) {     
  32.   
  33.                 out.write(“測試java 文件操作\r\n”.getBytes());     
  34.   
  35.             }     
  36.   
  37.             out.close();     
  38.   
  39.             long end = System.currentTimeMillis();     
  40.   
  41.             System.out.println(“FileOutputStream執行耗時:” + (end - begin) + ” 豪秒”);     
  42.   
  43.             outSTr = new FileOutputStream(new File(“C:/add0.txt”));     
  44.   
  45.              Buff=new BufferedOutputStream(outSTr);     
  46.   
  47.             long begin0 = System.currentTimeMillis();     
  48.   
  49.             for (int i = 0; i < count; i++) {     
  50.   
  51.                 Buff.write(“測試java 文件操作\r\n”.getBytes());     
  52.   
  53.             }     
  54.   
  55.             Buff.flush();     
  56.   
  57.             Buff.close();     
  58.   
  59.             long end0 = System.currentTimeMillis();     
  60.   
  61.             System.out.println(“BufferedOutputStream執行耗時:” + (end0 - begin0) + ” 豪秒”);     
  62.   
  63.             fw = new FileWriter(“C:/add2.txt”);     
  64.   
  65.             long begin3 = System.currentTimeMillis();     
  66.   
  67.             for (int i = 0; i < count; i++) {     
  68.   
  69.                 fw.write(“測試java 文件操作\r\n”);     
  70.   
  71.             }     
  72.   
  73.                         fw.close();     
  74.   
  75.             long end3 = System.currentTimeMillis();     
  76.   
  77.             System.out.println(“FileWriter執行耗時:” + (end3 - begin3) + ” 豪秒”);     
  78.   
  79.         } catch (Exception e) {     
  80.   
  81.             e.printStackTrace();     
  82.   
  83.         }     
  84.   
  85.         finally {     
  86.   
  87.             try {     
  88.   
  89.                 fw.close();     
  90.   
  91.                 Buff.close();     
  92.   
  93.                 outSTr.close();     
  94.   
  95.                 out.close();     
  96.   
  97.             } catch (Exception e) {     
  98.   
  99.                 e.printStackTrace();     
  100.   
  101.             }     
  102.   
  103.         }     
  104.   
  105.     }     
  106.   
  107. }  


java中的getParentFile


String name = "AAAA.txt";
String lujing = "1"+"/"+"2";//定義路徑
File a = new File(lujing,name);

a.getParentFile().mkdirs();    //這裏如果不加getParentFile(),創建的文件夾爲"1/2/AAAA.txt/"

那麼,a的意義就是“1/2/AAAA.txt”。

這裏a是File,但是File這個類在Java裏表示的不只是文件,雖然File在英語裏是文件的意思。Java裏,File至少可以表示文件或文件夾(大概還有可以表示系統設備什麼的,這裏不考慮,只考慮文件和文件夾)。

也就是說,在“1/2/AAAA.txt”真正出現在磁盤結構裏之前,它既可以表示這個文件,也可以表示這個路徑的文件夾。那麼,如果沒有getParentFile(),直接執行a.mkdirs(),就是說,創建“1/2/AAAA.txt”代表的文件夾,也就是“1/2/AAAA.txt/”,在此之後,執行a.createNewFile(),試圖創建a文件,然而以a爲名的文件夾已經存在了,所以createNewFile()實際是執行失敗的。你可以用System.out.println(a.createNewFile())這樣來檢查是不是真正創建文件成功。

所以,這裏,你想要創建的是“1/2/AAAA.txt”這個文件。在創建AAAA.txt之前,必須要1/2這個目錄存在。所以,要得到1/2,就要用a.getParentFile(),然後要創建它,也就是a.getParentFile().mkdirs()。在這之後,a作爲文件所需要的文件夾大概會存在了(有特殊情況會無法創建的,這裏不考慮),就執行a.createNewFile()創建a文件。

 

Java RandomAccessFile的使用

 

Java的RandomAccessFile提供對文件的讀寫功能,與普通的輸入輸出流不一樣的是RamdomAccessFile可以任意的訪問文件的任何地方。這就是“Random”的意義所在。

RandomAccessFile的對象包含一個記錄指針,用於標識當前流的讀寫位置,這個位置可以向前移動,也可以向後移動。RandomAccessFile包含兩個方法來操作文件記錄指針。

long getFilePoint():記錄文件指針的當前位置。

void seek(long pos):將文件記錄指針定位到pos位置。

RandomAccessFile包含InputStream的三個read方法,也包含OutputStream的三個write方法。同時RandomAccessFile還包含一系列的readXxx和writeXxx方法完成輸入輸出。

RandomAccessFile的構造方法如下

 \

mode的值有四個

"r":以只讀文方式打開指定文件。如果你寫的話會有IOException。

"rw":以讀寫方式打開指定文件,不存在就創建新文件。

"rws":不介紹了。

"rwd":也不介紹。

[java] view plain copy
  1. /** 
  2.  * 往文件中依次寫入3名員工的信息, 
  3.  * 每位員工有姓名和員工兩個字段 然後按照 
  4.  * 第二名,第一名,第三名的先後順序讀取員工信息 
  5.  */  
  6. import java.io.File;  
  7. import java.io.RandomAccessFile;  
  8.   
  9. public class RandomAccessFileTest {  
  10.     public static void main(String[] args) throws Exception {  
  11.         Employee e1 = new Employee(23"張三");  
  12.         Employee e2 = new Employee(24"lisi");  
  13.         Employee e3 = new Employee(25"王五");  
  14.         File file = new File("employee.txt");  
  15.         if (!file.exists()) {  
  16.             file.createNewFile();  
  17.         }  
  18.         // 一箇中文佔兩個字節 一個英文字母佔一個字節  
  19.         // 整形 佔的字節數目 跟cpu位長有關 32位的佔4個字節  
  20.         RandomAccessFile randomAccessFile = new RandomAccessFile(file, "rw");  
  21.         randomAccessFile.writeChars(e1.getName());  
  22.         randomAccessFile.writeInt(e1.getAge());  
  23.         randomAccessFile.writeChars(e2.getName());  
  24.         randomAccessFile.writeInt(e2.getAge());  
  25.         randomAccessFile.writeChars(e3.getName());  
  26.         randomAccessFile.writeInt(e3.getAge());  
  27.         randomAccessFile.close();  
  28.   
  29.         RandomAccessFile raf2 = new RandomAccessFile(file, "r");  
  30.         raf2.skipBytes(Employee.LEN * 2 + 4);  
  31.         String strName2 = "";  
  32.         for (int i = 0; i < Employee.LEN; i++) {  
  33.             strName2 = strName2 + raf2.readChar();  
  34.         }  
  35.         int age2 = raf2.readInt();  
  36.         System.out.println("strName2 = " + strName2.trim());  
  37.         System.out.println("age2 = " + age2);  
  38.   
  39.         raf2.seek(0);  
  40.         String strName1 = "";  
  41.         for (int i = 0; i < Employee.LEN; i++) {  
  42.             strName1 = strName1 + raf2.readChar();  
  43.         }  
  44.         int age1 = raf2.readInt();  
  45.         System.out.println("strName1 = " + strName1.trim());  
  46.         System.out.println("age1 = " + age1);  
  47.   
  48.         raf2.skipBytes(Employee.LEN * 2 + 4);  
  49.         String strName3 = "";  
  50.         for (int i = 0; i < Employee.LEN; i++) {  
  51.             strName3 = strName3 + raf2.readChar();  
  52.         }  
  53.         int age3 = raf2.readInt();  
  54.         System.out.println("strName3 = " + strName3.trim());  
  55.         System.out.println("age3 = " + age3);  
  56.     }  
  57. }  
  58.   
  59. class Employee {  
  60.     // 年齡  
  61.     public int age;  
  62.     // 姓名  
  63.     public String name;  
  64.     // 姓名的長度  
  65.     public static final int LEN = 8;  
  66.   
  67.     public Employee(int age, String name) {  
  68.         this.age = age;  
  69.   
  70.         // 對name字符長度的一個處理  
  71.         if (name.length() > LEN) {  
  72.             name = name.substring(0, LEN);  
  73.         } else {  
  74.             while (name.length() < LEN) {  
  75.                 name = name + "/u0000";  
  76.             }  
  77.         }  
  78.         this.name = name;  
  79.     }  
  80.   
  81.     public int getAge() {  
  82.         return age;  
  83.     }  
  84.   
  85.     public String getName() {  
  86.         return name;  
  87.     }  
  88.   
  89. }  

高效的RandomAccessFile

http://zhang-xiujiao.iteye.com/blog/1150751

主體:

 

RandomAccessFile類。其I/O性能較之其它常用開發語言的同類性能差距甚遠,嚴重影響程序的運行效率。

開發人員迫切需要提高效率,下面分析RandomAccessFile等文件類的源代碼,找出其中的癥結所在,並加以改進優化,創建一個"性/價比"俱佳的隨機文件訪問類BufferedRandomAccessFile。

 

在改進之前先做一個基本測試:逐字節COPY一個12兆的文件(這裏牽涉到讀和寫)。

 

耗用時間(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935

 

我們可以看到兩者差距約32倍,RandomAccessFile也太慢了。先看看兩者關鍵部分的源代碼,對比分析,找出原因。

 

1.1.[RandomAccessFile]

 

Java代碼  收藏代碼
  1. public class RandomAccessFile implements DataOutput, DataInput {  
  2.     public final byte readByte() throws IOException {  
  3.         int ch = this.read();  
  4.         if (ch < 0)  
  5.             throw new EOFException();  
  6.         return (byte)(ch);  
  7.     }  
  8.     public native int read() throws IOException;   
  9.     public final void writeByte(int v) throws IOException {  
  10.         write(v);  
  11.     }   
  12.     public native void write(int b) throws IOException;   
  13. }  

 

可見,RandomAccessFile每讀/寫一個字節就需對磁盤進行一次I/O操作。

 

1.2.[BufferedInputStream]

 

Java代碼  收藏代碼
  1. public class BufferedInputStream extends FilterInputStream {  
  2.     private static int defaultBufferSize = 2048;   
  3.     protected byte buf[]; // 建立讀緩存區  
  4.     public BufferedInputStream(InputStream in, int size) {  
  5.         super(in);          
  6.         if (size <= 0) {  
  7.             throw new IllegalArgumentException("Buffer size <= 0");  
  8.         }  
  9.         buf = new byte[size];  
  10.     }  
  11.     public synchronized int read() throws IOException {  
  12.         ensureOpen();  
  13.         if (pos >= count) {  
  14.             fill();  
  15.             if (pos >= count)  
  16.                 return -1;  
  17.         }  
  18.         return buf[pos++] & 0xff// 直接從BUF[]中讀取  
  19.     }   
  20.     private void fill() throws IOException {  
  21.     if (markpos < 0)  
  22.         pos = 0;        /* no mark: throw away the buffer */  
  23.     else if (pos >= buf.length)  /* no room left in buffer */  
  24.         if (markpos > 0) {   /* can throw away early part of the buffer */  
  25.         int sz = pos - markpos;  
  26.         System.arraycopy(buf, markpos, buf, 0, sz);  
  27.         pos = sz;  
  28.         markpos = 0;  
  29.         } else if (buf.length >= marklimit) {  
  30.         markpos = -1;   /* buffer got too big, invalidate mark */  
  31.         pos = 0;    /* drop buffer contents */  
  32.         } else {        /* grow buffer */  
  33.         int nsz = pos * 2;  
  34.         if (nsz > marklimit)  
  35.             nsz = marklimit;  
  36.         byte nbuf[] = new byte[nsz];  
  37.         System.arraycopy(buf, 0, nbuf, 0, pos);  
  38.         buf = nbuf;  
  39.         }  
  40.     count = pos;  
  41.     int n = in.read(buf, pos, buf.length - pos);  
  42.     if (n > 0)  
  43.         count = n + pos;  
  44.     }  
  45. }  
 

1.3.[BufferedOutputStream]

 

Java代碼  收藏代碼
  1. public class BufferedOutputStream extends FilterOutputStream {  
  2.    protected byte buf[]; // 建立寫緩存區  
  3.    public BufferedOutputStream(OutputStream out, int size) {  
  4.         super(out);  
  5.         if (size <= 0) {  
  6.             throw new IllegalArgumentException("Buffer size <= 0");  
  7.         }  
  8.         buf = new byte[size];  
  9.     }   
  10. public synchronized void write(int b) throws IOException {  
  11.         if (count >= buf.length) {  
  12.             flushBuffer();  
  13.         }  
  14.         buf[count++] = (byte)b; // 直接從BUF[]中讀取  
  15.    }  
  16.    private void flushBuffer() throws IOException {  
  17.         if (count > 0) {  
  18.             out.write(buf, 0, count);  
  19.             count = 0;  
  20.         }  
  21.    }  
  22. }  
 

可見,Buffered I/O putStream每讀/寫一個字節,若要操作的數據在BUF中,就直接對內存的buf[]進行讀/寫操作;否則從磁盤相應位置填充buf[],再直接對內存的buf[]進行讀/寫操作,絕大部分的讀/寫操作是對內存buf[]的操作。

 

1.3.小結

 

內存存取時間單位是納秒級(10E-9),磁盤存取時間單位是毫秒級(10E-3),同樣操作一次的開銷,內存比磁盤快了百萬倍。理論上可以預見,即使對內存操作上萬次,花費的時間也遠少對於磁盤一次I/O的開銷。顯然後者是通過增加位於內存的BUF存取,減少磁盤I/O的開銷,提高存取效率的,當然這樣也增加了BUF控制部分的開銷。從實際應用來看,存取效率提高了32倍。

 

根據1.3得出的結論,現試着對RandomAccessFile類也加上緩衝讀寫機制。

 

隨機訪問類與順序類不同,前者是通過實現DataInput/DataOutput接口創建的,而後者是擴展FilterInputStream/FilterOutputStream創建的,不能直接照搬。

 

2.1.開闢緩衝區BUF[默認:1024字節],用作讀/寫的共用緩衝區。

 

2.2.先實現讀緩衝。

 

讀緩衝邏輯的基本原理:

  • A 欲讀文件POS位置的一個字節。
  • B 查BUF中是否存在?若有,直接從BUF中讀取,並返回該字符BYTE。
  • C 若沒有,則BUF重新定位到該POS所在的位置並把該位置附近的BUFSIZE的字節的文件內容填充BUFFER,返回B。

以下給出關鍵部分代碼及其說明:

 

Java代碼  收藏代碼
  1. public class BufferedRandomAccessFile extends RandomAccessFile {  
  2. //  byte read(long pos):讀取當前文件POS位置所在的字節  
  3. //  bufstartpos、bufendpos代表BUF映射在當前文件的首/尾偏移地址。  
  4. //  curpos指當前類文件指針的偏移地址。  
  5.     public byte read(long pos) throws IOException {  
  6.         if (pos < this.bufstartpos || pos > this.bufendpos ) {  
  7.             this.flushbuf();  
  8.             this.seek(pos);  
  9.             if ((pos < this.bufstartpos) || (pos > this.bufendpos))   
  10.                 throw new IOException();  
  11.         }  
  12.         this.curpos = pos;  
  13.         return this.buf[(int)(pos - this.bufstartpos)];  
  14.     }  
  15. // void flushbuf():bufdirty爲真,把buf[]中尚未寫入磁盤的數據,寫入磁盤。  
  16.     private void flushbuf() throws IOException {  
  17.         if (this.bufdirty == true) {  
  18.             if (super.getFilePointer() != this.bufstartpos) {  
  19.                 super.seek(this.bufstartpos);  
  20.             }  
  21.             super.write(this.buf, 0this.bufusedsize);  
  22.             this.bufdirty = false;  
  23.         }  
  24.     }  
  25. // void seek(long pos):移動文件指針到pos位置,並把buf[]映射填充至POS所在的文件塊。  
  26.     public void seek(long pos) throws IOException {  
  27.         if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in buf  
  28.             this.flushbuf();  
  29.             if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) {   // seek pos in file (file length > 0)  
  30.                   this.bufstartpos =  pos * bufbitlen / bufbitlen;  
  31.                   this.bufusedsize = this.fillbuf();  
  32.             } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) {   // seek pos is append pos  
  33.                 this.bufstartpos = pos;  
  34.                 this.bufusedsize = 0;  
  35.             }  
  36.             this.bufendpos = this.bufstartpos + this.bufsize - 1;  
  37.         }  
  38.         this.curpos = pos;  
  39.     }  
  40. // int fillbuf():根據bufstartpos,填充buf[]。  
  41.     private int fillbuf() throws IOException {  
  42.         super.seek(this.bufstartpos);  
  43.         this.bufdirty = false;  
  44.         return super.read(this.buf);  
  45.     }  
  46. }  
 

至此緩衝讀基本實現,逐字節COPY一個12兆的文件(這裏牽涉到讀和寫,用BufferedRandomAccessFile試一下讀的速度):

 

耗用時間(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935

 

可見速度顯著提高,與BufferedInputStream+DataInputStream不相上下。

 

2.3.實現寫緩衝。

 

寫緩衝邏輯的基本原理:

  • A欲寫文件POS位置的一個字節。
  • B 查BUF中是否有該映射?若有,直接向BUF中寫入,並返回true。
  • C若沒有,則BUF重新定位到該POS所在的位置,並把該位置附近的 BUFSIZE字節的文件內容填充BUFFER,返回B。

下面給出關鍵部分代碼及其說明:

 

Java代碼  收藏代碼
  1. // boolean write(byte bw, long pos):向當前文件POS位置寫入字節BW。  
  2. // 根據POS的不同及BUF的位置:存在修改、追加、BUF中、BUF外等情況。在邏輯判斷時,把最可能出現的情況,最先判斷,這樣可提高速度。  
  3. // fileendpos:指示當前文件的尾偏移地址,主要考慮到追加因素  
  4.     public boolean write(byte bw, long pos) throws IOException {  
  5.         if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) { // write pos in buf  
  6.             this.buf[(int)(pos - this.bufstartpos)] = bw;  
  7.             this.bufdirty = true;  
  8.             if (pos == this.fileendpos + 1) { // write pos is append pos  
  9.                 this.fileendpos++;  
  10.                 this.bufusedsize++;  
  11.             }  
  12.         } else { // write pos not in buf  
  13.             this.seek(pos);  
  14.             if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // write pos is modify file  
  15.                 this.buf[(int)(pos - this.bufstartpos)] = bw;  
  16.             } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // write pos is append pos  
  17.                 this.buf[0] = bw;  
  18.                 this.fileendpos++;  
  19.                 this.bufusedsize = 1;  
  20.             } else {  
  21.                 throw new IndexOutOfBoundsException();  
  22.             }  
  23.             this.bufdirty = true;  
  24.         }  
  25.         this.curpos = pos;  
  26.         return true;  
  27.     }  
  28.       
 

至此緩衝寫基本實現,逐字節COPY一個12兆的文件,(這裏牽涉到讀和寫,結合緩衝讀,用BufferedRandomAccessFile試一下讀/寫的速度):

 

耗用時間(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453

 

可見綜合讀/寫速度已超越BufferedInput/OutputStream+DataInput/OutputStream。

 

高效的RandomAccessFile【續】

http://zhang-xiujiao.iteye.com/blog/1150762

優化BufferedRandomAccessFile。

 

優化原則:

  •     調用頻繁的語句最需要優化,且優化的效果最明顯。
  •     多重嵌套邏輯判斷時,最可能出現的判斷,應放在最外層。
  •     減少不必要的NEW。


這裏舉一典型的例子:

 

Java代碼  收藏代碼
  1.  public void seek(long pos) throws IOException {  
  2. ...  
  3.        this.bufstartpos =  pos * bufbitlen / bufbitlen; // bufbitlen指buf[]的位長,例:若bufsize=1024,則bufbitlen=10。  
  4.               ...  
  5. }  
 

seek函數使用在各函數中,調用非常頻繁,上面加重的這行語句根據pos和bufsize確定buf[]對應當前文件的映射位置,用"*"、"/"確定,顯然不是一個好方法。

 

  • 優化一:this.bufstartpos = (pos << bufbitlen) >> bufbitlen;
  • 優化二:this.bufstartpos = pos & bufmask; // this.bufmask = ~((long)this.bufsize - 1);

兩者效率都比原來好,但後者顯然更好,因爲前者需要兩次移位運算、後者只需一次邏輯與運算(bufmask可以預先得出)。

至此優化基本實現,逐字節COPY一個12兆的文件,(這裏牽涉到讀和寫,結合緩衝讀,用優化後BufferedRandomAccessFile試一下讀/寫的速度):

 

耗用時間(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile優 BufferedRandomAccessFile優 2.197

 

可見優化儘管不明顯,還是比未優化前快了一些,也許這種效果在老式機上會更明顯。

以上比較的是順序存取,即使是隨機存取,在絕大多數情況下也不止一個BYTE,所以緩衝機制依然有效。而一般的順序存取類要實現隨機存取就不怎麼容易了。


需要完善的地方

 

提供文件追加功能:

 

Java代碼  收藏代碼
  1. public boolean append(byte bw) throws IOException {  
  2.    return this.write(bw, this.fileendpos + 1);  
  3. }  

 

提供文件當前位置修改功能:

 

Java代碼  收藏代碼
  1. public boolean write(byte bw) throws IOException {  
  2.    return this.write(bw, this.curpos);  
  3. }  

 

返回文件長度(由於BUF讀寫的原因,與原來的RandomAccessFile類有所不同):

 

Java代碼  收藏代碼
  1. public long length() throws IOException {  
  2.    return this.max(this.fileendpos + 1this.initfilelen);  
  3. }  

 

返回文件當前指針(由於是通過BUF讀寫的原因,與原來的RandomAccessFile類有所不同):

 

Java代碼  收藏代碼
  1. public long getFilePointer() throws IOException {  
  2.    return this.curpos;  
  3. }  

 

提供對當前位置的多個字節的緩衝寫功能:

 

Java代碼  收藏代碼
  1. public void write(byte b[], int off, int len) throws IOException {  
  2.         long writeendpos = this.curpos + len - 1;  
  3.         if (writeendpos <= this.bufendpos) { // b[] in cur buf  
  4.             System.arraycopy(b, off, this.buf, (int)(this.curpos - this.bufstartpos), len);  
  5.             this.bufdirty = true;  
  6.             this.bufusedsize = (int)(writeendpos - this.bufstartpos + 1);  
  7.         } else { // b[] not in cur buf  
  8.             super.seek(this.curpos);  
  9.             super.write(b, off, len);  
  10.         }  
  11.         if (writeendpos > this.fileendpos)  
  12.             this.fileendpos = writeendpos;  
  13.         this.seek(writeendpos+1);  
  14. }  
  15. public void write(byte b[]) throws IOException {  
  16.         this.write(b, 0, b.length);  
  17. }  

 

提供對當前位置的多個字節的緩衝讀功能:

 

Java代碼  收藏代碼
  1. public int read(byte b[], int off, int len) throws IOException {  
  2.     long readendpos = this.curpos + len - 1;  
  3.     if (readendpos <= this.bufendpos && readendpos <= this.fileendpos ) { // read in buf  
  4.         System.arraycopy(this.buf, (int)(this.curpos - this.bufstartpos), b, off, len);  
  5.     } else { // read b[] size > buf[]  
  6.     if (readendpos > this.fileendpos) { // read b[] part in file  
  7.         len = (int)(this.length() - this.curpos + 1);  
  8.     }  
  9.        super.seek(this.curpos);  
  10.        len = super.read(b, off, len);  
  11.        readendpos = this.curpos + len - 1;  
  12.    }  
  13.        this.seek(readendpos + 1);  
  14.        return len;  
  15. }  
  16. public int read(byte b[]) throws IOException {  
  17.    return this.read(b, 0, b.length);  
  18. }  
  19. public void setLength(long newLength) throws IOException {  
  20.    if (newLength > 0) {  
  21.        this.fileendpos = newLength - 1;  
  22.    } else {  
  23.        this.fileendpos = 0;  
  24.    }  
  25.    super.setLength(newLength);  
  26. }  
  27.       
  28. public void close() throws IOException {  
  29.    this.flushbuf();  
  30.    super.close();  
  31. }  
 

至此完善工作基本完成,試一下新增的多字節讀/寫功能,通過同時讀/寫1024個字節,來COPY一個12兆的文件,(這裏牽涉到讀和寫,用完善後BufferedRandomAccessFile試一下讀/寫的速度):

 

耗用時間(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile優 BufferedRandomAccessFile優 2.197
BufferedRandomAccessFile完 BufferedRandomAccessFile完 0.401


與MappedByteBuffer+RandomAccessFile的對比?

 

JDK1.4+提供了NIO類 ,其中MappedByteBuffer類用於映射緩衝,也可以映射隨機文件訪問,可見JAVA設計者也看到了RandomAccessFile的問題,並加以改進。怎麼通過MappedByteBuffer+RandomAccessFile拷貝文件呢?下面就是測試程序的主要部分:

 

Java代碼  收藏代碼
  1. RandomAccessFile rafi = new RandomAccessFile(SrcFile, "r");  
  2. RandomAccessFile rafo = new RandomAccessFile(DesFile, "rw");  
  3. FileChannel fci = rafi.getChannel();  
  4. FileChannel fco = rafo.getChannel();  
  5. long size = fci.size();  
  6. MappedByteBuffer mbbi = fci.map(FileChannel.MapMode.READ_ONLY, 0, size);  
  7. MappedByteBuffer mbbo = fco.map(FileChannel.MapMode.READ_WRITE, 0, size);  
  8. long start = System.currentTimeMillis();  
  9. for (int i = 0; i < size; i++) {  
  10.     byte b = mbbi.get(i);  
  11.     mbbo.put(i, b);  
  12. }  
  13. fcin.close();  
  14. fcout.close();  
  15. rafi.close();  
  16. rafo.close();  
  17. System.out.println("Spend: "+(double)(System.currentTimeMillis()-start) / 1000 + "s");  
 

試一下JDK1.4的映射緩衝讀/寫功能,逐字節COPY一個12兆的文件,(這裏牽涉到讀和寫):

 

耗用時間(秒)
RandomAccessFile RandomAccessFile 95.848
BufferedInputStream + DataInputStream BufferedOutputStream + DataOutputStream 2.935
BufferedRandomAccessFile BufferedOutputStream + DataOutputStream 2.813
BufferedRandomAccessFile BufferedRandomAccessFile 2.453
BufferedRandomAccessFile優 BufferedRandomAccessFile優 2.197
BufferedRandomAccessFile完 BufferedRandomAccessFile完 0.401
MappedByteBuffer+ RandomAccessFile MappedByteBuffer+ RandomAccessFile 1.209

 

確實不錯,看來NIO有了極大的進步。建議採用 MappedByteBuffer+RandomAccessFile的方式。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章