2006-05-29 17:40 主題: 【發佈】Lucene中文分詞組件 JE-Analysis 1.5.1
天狼
註冊於: 2006-05-28 00:23
帖子總數: 103
離線
本站申明: 該組件免費安裝使用傳播,無限制商業應用,但暫不開源,也不提供任何保證
分詞效率: 每秒30萬字(測試環境迅馳1.6,第一次分詞需要1-2秒加載詞典)
運行環境: Lucene 2.0
特別推薦: 優秀的軟件項目管理系統,讓項目走出質量管理的泥潭
下載 文件名 je-analysis-1.5.1.jar
描述
大小 871 Kbytes
下載次數: 397 time(s)
2006-07-04 19:49 主題: 變更歷史
天狼
註冊於: 2006-05-28 00:23
帖子總數: 103
離線
1.5.1 —— 2006-01-22
修正細粒度分詞錯誤的問題
1.5.0 —— 2007-01-18
全面支持Lucene 2.0
增強了詞典維護的API
增加了商品編碼的匹配
增加了Mail地址的匹配
實現了詞尾消歧算法第二層的過濾
整理優化了詞庫
1.4.0 —— 2006-08-21
增加詞典的動態擴展能力
1.3.3 —— 2006-07-23
修正無法多次增加詞典的問題
1.3.2 —— 2006-07-03
修正細粒度分詞錯誤的問題
1.3.1 —— 2006-06-23
修正在某些情況下分詞遺漏的問題
1.3 —— 2006-06-22
實現了詞尾消歧算法第一層的過濾
增加日期時間的匹配
1.2.2 —— 2006-06-13
完善了中英文噪聲詞典
1.2.1 —— 2006-06-10
修正中文數字成語無法識別的問題
1.2 —— 2006-06-08
增加中文數字的匹配(如:二零零六)
數量詞采用“n”作爲數字通配符
優化詞典結構以便修改調整
1.1 —— 2006-06-06
增加擴展詞典的靜態讀取方法
1.0.1 —— 2006-06-02
修正無法識別生僻字的問題
1.0 —— 2006-05-29
支持英文、數字、中文(簡體)混合分詞
常用的數量和人名的匹配
超過22萬詞的詞庫整理
實現正向最大匹配算法
支持分詞粒度控制
2006-08-27 22:44 主題: 系統API
天狼
註冊於: 2006-05-28 00:23
帖子總數: 103
離線
Code:
//採用正向最大匹配的中文分詞算法,相當於分詞粒度等於0
MMAnalyzer analyzer = new MMAnalyzer();
//參數爲分詞粒度:當字數等於或超過該參數,且能成詞,該詞就被切分出來
MMAnalyzer analyzer = new MMAnalyzer(int wordLength);
//字符串切分,常用於客戶的關鍵字輸入
analyzer.segment(String text, String separator);
詞典維護API(靜態方法):
//增加一個新詞典,採用每行一個詞的讀取方式(注意:多線程狀態下此時的分詞效果將不可預料)
MMAnalyzer.addDictionary(Reader reader);
//增加一個新詞
MMAnalyzer.addWord(String newWord);
//刪除詞庫中的全部詞語(注意:非常危險的操作,在沒有加載新的詞庫前所有的分詞都將失效)
MMAnalyzer.clear();
//詞庫中是否包含該詞
MMAnalyzer.contains(String word);
//從詞庫中移除該詞
MMAnalyzer.removeWord(String word);
//當前詞庫中包含的詞語總數
MMAnalyzer.size();
2006-08-27 22:45 主題: 字符串切分
天狼
註冊於: 2006-05-28 00:23
帖子總數: 103
離線
Code:
package demo.analysis;
import java.io.IOException;
import jeasy.analysis.MMAnalyzer;
public class Segment
{
public static void main(String[] args)
{
String text = "據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,"
+ "日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡,"
+ "20000餘人受傷,近20萬人無家可歸。";
MMAnalyzer analyzer = new MMAnalyzer();
try
{
System.out.println(analyzer.segment(text, " | "));
}
catch (IOException e)
{
e.printStackTrace();
}
}
}
生成效果:
據 | 路透社 | 報道 | 印度尼西亞 | 社會 | 事務 | 部 | 官員 | 星期二 | 29日 | 表示 | 日惹 | 市 | 附近 | 當地時間 | 27日 | 晨 | 5時 | 53分 | 發生 | 里氏 | 6.2級 | 地震 | 已經 | 造成 | 至少 | 5427人 | 死亡 | 20000 | 餘人 | 受傷 | 近 | 20萬人 | 無家可歸 |
2006-08-27 22:47 主題: Lucene搜索
天狼
註冊於: 2006-05-28 00:23
帖子總數: 103
離線
Code:
package demo.analysis;
import jeasy.analysis.MMAnalyzer;
import org.apache.lucene.analysis.Analyzer;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.queryParser.QueryParser;
import org.apache.lucene.search.Hits;
import org.apache.lucene.search.IndexSearcher;
import org.apache.lucene.search.Query;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.RAMDirectory;
public class Segment
{
public static void main(String[] args)
{
String fieldName = "text";
String text = "據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,"
+ "日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡,"
+ "20000餘人受傷,近20萬人無家可歸。"; //檢索內容
//採用正向最大匹配的中文分詞算法
Analyzer analyzer = new MMAnalyzer();
Directory directory = new RAMDirectory();
//Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);
try
{
IndexWriter iwriter = new IndexWriter(directory, analyzer, true);
iwriter.setMaxFieldLength(25000);
Document doc = new Document();
doc.add(new Field(fieldName, text, Field.Store.YES, Field.Index.TOKENIZED));
iwriter.addDocument(doc);
iwriter.close();
IndexSearcher isearcher = new IndexSearcher(directory);
QueryParser parser = new QueryParser(fieldName, analyzer);
Query query = parser.parse("印度尼西亞 6.2級地震");//檢索詞
Hits hits = isearcher.search(query);
System.out.println("命中:" + hits.length());
for (int i = 0; i < hits.length(); i++)
{
Document hitDoc = hits.doc(i);
System.out.println("內容:" + hitDoc.get(fieldName));
}
isearcher.close();
directory.close();
}
catch (Exception e)
{
e.printStackTrace();
}
}
}
生成效果:
命中:1
內容:據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡,20000餘人受傷,近20萬人無家可歸。
2006-08-27 22:48 主題: 搜索詞加亮
天狼
註冊於: 2006-05-28 00:23
帖子總數: 103
離線
Code:
package demo.analysis;
import jeasy.analysis.MMAnalyzer;
import org.apache.lucene.analysis.Analyzer;
import org.apache.lucene.analysis.TokenStream;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.index.IndexReader;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.index.TermPositionVector;
import org.apache.lucene.queryParser.QueryParser;
import org.apache.lucene.search.Hits;
import org.apache.lucene.search.IndexSearcher;
import org.apache.lucene.search.Query;
import org.apache.lucene.search.highlight.Highlighter;
import org.apache.lucene.search.highlight.QueryScorer;
import org.apache.lucene.search.highlight.TokenSources;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.RAMDirectory;
public class Segment
{
public static void main(String[] args)
{
String fieldName = "text";
String text = "據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,"
+ "日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡,"
+ "20000餘人受傷,近20萬人無家可歸。"; //檢索內容
//採用正向最大匹配的中文分詞算法
Analyzer analyzer = new MMAnalyzer();
Directory directory = new RAMDirectory();
//Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);
try
{
IndexWriter iwriter = new IndexWriter(directory, analyzer, true);
iwriter.setMaxFieldLength(25000);
Document doc = new Document();
doc.add(new Field(fieldName, text, Field.Store.YES,
Field.Index.TOKENIZED,
Field.TermVector.WITH_POSITIONS_OFFSETS));
iwriter.addDocument(doc);
iwriter.close();
IndexSearcher isearcher = new IndexSearcher(directory);
QueryParser parser = new QueryParser(fieldName, analyzer);
Query query = parser.parse("印度尼西亞 6.2級地震");//檢索詞
Hits hits = isearcher.search(query);
System.out.println("命中:" + hits.length());
Highlighter highlighter = new Highlighter(new QueryScorer(query));
for (int i = 0; i < hits.length(); i++)
{
text = hits.doc(i).get(fieldName);
TermPositionVector tpv = (TermPositionVector) IndexReader.open(
directory).getTermFreqVector(hits.id(i), fieldName);
TokenStream tokenStream = TokenSources.getTokenStream(tpv);
String result = highlighter.getBestFragments(tokenStream, text, 3, "...");
System.out.println("內容:" + result);
}
isearcher.close();
directory.close();
}
catch (Exception e)
{
e.printStackTrace();
}
}
}
生成效果:
命中:1
內容:據路透社報道,印度尼西亞社會事務部一官員星期二(29日)表示,日惹市附近當地時間27日晨5時53分發生的里氏6.2級地震已經造成至少5427人死亡,20000餘人受傷,近20萬人無家可歸