原创 Solr索引建立

solr在傳統數據庫上建立索引的機制: 與mysql,oracle數據庫聯合使用的方式:網上很多資料,可以在網上參考相關資料進行學習。 主要有實時索引,全量索引,增量索引,定時索引 方法: 修改solrconfig.xml,data-co

原创 zookeeper崩潰後修復

參考: http://www.myexception.cn/database/1973833.html 可能出現該問題的情況:強制關機,數據量過大,集羣意外關閉。 使用cloudera搭建hadoop集羣,由於使用ubuntu系統,根目

原创 Cloudera在Ubuntu的安裝部署

1. 安裝前的準備  準備好Ubuntu離線source,配置/etc/apt/source.list 準備好Cloudera Hadoop離線source,配置/etc/apt/source.list.d/cloudera.li

原创 solr查詢返回JSON格式

SolrDocumentList docs = response.getResults(); 1、JSONObject返回類似{"SolrDocument":{“1”:{},“2”:{}} Map<Integer,Object> map

原创 windows內網路由器設置

linux添加路由: sudo route add -net 10.10.0.0 gw 192.168.2.99 netmask 255.255.0.0 windows 添加內網路由: route -p add  10.10.0.0 ma

原创 impala實現HBase數據查詢

由於工作需要,現在需要使用Cloudera Manager的Impala實現大批量數據的查詢統計功能。 於是,在前面使用Hbase和solr搭建的平臺完成最高院的全文檢索平臺,繼續在clouderaManager原有的hadoop平臺基礎

原创 java編寫webservice接口net無法加載

使用java編寫了webservice接口,插件使用的axis2,然後對一個java類發佈webservice 現在對原函數進行修改和刪除,並且又新建了幾個其他的類 對新增的java類發佈,並且在.net中進行調用,無法添加web引用 並

原创 window客戶端訪問HDFS

通過widows客戶端訪問Hadoop集羣,讀取HDFS文件 使用平臺爲eclipse,CDH5.1.0,hdf2.3.0 1、新建java project 2、在集羣中找到core-site.xml和hdfs-site文件拷貝到java

原创 離線安裝CM時遇到的問題

CM4.8.5離線安裝:不好意思,最後沒有安裝成功,還是在線安裝的最新版本,一下問題可能對大家查找原因有幫助。 無法接收到agent檢測信號有幾種可能: 1、Python文件不匹配;參考http://www.cnblogs.com/lio

原创 Ubuntu系統安裝完後修改目錄空間大小

參考: http://blog.csdn.net/yuxuepiaoguo/article/details/6883239 Ubuntu系統LVM擴大根目錄容量 lvreduce –L 200g /dev/mapper/master1-

原创 靜態網頁和動態網頁-個人學習理解

靜態網頁: 1、靜態網頁是實實在在保存在服務器上的文件,每個網頁都是一個獨立的文件; 2、靜態網頁的內容相對穩定,因此容易被搜索引擎檢索; 3、靜態網頁沒有數據庫的支持,在網站製作和維護方面工作量較大,因此當網站信息量很大時完全依靠靜態網

原创 hive設置reduce的最大值

hive.exec.reducers.max(默認爲999) 計算reducer數的公式很簡單: N=min(參數2,總輸入數據量/參數1) 通常情況下,有必要手動指定reducer個數。考慮到map階段的輸出數據量通常會比輸入有大幅減少

原创 C#與java中對抽象類、接口的繼承和重寫區別

C#: 一、繼承 什麼是繼承:繼承是允許重用現有類去創建新類的過程。分類的原則是一個類派生出來的子類具有這個類的所有非私有的屬性。1、繼承C#中的類:C#不支持多重繼承,C#類始終繼承自一個基類(如果未在聲明中指定一個基類,則繼承自S

原创 C# 獲取xml屬性名稱

工作需要,讀取一個超大量的xml文件,從xml文件中,讀取節點,以及節點下的屬性名稱,用屬性名稱進行建表操作。 在網上查找資料未果,於是自己尋找辦法。 在XmlElement類下有一個屬性是Attributes,返回值爲XmlAttrib

原创 Eclipse配置Axis2總結

配置環境Eclipse4.3 kepler server release2  + tomcat6.0 + jdk1.7 + axis2-1.6.2 1、 Axis2:http://axis.apache.org/axis2/java/co