原创 Linux系統配置sudo
Vi /etc/sudoers 首行添加: baicai ALL=(root)NOPASSWD:ALL
原创 Linux 設置swap分區
1、檢查當前的分區情況(使用free -m或cat /proc/Swaps ) [root@db2 root]# free -m total used free shared buffers cached Mem: 1006 84
原创 實現Unix時間戳(Unix timestamp)與普通時間 之間的相互轉換
實現Unix時間戳(Unix timestamp) ---> 普通時間 package text; import java.text.SimpleDateFormat; import java.util.Date; public c
原创 ps -aux | sort -k4nr /opt/models/jdk//bin/java -cp /opt/models/spark-1.6.1-bin-hadoop2.6/conf/
centos7沒有存儲大量的數據,可是內存無緣無故就被佔滿了, 通過 ps -aux | sort -k4nr 查看佔據內存的程序都有哪些 看到運行中的spark節點,但是本人並沒有開啓spark服務, 可能以前設置服務器登陸祕鑰的時候
原创 MapReduce WordCount
package com.hadoop.mr; import java.io.IOException; import java.util.StringTokenizer; import org.apache.hadoop.conf.
原创 Linux文件權限管理
文件權限管理 三種基本權限 R 讀 數值表示爲4 W 寫 數值表示爲2 X 可執行 數值表示爲1 如圖所示, jdk-7u21-linux-i
原创 .ElasticSearch的數據導入導出工具-ElasticDump,安裝及使用
在linux上 安裝,步驟如下: 1) yum install epel-release 2) yum install nodejs 3) yum install nodejs npm 4) npm in
原创 Mongodb數據庫導入數據到elasticsearch,mongo-connector實現mongodb與elastic數據同步
爲了滿足要求, 需要將mongodb數據庫中的數據導入到elasticsearch中, 實現對數據的全文搜索。 1.安裝elasticsearch 2.安裝mongodb,必須有副本集 3.安裝elastic2-doc-manager
原创 mongodb查看某個字段的數據類型
$type操作符 檢測類型 種類 代號 別名 Double 1 “double” String 2 “string” Object 3 “object” Array 4 “array” Binary data 5 “binData” U
原创 Centos7 系統 常用命令
對於用慣了centos6的同志們來說,Centos7用起來還是有很多不慣的地方 查看所有網卡IP地址——ip addr 啓動防火牆——systemctl start firewalld.service 停止防火牆—
原创 Linux查看已經安裝的軟件版本號/Python pip
使用 pip --list pip freeze 查看已安裝軟件的版本號
原创 MongoDB使用ObjectId作爲_id字段值,簡述ObjectId構造
ObjectId 具有一個12字節的BSON類型的結構,如下: 前4個字節,從Unix紀元以來表示秒 接下來的3個字節是機器標識 接下來的2個字節進程ID組成 最後的3個字節是一個隨機計數
原创 MongoDB神奇命令,常用常用非常實用!
使用robomongo工具1.sort 對某個字段進行排序: db.getCollection('content').find({}).sort({"time":-1}) -1:代表倒敘; 1:代表正序; 2.模糊查詢
原创 Linux nc安裝
1.將該包上傳到一個文件夾中 2.進入該目錄,執行命令: rpm -ihv nc-1.84-22.el6.x86_64.rpm 3.安裝後執行命令,進行測試: nc --help
原创 spark-hdfs問題解析
背景:Spark程序讀取hdfs中數據,進行數據解析,最終將符合需求數據落地hdfs特定目錄。程序開發有段時間了,今天突發異常,報錯日誌如下 java.io.IOException: Premature EOF reading fro