原创 elasticsearch reindex步驟

1.從old-cluster中查出template,然後在new-cluster中導入template: curl -X PUT "http://new-ip:9200/_template/template_name" -H "Cont

原创 給elasticsearch設置密碼

1.在elasticsearch.yml中添加如下配置: xpack.security.enabled: true xpack.license.self_generated.type: basic xpack.security.tran

原创 kibana 如何自定義dashboard id

進入kibana-management-saved objects界面中,在搜索框右側選擇dashboard,會顯示下圖: type:(dashboard) 然後在搜索框中顯示的文本後面按一個空格之後輸入自己要修改的dashboard名

原创 kibana如何集成多個dashboard

1.新建一個visaulization,類型爲Markdown. 2.在編輯框中編輯如下示例: ###Title1 [link顯示的文本](#/dashboard/dashboard_id) [link2顯示的文本](#/dashb

原创 如何設置kibana特定的用戶和i能查看特定的dashboard

1.在kibana-management-security-roles中創建role: 1.1填寫role name. 1.2選擇該用戶只能看到的index,權限選擇read 1.3kibana中的權限選擇none. 2.創建user:

原创 kibana dashboard如何設置dashboard只讀

有的時候我們想對特定的dashboard進行分享,但是又擔心瀏覽者會對dashboard進行修改或刪除,所以可以新建一個user對其賦予只讀權限: kibana-management-security-users-create new

原创 logstash date插件匹配毫秒值

13:24:34.546732 像這樣帶有毫秒數的,這裏使用SSSSSS來匹配  

原创 logstash multiline插件想要使用pattern匹配多個指定字符串

如果是pattern想要匹配多個指定的字符串,只需要用|將每個字符串隔開: codec => multiline { pattern => "hangzhou|shanghai" //這樣就可以匹配到hangz

原创 logstash csv filter中如何不讓表頭輸出

在用logstash處理csv文件中,不想讓表頭信息也當作一條記錄輸出出去,那麼如何把這條記錄刪除嘞,那就是選擇一個表頭列名,判斷這個列的值是表頭列名本身,那就說明是表頭數據,然後把它drop掉即可: csv { //其他業務處理

原创 splunk7.3.2安裝及簡單應用

英文官方文檔:https://docs.splunk.com/Documentation 中文手冊: https://docs.splunk.com/Documentation/Splunk/7.3.2/Translated/Simpli

原创 filebeat筆記

1.filebeat中,我們可以自己創建Yml文件,並在啓動時指定該文件。但是在執行load template的命令: ./filebeat setup --index-management 時,會報錯: Failed to conne

原创 Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x0000000085330000, 2060255232

在啓動elasticsearch時報如下錯誤,而之前啓動的時候是成功的。 Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x000000008533

原创 在使用elasticsearch的rest api查詢index數據時默認返回10條

在使用elasticsearch的rest api查詢index數據時hits.total顯示的是28條,但是下面返回的每條記錄具體信息只有10條,遇到這個問題就很詫異,感覺應該是少返回了,不是數據處理錯誤,看了技術網站發現elastic

原创 This member will leave the group because consumer poll timeout has expired.

在使用logstash讀取kafka中的數據時過一段時間之後logstash會報出leave group的錯誤,此後數據不再讀入。懷疑是由於kafka每次poll的量太大或者poll的間隔太小,導致上一次度的數據還沒有消費完,就又要去po

原创 filebeat7.5指定自定義index名稱無效,自動創建index

在使用filebeat7.5的時候,filebeat.yml文件中指定了index,並且也指定了template.name、template.pattern。 但是在發送到elasticsearch7.5時並沒有將數據發送到我們指定的in