原创 CSDN-markdown編輯器樣本

這裏寫自定義目錄標題歡迎使用Markdown編輯器新的改變功能快捷鍵合理的創建標題,有助於目錄的生成如何改變文本的樣式插入鏈接與圖片如何插入一段漂亮的代碼片生成一個適合你的列表創建一個表格設定內容居中、居左、居右SmartyPan

原创 Scrapy shell debug 調試

1、命令行 scrapy shell <url> scrapy shell https://scrapy.org 然後進入到調試模式,輸入代碼在線查看 [s] Available Scrapy objects: [s] sc

原创 無法抓取的視頻,暴力破解之路

一、經歷 1、末年末月末日在一個夜黑風高的夜晚,腦袋一熱在網上花了大價錢買了某某的一個培訓課程。開始時候該平臺還沒有對用戶進行時間限制,突然在網頁上顯示剩餘多多天,

原创 python3.6 linux 安裝

[hilqiqi0@crawler-001 data2]$ sudo mkdir python3.6 [hilqiqi0@crawler-001 data2]$ cd python3.6/ [hilqiqi0@crawler-00

原创 geoip2 InvalidDatabaseError: Invalid node in search tree

問題 在使用geoip2模塊去解析ip地址是出現了錯誤:InvalidDatabaseError: Invalid node in search tree (venv) [hilqiqi0@izbp1a3rsiacm6nu3bfnyu

原创 創建個人的虛擬環境

創建個人虛擬環境 virtualenv [hilqiqi0@LINUX data]$ sudo mkdir hilqiqi0 [hilqiqi0@LINUX data]$ sudo chown -R hilqiqi0 hilqiq

原创 kafka基本概念

原创 scala

scala命令行交互 :paste 結束:ctrl + d print和println區別:println後面會自動換行 scala> print("Hello World") Hello World scala> prin

原创 django 多進程 —— uwsgi

django多進程uwsgi 流程 1、安裝uwsgi pip install uwsgi 2、配置啓動文件(eg: uwsgi.ini) [uwsgi] http= 0.0.0.0:8889 # socket = 127

原创 scrapy 常用又常被忽略的庫

  1、瀏覽器動態渲染:splash     注:效果類似於seleium配合chrome

原创 YouTube如何開啓雙語顯示

  在看原生英文視頻時,官方的YouTube是沒有語言雙顯的,所以就找了插件:https://github.com/ADengrc/youtube-captions 再也不用煩惱了,邊學習英語邊學習專業知識。 感謝dengrc知乎的作者

原创 tensorflow 擴展工具

AI Adventures,about TensorFlow video by Yufeng Guo. 1、Pipenv  2、facets:數據可視化工具 3、玩一玩神經網絡——網頁版 4、google machine learning

原创 污污污污污污污,開心下。。。。。

污一污,開心下。。。   爬蟲代碼在最後,想自己爬就自己爬吧!!!!!!!   “如果你是太陽,你知道我是什麼嗎?”“后羿” 在我眼裏你特別好看 從眼睫毛到頭皮屑都好看的那種好看。 你完全就是個小傻子 算了我還是讓着你吧 你還是走吧 就

原创 12306搶票

最新消息:12306新版不需要驗證碼了。這個消息對於爬蟲人員確實是個好消息。 另外一個不好的消息就是,好多第三方軟件都現在都需要交費了,要不就是拉人頭進行客戶擴初,沒有以前好用了。

原创 scrapy 解決302重定向問題

單獨yield請求時禁用重定向 yield Request(url, meta={ 'dont_redirect': True, 'han