原创 python 爬蟲框架scrapy 基礎入門筆記(後續跟基礎入門代碼)

一、scrapy安裝和配置 1、pip install scrapy  很多安裝容易出錯的包,可以直接下載安裝https://www.lfd.uci.edu/~gohike/pythonlibs 2、scrapy web抓取框架,底部異步

原创 python 爬蟲框架scrapy 入門 爬取博客園新聞(代碼)

1、代碼jobbole.py寫爬取策略, 2、settings.py  配置pipelines、配置圖片下載、配置是否遵循robote協議、數據庫配置等 3、pipelines.py 主要是配置數據存儲操作 4、本來用的xpath 對網站

原创 通過pygame 畫座標系 、畫圖、畫線、畫點、寫字、截圖(代碼)

import os import sys import pygame class Draw: def __init__(self, x, y): self.x = x self.y = y

原创 記錄執行時間裝飾器(代碼)

import datetime import time from common import Log class GetTime: '''不帶參數的裝飾器,獲取花費時間''' def use_time(func)

原创 SHELL自動化運維day2

第四章、流程控制 4.1 簡單流程控制語句 4.1.1單分支if語句 語法格式:if [ 條件 ]   單一條件只有一個輸出 #!/bin/bash #單if語句使用場景 if [ "$1" == "nan" ] then ec

原创 python處理excel包xlrd和xlwt的簡單使用

from datetime import date import xlrd import xlwt if __name__ == '__main__': '''通過xlrd讀取''' data1 = xlrd.ope

原创 Linux 破解navicat

打開終端,進入隱藏.navicat64目錄: ast@ast:~$ cd .navicat64/, 然後刪除user.reg文件:  ast@ast:~/.navicat64$ rm user.reg 再重啓就行,本人測試過 網上有說刪除

原创 linux操作sftp

sftp連接:sftp -oPort=226 [email protected] 下載文件:mget *.*    

原创 Azkaban學習_Azkaban(阿茲卡班)介紹 + Azkaban 安裝部署 + Azkaban 實戰

轉載:https://www.cnblogs.com/chenmingjun/p/10506488.html 一 概述 1.1 爲什麼需要工作流調度系統 1)一個完整的數據分析系統通常都是由大量任務單元組成:   shell 腳本程序,

原创 如何將數據從Flask傳遞到模板中的JavaScript?

我的應用程序調用返回字典的API。我想傳遞信息從這個dict到視圖中的JavaScript。我在JS中使用Google Maps API,具體來說,所以我想傳遞一個包含long / lat信息的元組列表。我知道render_templat

原创 mongo查詢Date類型大於小於

db.bill.find({date:{$gte:ISODate('2019-09-01T00:00:00'),$lt:ISODate('2019-10-01T00:00:00')}}).count()  

原创 pyecharts 離散圖代碼

from pyecharts import Scatter import pandas as pd from pyecharts_snapshot.main import make_a_snapshot # 快照,截圖 dfgirl

原创 30分鐘學會pyecharts數據可視化

https://zhuanlan.zhihu.com/p/63236019

原创 使用夜神模擬器進行Android開發調試及連不上網的解決方式

https://blog.csdn.net/qq_34653571/article/details/53007044?locationNum=14&fps=1   連接不上網: 首先保證模擬器是橋接狀態,並且在不設置代理的情況下可以上網。

原创 python自動安裝apk包(單線程和線程池兩種代碼)

1、readme 1、把需要安裝的應用放在apps裏,包名嵌套apk的形式 2、連接設備,保證adb devices能連上 3、運行main.py 4、安裝包較大,請耐心等待 2、main.py(單線程 4個app88秒,後面有線程池的