只要一杯秋天的奶茶,就能學會Python技能

“秋一杯”引發大爆單,萬萬沒想到,今年的“秋一杯”,比去年來得還要早一些。 去年9月“秋天的第一杯奶茶”在微信、微博、抖音、小紅書等爆紅,掀起了一陣奶茶熱。今年8月7日,剛剛立秋,一大早朋友圈、微博就刷屏了,而且熱度比去年更勝一籌。

那麼今年秋天的第一杯奶茶大家光顧的是哪家飲品店呢?我們就通過爬蟲技術去了解下呀,看下哪家店是大家在這天光顧的。本文數據來源於美團網,但是說到美團網,最近是很讓人頭大呀,各種反扒嚴的想揍人。我們今天只是爬取少量的數據,但是該有的基本反扒策略是有的,特別是隨機ua和高質量代理。現在的美團對ip的要求不是一般的高,測試了市面上很多的代理都不理想,最後朋友推介了某牛雲代理,抱着試試的想法測試了下,效果還可以,之前怎麼沒有發現這家寶藏代理商呢。所以大家再選代理的時候一定要多測試對比哦。

接下來就分享下新學的代理接入方式,獲取數據。

import java.io.IOException;
import java.net.Authenticator;
import java.net.InetSocketAddress;
import java.net.PasswordAuthentication;
import java.net.Proxy;

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;


public class Demo
{
    // 代理驗證信息
    final static String ProxyUser = "16XIZINP";
    final static String ProxyPass = "571994";

    // 代理服務器(產品官網 www.16yun.cn)
    final static String ProxyHost = "t.16yun.cn";
    final static Integer ProxyPort = 31111;

    // 設置IP切換頭
    final static String ProxyHeadKey = "Proxy-Tunnel";


    public static String getUrlProxyContent(String url)
    {
        Authenticator.setDefault(new Authenticator() {
            public PasswordAuthentication getPasswordAuthentication()
            {
                return new PasswordAuthentication(ProxyUser, ProxyPass.toCharArray());
            }
        });
        // 設置Proxy-Tunnel
        Random random = new Random();
        int tunnel = random.nextInt(10000);
        String ProxyHeadVal = String.valueOf(tunnel);

        Proxy proxy = new Proxy(Proxy.Type.HTTP, new InetSocketAddress(ProxyHost, ProxyPort));

        try
        {
            // 處理異常、其他參數
            Document doc = Jsoup.connect(url).timeout(3000).header(ProxyHeadKey, ProxyHeadVal).proxy(proxy).get();

            if(doc != null) {
                System.out.println(doc.body().html());
            }
        }
        catch (IOException e)
        {
            e.printStackTrace();
        }

        return null;
    }

    public static void main(String[] args) throws Exception
    {
        // 要訪問的目標頁面
        String targetUrl = "https://meituan.com/";


        getUrlProxyContent(targetUrl);
    }
}

秋天的第一杯奶茶似乎會成爲像雙十一一樣的固定消費節,雖然和雙11相比,茶飲的經濟效益微乎其微,但是當“秋天第一杯奶茶”把秋天變成一個充滿溫暖的時刻,讓人能用花錢找點樂子的方式,從日常瑣碎的焦慮中逃離,也是一種商家和消費者的共贏。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章