如何判斷是否冒充 Baiduspider 的抓取?

如何判斷是否冒充 Baiduspider 的抓取?

建議您使用 DNS 反查方式來確定抓取來源的 ip 是否屬於百度,根據平台不同驗證方法不同,如 linux/windows/os 三種平台下的驗證方法分別如下:, 在 linux 平台下,您可以使用 host ip 命令反解 ip 來判斷是否來自 Baiduspider 的抓取。

Baiduspider 的 hostname 以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即為冒充。

$ host 123.125.66.120,120.66.125.123.in-addr.arpa domain name pointer,baiduspider-123-125-66-120.crawl.baidu.com.,host 119.63.195.254,254.195.63.119.in-addr.arpa domain name pointer,BaiduMobaider-119-63-195-254.crawl.baidu.jp., 在 windows 平台或者 IBM OS/2 平台下,您可以使用 nslookup ip 命令反解 ip 來 判斷是否來自 Baiduspider 的抓取。

開啟命令處理器 輸入 nslookup xxx.xxx.xxx.xxx(IP 地 址) 就能解析 ip, 來判斷是否來自 Baiduspider 的抓取,Baiduspider 的 hostname 以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即為冒充。

在 mac os 平台下,您可以使用 dig 命令反解 ip 來 判斷是否來自 Baiduspider 的抓取。

開啟命令處理器 輸入 dig xxx.xxx.xxx.xxx(IP 地 址) 就能解析 ip,來判斷是否來自 Baiduspider 的抓取,Baiduspider 的 hostname 以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即為冒充。