百度蜘蛛对于站长来说可谓上宾,可是我们曾经遇到站长这样提问:我们如何判断疯狂抓我们网站内容的蜘蛛是不是百度的?
其实站长可以通过 DNS 反查 IP 的方式判断某只 spider 是否来自百度 Google 和百度搜索引擎 。
根据平台不同验证方法不同,如 linux/windows/os 三种平台下的验证方法分别如下:1 、在 linux 平台下,您可以使用 host ip 命令反解 ip 来判断是否来自 Baiduspider 的抓取。
Baiduspider 的 hostname 以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。
1.jpg2 、在 windows 平台或者 IBM OS/2 平台下,您可以使用 nslookup ip 命令反解 ip 来 判断是否来自 Baiduspider 的抓取。
开启命令处理器 输入 nslookup xxx.xxx.xxx.xxx(IP 地 址) 就能解析 ip, 来判断是否来自 Baiduspider 的抓取,Baiduspider 的 hostname 以*.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。
3 、 在 mac os 平台下,您可以使用 dig 命令反解 ip 来 判断是否来自 Baiduspider 的抓取。
开启命令处理器 输入 dig xxx.xxx.xxx.xxx(IP 地 址) 就能解析 ip, 来判断是否来自 Baiduspider 的抓取,Baiduspider 的 hostname 以 *.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。