久久久香蕉视频-日本三级生活片-日韩欧美天堂-www.日本少妇-亚州精品在线视频-天堂久久av-在线a免费-久久久av一区二区-9在线观看免费高清完整-日韩理论在线-狠狠鲁视频-成人午夜在线-999超碰-在线看片你懂-午夜亚洲一区-日本福利片在线观看-欧美亚洲视频

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時間:9:00-18:00
手機(jī):17375899901
微信:17375899901
關(guān)閉右側(cè)工具欄
長沙SEO關(guān)鍵詞優(yōu)化知識:如何才能識別當(dāng)前抓取是正確的百度蜘蛛?
  • 作者:admin
  • 發(fā)表時間:2022-08-19 15:29:00
  • 來源:

開發(fā)者們可以通過以下兩個方式判斷百度蜘蛛。


方式一:查看UA信息


如果UA信息不對,可以直接判斷為非百度搜索的蜘蛛。目前UA分為移動、PC、和小程序三個應(yīng)用場景,這三個渠道UA分別如下:


移動UA


Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko)Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)

或者

Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html) 


PC UA


Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

或者

Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)


小程序UA


Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +http://www.baidu.com/search/spider.html)


方式二:雙向DNS解析認(rèn)證


第1步:DNS反查IP


開發(fā)者通過對日志中訪問服務(wù)器的IP地址運行反向DNS查找,判斷某只spider是否來自百度搜索引擎,Baiduspider的hostname以*.baidu.com或*.baidu.jp 的格式命名,其他格式即為冒充。


不同類型的平臺驗證方法也不同,如Linux / Windows / OS三種平臺下的驗證方法分別如下:


(1)在Linux平臺下,可以使用host ip命令反解ip來判斷是否來自Baiduspider的抓取。


(2)在Windows平臺下,可以使用nslookup ip命令反解ip來 判斷是否來自Baiduspider的抓取 。


(3)在Mac OS平臺下,可以使用dig 命令反解ip來 判斷是否來自Baiduspider的抓取。



第2步:對域名運行正向DNS查找


對第1步中通過命令檢索到的域名運行正向DNS查找,驗證該域名與您日志中訪問服務(wù)器的原始IP地址是否一致,IP地址一致可確認(rèn)spider來自百度搜索引擎,IP地址不一致即為冒充。

诸暨市| 长宁区| 皋兰县| 湘潭县| 香港 | 湾仔区| 太仓市| 光山县| 山阳县| 苏尼特右旗| 永昌县| 扎赉特旗| 天台县| 平阴县| 长宁县| 沁水县| 华容县| 华亭县| 哈密市| 湖口县| 靖西县| 金沙县| 宁强县| 凤庆县| 思茅市| 桐梓县| 汶川县| 绵阳市| 双牌县| 广汉市| 元谋县| 北辰区| 天水市| 丹寨县| 雷山县| 冕宁县| 安康市| 奇台县| 牡丹江市| 黄大仙区| 洱源县|