百度Spider升级HTTPS抓取公告

8月份百度Spider升级了对HTTPS数据的抓取力度,HTTPS数据将更快被Spider抓取到。如网站还在做HTTPS的改造,且网站数据未搭建好,建议网站采取以下措施,避免Spider抓取,以免造成网站流量损失

1、把HTTPS的协议封掉,可把443端口关掉;

2、做HTTPS到http的301;

3、建议站点在改HTTPS没改造好之前,不要提供超链接指向,以免被Spider抓到HTTPS。

4、针对一个下有多个的情况,建议未做HTTPS的网站,设置HTTPS抓取返回失败码,或将HTTPS站点301/302到HTTP,避免抓取出现问题。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
站长

百度与W3C中国联合组织移动网页加速技术研讨会

2024-1-22 21:48:52

站长

百度搜索吴海锋:“站长是百度搜索的甲方”

2024-1-22 21:49:04

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索