百度真有匿名蜘蛛，今天发现了

𝕷𝖎𝖑𝖏𝖆𝖈𝖐 · 发表于昨天 20:19

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

我今天更新网站，pc首页更新了，移动首页没有更新，但我发现新更新的文章。m端链接收录了，pc没有收录，
但移动首页没有更新，按理百度抓取不了m端了新文章，因为没有入口，只能从pc抓。利用移动适配，去抓移动页，但我分析日志，新文章www页面百度带UA的蜘蛛没有爬行。

唯一解释的是，www页面百度匿名蜘蛛爬行了，匿名蜘蛛通过www的移动适配发现了m页面的新链接，然后百度蜘蛛去抓了新更新的移动页面

这要是不小心屏蔽了匿名蜘蛛咋办

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站内容为站长个人技术研究记录或网络，不提供用户交互功能，所有内容版权归原作者所有。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！