robots封禁后，为什么线上结果没有立刻消除或百度爬虫依旧对封禁目录进行抓取？

镖师 · 发表于 2024-4-20 09:02:10

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

您好，网站在设置robots封禁，您可以使用搜索资源平台的robots工具进行更新，更新后可以尝试使用抓取诊断工具进行检测。百度在robots封禁后，百度可以保证不再对robots封禁的网站和目录进行抓取，但无法保证线上结果会立即消除，线上更新需要1-2周。如您站想快速删除索引，您可以将域名设置404状态，使用死链工具进行提交。如问题依旧存在，请进行人工反馈。

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站内容为站长个人技术研究记录或网络，不提供用户交互功能，所有内容版权归原作者所有。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！