爬虫我都设置到403了还一直抓取

逝水年华 · 发表于 2025-4-12 17:11:55

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

136.243.228.193 - - [12/Apr/2025:12:59:05 +0800] ＂GET /item/id/w5j5yzxCgtDpk0q7JYSBVRCbtd-oKKGxrpMSB86Adw8oI4X.html HTTP/1.1＂ 403 627 ＂-＂＂Mozilla/5.0 (compatible; DataForSeoBot/1.0; +https://dataforseo.com/dataforseo-bot)＂136.243.228.193 - - [12/Apr/2025:12:59:08 +0800] ＂GET /item/id/mVBVAn4SktJxKqewAaiAjRiot3-266YdX4RiM3RARBYNSZ.html HTTP/1.1＂ 403 626 ＂-＂＂Mozilla/5.0 (compatible; DataForSeoBot/1.0; +https://dataforseo.com/dataforseo-bot)＂136.243.228.193 - - [12/Apr/2025:12:59:12 +0800] ＂GET /item/id/Pg6gPNxI3t6xMAX358SDbDHPt6-RggryxqWIVe3OdDw8u6K.html HTTP/1.1＂ 403 627 ＂-＂＂Mozilla/5.0 (compatible; DataForSeoBot/1.0; +https://dataforseo.com/dataforseo-bot)＂85.208.96.211 - - [12/Apr/2025:12:59:14 +0800] ＂GET /item/id/yY26XJrHRt2MbjwNebs5dxIvtA-D33Yw0eoCPqNyK7q8h65.html HTTP/1.1＂ 403 627 ＂-＂＂Mozilla/5.0 (compatible; SemrushBot/7~bl; +http://www.semrush.com/bot.html)＂136.243.228.193 - - [12/Apr/2025:12:59:17 +0800] ＂GET /item/id/0owoJRot7t8VJr6A7Du5Gjc2t6-YJJQBMVATBe2JAnyMCRA.html HTTP/1.1＂ 403 627 ＂-＂＂Mozilla/5.0 (compatible; DataForSeoBot/1.0; +https://dataforseo.com/dataforseo-bot)＂

这样占用不占用我服务器的资源啊。

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站内容为站长个人技术研究记录或网络，不提供用户交互功能，所有内容版权归原作者所有。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！