robots只抓取html行不行？

镖师 · 发表于 2022-9-4 20:44:14

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

只抓取网站html行不行？将含？的页面，模板、图片、css、js目录这些都不抓取行不行？会不会影响网站优化的呢有没有副作用？？

Allow:*.html
Disallow: /某个目录/
Disallow: /*?*
Disallow: /*.jpg

©dz插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站信息来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
如有侵权请邮件与我们联系处理:discuz-x@qq.com（手机随时接收邮件）并出示相关证明以便删除。敬请谅解！