sitemap无静态时怎么防止恶意访问,sitemap防御方法
:暂无数据 2026-03-09 16:01:52 :13

目前我们的sitemap还没有生成静态化,也没有去处理缓存,在这种情况下,如果有垃圾爬虫恶意爬取我们的sitemap相关页面,会给数据库带来极大的压力,特别是在数据库超过千W以后,那么我们需要一个临时的防御方法
在宝塔站点的配置文件中,找到server块,在合适的位置添加:
# 匹配所有sitemap相关的.xml文件
location ~ /sitemap.*\.xml$ {
# 如果User-Agent不是指定的搜索引擎,返回404
if ($http_user_agent !~* (baiduspider|360spider|shenma|**-spider)) {
return 404;
}
# 原有的处理逻辑,根据实际情况调整:
# 如果是静态文件
try_files $uri =404;
# 或者如果是动态生成,可能需要proxy_pass
# proxy_pass http://127.0.0.1:端口;
# 设置适当的缓存头
expires 24h;
add_header Cache-Control "public, max-age=86400";
}
我们认为sitemap就是写给搜索引擎看的,没有正常访客会看你的sitemap,看也不看不停的看,偶尔看一下不会影响我们的系统的运行,就是怕有爬虫高频的访问sitemap
通过上述代码,我们将sitemap只开放给国内几大搜索引擎,具体的搜索引擎大家可以根据每个引擎不同的UA进行处理。
本文编辑:admin
更多文章:
现代网站favicon应该有哪些尺寸,favicon.ico需要多种尺寸来适配不同设备和平台
2026年4月2日 10:47
sitemap无静态时怎么防止恶意访问,sitemap防御方法
2026年3月9日 16:01
linux终端查看Nginx日志文件指定关键词,Nginx日志查找蜘蛛
2025年10月11日 16:37
宝塔Nginx屏蔽UA,屏蔽Referer方法,宝塔NG补充免费防火墙方法
2025年9月21日 21:29
宝塔服务器部署Django提示mysqlclient未安装 ,宝塔libmariadb安装教程
2025年5月21日 22:10



















