开启智能数字体验
Djacore CMS 驱动未来

基于Django 5.2的企业级智能内容管理系统,为千万级数据量设计, 提供安全、高效、可扩展的网站建设与内容管理一体化解决方案

sitemap无静态时怎么防止恶意访问,sitemap防御方法

:暂无数据 2026-03-09 16:01:52 13

sitemap无静态时怎么防止恶意访问,sitemap防御方法

 

目前我们的sitemap还没有生成静态化,也没有去处理缓存,在这种情况下,如果有垃圾爬虫恶意爬取我们的sitemap相关页面,会给数据库带来极大的压力,特别是在数据库超过千W以后,那么我们需要一个临时的防御方法

在宝塔站点的配置文件中,找到server块,在合适的位置添加:

 

# 匹配所有sitemap相关的.xml文件
location ~ /sitemap.*\.xml$ {
   # 如果User-Agent不是指定的搜索引擎,返回404
   if ($http_user_agent !~* (baiduspider|360spider|shenma|**-spider)) {
       return 404;
   }
   
   # 原有的处理逻辑,根据实际情况调整:
   # 如果是静态文件
   try_files $uri =404;
   
   # 或者如果是动态生成,可能需要proxy_pass
   # proxy_pass http://127.0.0.1:端口;
   
   # 设置适当的缓存头
   expires 24h;
   add_header Cache-Control "public, max-age=86400";
}

 

 

 

我们认为sitemap就是写给搜索引擎看的,没有正常访客会看你的sitemap,看也不看不停的看,偶尔看一下不会影响我们的系统的运行,就是怕有爬虫高频的访问sitemap

通过上述代码,我们将sitemap只开放给国内几大搜索引擎,具体的搜索引擎大家可以根据每个引擎不同的UA进行处理。

本文编辑:admin

更多文章:


现代网站favicon应该有哪些尺寸,favicon.ico需要多种尺寸来适配不同设备和平台

现代网站favicon应该有哪些尺寸,favicon.ico需要多种尺寸来适配不同设备和平台

现代网站favicon需要多种尺寸来适配不同设备和平台。以下是完整的尺寸要求和建议:核心必备尺寸尺寸格式用途优先级16×16ICO, PNG浏览器标签页、书签栏必需32×32ICO, PNG高DPI显示器、Windows任务栏必需180×1

2026年4月2日 10:47

sitemap无静态时怎么防止恶意访问,sitemap防御方法

sitemap无静态时怎么防止恶意访问,sitemap防御方法

sitemap无静态时怎么防止恶意访问,sitemap防御方法

2026年3月9日 16:01

宝塔Nginx免费防火墙常用UA防护正则

宝塔Nginx免费防火墙常用UA防护正则

垃圾UA屏蔽基础版(FeedDemon|Indy Library|Alexa Toolbar|Dalvik|AOLShield|ClaudeBot|Server 2012|Enterprise|LieBaoFast|Trailer|Agen

2026年1月20日 00:53

宝塔监测CPU IO的shell代码

宝塔监测CPU IO的shell代码

无docker版本#!/bin/bash # 阈值配置(生产环境建议调整) IO_THRESHOLD=70 # iowait百分比阈值(正常服务器通常<30%) CPU_THRESHOLD=70 # CPU总使用率阈值(用户+系统)

2025年11月28日 17:01

uWSGI 所有配置属性有哪些?uWSGI的具体配置方法

uWSGI 所有配置属性有哪些?uWSGI的具体配置方法

uWSGI 的配置属性非常丰富,涵盖了进程管理、性能调优、日志记录、安全设置等多个方面。为了让你能快速了解,我将其核心属性整理成了一个表格。下面这个表格汇总了除了你提到的几个之外,其他一些常用且重要的配置属性及其作用。配置属性功能描述示例值

2025年11月15日 14:30

linux终端查看Nginx日志文件指定关键词,Nginx日志查找蜘蛛

linux终端查看Nginx日志文件指定关键词,Nginx日志查找蜘蛛

在宝塔面板中查看指定Nginx日志文件里百度蜘蛛的访问次数,可以通过几种方法实现。下面为你梳理了操作步骤。我们以查找/www/wwwlogs/djacorecms.log中百度蜘蛛🔍 使用宝塔面板内置日志查看器这是最直观的方法,适合不熟悉命

2025年10月11日 16:37

宝塔Nginx屏蔽UA,屏蔽Referer方法,宝塔NG补充免费防火墙方法

宝塔Nginx屏蔽UA,屏蔽Referer方法,宝塔NG补充免费防火墙方法

宝塔的Nginx免费防火墙好像对主要搜索引擎蜘蛛为放行的,但是在实际运营当中我们不一定什么搜索都需要。因为有的搜索就是蜘蛛玩命的来,就是不收录,还有的就是没啥流量死命的来蜘蛛。。搞的服务器压力多数来自于他们。我们是长久的使用宝塔界面来管理服

2025年9月21日 21:29

宝塔服务器部署Django提示mysqlclient未安装 ,宝塔libmariadb安装教程

宝塔服务器部署Django提示mysqlclient未安装 ,宝塔libmariadb安装教程

宝塔服务器部署Django提示mysqlclient未安装 ,宝塔libmariadb安装教程

2025年5月21日 22:10

最近更新

使用DRF快速搭建API接口,Django REST Framework ModelViewSet 用法总结
2026-03-01 09:10:09 浏览:4
宝塔Nginx免费防火墙常用UA防护正则
2026-01-20 00:53:21 浏览:38
django 使用selenium注意事项:Service /usr/local/bin/chromedriver unexpectedly exited. Status code was: 1解决办法
2026-01-06 00:58:37 浏览:10
Django移除模型后的content_type操作
2025-12-22 11:36:29 浏览:6
热门文章

DjancoreCMS打包前操作
2025-05-26 17:58:05 浏览:81
宝塔Nginx免费防火墙常用UA防护正则
2026-01-20 00:53:21 浏览:38
标签列表