如何在PHP文件中防止网络爬虫

如何在PHP文件中防止网络爬虫,php,web-crawler,Php,Web Crawler,如何防止PHP文件中出现网络爬虫?在以下文件中创建robots.txt,并将其放在网站的根文件夹中 它将告诉所有用户代理不要对任何PHP文件进行爬网禁止:/*.PHP$ Robots.txt内容: User-agent: * Disallow: /*.php$ 另请阅读:网络爬虫看不到您的PHPHow您是否知道您是否正在被爬虫?您将首先检查您的access.log。尽管这只是礼貌地要求他们不要这样做。如果他们选择无视你的愿望,这实际上并不能阻止他们这样做。

如何防止PHP文件中出现网络爬虫?

在以下文件中创建robots.txt,并将其放在网站的根文件夹中

它将告诉所有用户代理不要对任何PHP文件进行爬网禁止:/*.PHP$

Robots.txt内容:

User-agent: *
Disallow: /*.php$

另请阅读:

网络爬虫看不到您的PHPHow您是否知道您是否正在被爬虫?您将首先检查您的access.log。尽管这只是礼貌地要求他们不要这样做。如果他们选择无视你的愿望,这实际上并不能阻止他们这样做。