Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/php/273.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/6/entity-framework/4.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Php 阻止社交网络抓取附属链接_Php_Web Crawler_Social Networking_Affiliate - Fatal编程技术网

Php 阻止社交网络抓取附属链接

Php 阻止社交网络抓取附属链接,php,web-crawler,social-networking,affiliate,Php,Web Crawler,Social Networking,Affiliate,我搜索了整个网站寻找解决方案,但没有找到我需要的。这是我的问题 我有一个独特的链接,这是由用户共享的社交网络,如fb,twitter等。当一个独特的ip点击被触发的链接,我会奖励用户一些点,但一旦用户共享链接,我看到7-8个数据库条目,这些条目是来自社会网络爬虫。所以当用户共享fb爬行并生成错误的数据库条目时。它不是第一次爬行,每次爬行都是在一个固定的延迟和制造问题之后。我的链接如下 kodeinfo.com/user/token/network 请告诉我如何阻止此网络爬网url。请检查Face

我搜索了整个网站寻找解决方案,但没有找到我需要的。这是我的问题

我有一个独特的链接,这是由用户共享的社交网络,如fb,twitter等。当一个独特的ip点击被触发的链接,我会奖励用户一些点,但一旦用户共享链接,我看到7-8个数据库条目,这些条目是来自社会网络爬虫。所以当用户共享fb爬行并生成错误的数据库条目时。它不是第一次爬行,每次爬行都是在一个固定的延迟和制造问题之后。我的链接如下

kodeinfo.com/user/token/network


请告诉我如何阻止此网络爬网url。请检查Facebook或twitter爬网程序是否使用特定的用户代理并忽略这些代理。您可以尝试在链接上使用rel=nofollow属性。理论上,机器人应该尊重这一点,而不是遵循链接

这里有更多的信息


祝你好运

每次我读到这本书,我都找了很多。。。然而,我甚至一分钟都不思考就知道答案,我应该得到一分钱,我就会富有。回答:robots.txte.g。如果我搜索防止爬行,第一页解释robots.txt的概念。顺便说一句,防止爬行是我想到的第一句话。