如何让ApacheNutch永远爬行

如何让ApacheNutch永远爬行,apache,web-crawler,nutch,Apache,Web Crawler,Nutch,我使用ApacheNutch(2.2.1)进行爬行。如果我想永远爬行,需要什么样的改变。完全指导我,因为我不熟悉nutch to mutch。如果你想永远爬行,以下是你需要的脚本: #!/bin/bash ./bin/nutch inject urls #urls is the seed data while [ 1 == 1 ] do ./bin/nutch generate -topN 10000 # 10000 is the number of URLs will be fetch

我使用ApacheNutch(2.2.1)进行爬行。如果我想永远爬行,需要什么样的改变。完全指导我,因为我不熟悉nutch to mutch。

如果你想永远爬行,以下是你需要的脚本:

#!/bin/bash

./bin/nutch inject urls #urls is the seed data
while [ 1 == 1 ]
do
   ./bin/nutch generate -topN 10000 # 10000 is the number of URLs will be fetch in each crawling round, you can modify it
   ./bin/nutch fetch -all
   ./bin/nutch parse -all
   ./bin/nutch updatedb

done
希望这有帮助

勒库克多