感谢支持
我们一直在努力

Ubuntu 11.10下Nutch1.4安装及测试

Nutch安装及测试


一 安装环境:


Ubuntu 版本:11.10


Kernel  版本:3.0.0.12-generic


Ubuntu 11.10下Nutch1.4安装及测试


二 安装Java的JDK


安装JDK命令:apt-getinstall openjdk-6-jdk


Ubuntu 11.10下Nutch1.4安装及测试


三 下载Nutch及解压安装


Nutch版本:apache-nutch-1.4-bin.tar.gz


命令下见图:


Ubuntu 11.10下Nutch1.4安装及测试


四 设置环境变量:


Ubuntu 11.10下Nutch1.4安装及测试

问题一:当设置完环境变量后,在命令行输入”nutch”,然后回车,无法运行nutch,且出现现提示:“/home/is11/lidexin/apache-nutch-1.4-bin/runtime/local/bin/nutch:Permission denied”


解决方法:在目录“/home/is11/lidexin/apache-nutch-1.4-bin/runtime/local/bin/”下输入命令“chmod +x nutch”,然后回车。(见下图)


(注意此问题不一定会出现,我在Ubuntu10.04上安装Nutch时就没出现过)


Ubuntu 11.10下Nutch1.4安装及测试


五 建立urls目录


在目录“/apache-nutch-1.4-bin/runtime/local”下建立urls目录,见下图


Ubuntu 11.10下Nutch1.4安装及测试


六 在urls目录下建立url.txt文件,并输入你想爬的网站网址。


Ubuntu 11.10下Nutch1.4安装及测试


七 编辑nutch-site.xml文件。


进入到/apache-nutch-1.4-bin/runtime/local/conf目录下,修改nutch-site.xml文件。命令见下图。


Ubuntu 11.10下Nutch1.4安装及测试


添加内容如下:


Ubuntu 11.10下Nutch1.4安装及测试

八 编辑regex-urlfilter.txt文件


进入到/apache-nutch-1.4-bin/runtime/local/conf目录下,修改regex-urlfilter.txtl文件,在“# accept anything else”下面输入:“+^http://([a-z0-9*\.])*mittrchinese.com/”,然后保存,见下图


Ubuntu 11.10下Nutch1.4安装及测试


九 开始爬了


命令:nutch crawl urls –dir crawl –depth 3 –topN 5


此命令的意思:“We are using the nutch crawlcommand. The urlsdir is the urls directory that we added to the distributedfilesystem. (I’ve called it “urlsdir” to make it clearer that itisn’t merely the *file* containing urls). The “-dir crawl” is theoutput directory. This will also go to the distributed filesystem. The depth is3 meaning it will only get 3 page links deep. There are other options you canspecify, see the command documentation for those options.”


问题二:出现错误提示,见下图


Ubuntu 11.10下Nutch1.4安装及测试


解决方法如下:


回到/apache-nutch-1.4-bin/runtime/local目录下,执行“chmod +x urls”命令,回车。


(注意此问题不一定会出现,我在Ubuntu10.04上安装Nutch时就没出现过)


Ubuntu 11.10下Nutch1.4安装及测试


重新输入命令:nutch crawl urls –dir crawl –depth 3 –topN 5


屏幕显示如下:


Ubuntu 11.10下Nutch1.4安装及测试

赞(0) 打赏
转载请注明出处:服务器评测 » Ubuntu 11.10下Nutch1.4安装及测试
分享到: 更多 (0)

听说打赏我的人,都进福布斯排行榜啦!

支付宝扫一扫打赏

微信扫一扫打赏