前言
这次做自然语言处理的作业,是关于多文档摘要生成的,其中对于生成的摘要进行效果测评需要用到ROUGE(不是那个文本高亮的插件!!)。没想到安装这个软件这么麻烦,于是写个博客造福后人了。
ROUGE简介
ROUGE是由微软亚洲研究院知识挖掘组(The Knowledge Mining group at Microsoft Research Asia)调研经理(research manager) Chin-Yew Lin 研发的,用于摘要的自动评价,通过比较机器自动生成的摘要(called system_summary)与人工生成的摘要(called model_summary, 认为它是理想的)中重叠单元的数量,来评价机器自动生成的摘要。该方法中考虑的重叠单元有n-gram, word sequences, word-pairs等,并提出了四个测量标准ROUGE-N, ROUGE-L, ROUGE-W, ROUGE-S。
该包用Perl语言编写,目前版本为ROUGE-1.5.5。
ROUGE安装教程
说实话ROUGE真心是难装,按理说在Ubuntu下几行命令就应该要安装成功一个程序,可是ROUGE完全没有体现这一点。
安装要求
1. 需要安装perl解释器(ubuntu 系统已自带, 通过perl -v可查看当前版本);
2. 需要额外安装perl解释器的XML::DOM模块以及DB_File模块,而XML::DOM的安装又需要XML::RegExp、XML::Parser、LWP::UserAgent和XML::Parser::PerlSAX模块(对,就是这么恶心);
3. 设置系统环境变量ROUGE_EVAL_HOME,需要设置为ROUGE安装目录下词库data所在路径
获取方法
现在不知道官网是哪个了,不过可以从github上获取,也可以从我的Linux公社资源站(1.5.5版本)获取,另外其他依赖的模块包我也放进这个链接里了,可以一起下载省去寻找的麻烦。
可以到Linux公社资源站下载:
——————————————分割线——————————————
免费下载地址在 http://linux.linuxidc.com/
用户名与密码都是www.linuxidc.com
具体下载目录在 /2018年资料/9月/22日/Ubuntu安装配置ROUGE教程/
下载方法见 http://www.linuxidc.com/Linux/2013-07/87684.htm
——————————————分割线——————————————
安装过程
step1: 检查perl版本
因为DOM要求perl版本要在5.6.0以上,所以先在终端用perl -v查看一下当前版本,版本较低的话先升级一下perl。
step2: 安装XML::Parser
假设使用我百度网盘里的文件,将XML-Parser-2.44.tar解压到当前文件夹或指定路径。
tar -zxvf XML-Parser-2.44.tar.gz1
进入解压得到的文件夹并开始安装。
cd XML-Parser-2.44
perl Makefile.PL
make
make test # if %%%Result看到PASS为成功就继续,否则仔细看哪个case报错了
sudo make install # if %%%必须要sudo,否则可能没有读写文件的权限12345
step3: 安装XML::RegExp
参考step2安装
step4: 安装LWP::UserAgent
LWP::UserAgent是libwww-perl中的一部分,直接用apt-get安装就好啦。
sudo apt-get update
sudo apt-get install libwww-perl12
step5: 安装XML::Parser::PerlSAX
这个模块是libxml-perl中的一部分,也可以直接用apt-get安装(其实我在想前面几个模块能不能也这么安装)。
sudo apt-get install libxml-perl1
step6: 安装XML::DOM
如果前面几个都没问题的话,到这里应该也能一遍过了,继续参考step2的方法,进入XML::DOM的安装包路径,用perl安装即可。如果在make test的时候还报错如下:
Test Summary Report
——————-
t/build_dom.t (Wstat: 512 Tests: 1 Failed: 1)
Failed test: 1
Non-zero exit status: 2
Parse errors: Bad plan. You planned 2 tests but ran 1.
Files=21, Tests=128, 2 wallclock secs ( 0.07 usr 0.01 sys + 1.56 cusr 0.10 csys = 1.74 CPU)
Result: FAIL
Failed 1/21 test programs. 1/128 subtests failed.
Makefile:968: recipe for target ‘test_dynamic’ failed
make: *** [test_dynamic] Error 2551234567891011
可以用这两行命令修复一下。
sudo apt-get install -f
sudo apt-get update –fix-missing 12
step7: 安装DB_File
先获得DB_File的安装包,可以用如下命令,也可以从我给的网盘链接里直接下载。
sudo wget http://www.cpan.org/authors/id/P/PM/PMQS/DB_File-1.835.tar.gz1
接下来如同step2,进入文件夹后使用perl命令安装。
cd DB_File-1.835
perl Makefile.PL
make
make test # if %%%看到PASS为成功
sudo make install12345
在make的时候如果出错如下:
version.c:30:16: fatal error: db.h: 没有那个文件或目录
compilation terminated.
Makefile:360: recipe for target ‘version.o’ failed
make: *** [version.o] Error 11234
说明未安装Berkeley DB library,或安装不正确。解决方法如下:
sudo apt-get install libdb-dev1
如果还没有用,可能是没有安装对应的版本,先使用
sudo apt-cache search libdb1
查看当前Berkeley DB library 的版本,然后再安装对应的版本.
sudo apt-get install libdb5.3-dev1
step8: 设置ROUGE环境变量
设置环境变量ROUGE_EVAL_HOME,假设你解压的ROUGE-1.5.5在/usr/local/RELEASE-1.5.5,则:
sudo gedit etc/profile %%%这样对所有用户都有效,若希望仅对当前用户有效则输入sudo gedit ~/.profile 1
在跳出来的文本编辑器末尾添加 :
export ROUGE_EVAL_HOME=”$ROUGE_EVAL_HOME:/usr/local/RELEASE-1.5.5/data”1
step9: 测试安装是否成功
以上步骤都进行完毕后,怎么知道自己的ROUGE是否安装配置成功了呢?可以进入ROUGE文件所在路径(即RELEASE-1.5.5),然后运行一下runROUGE-test.pl文件。
perl runROUGE-test.pl1
如果有以下输出,且sample-output路径下各个文件都有内容的话,基本是安装成功了。
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -a ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-a.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -a -m ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-a-m.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -a -m -s ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-a-m-s.out
^C../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -l 10 -a ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-l10-a.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -l 10 -a -m ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-l10-a-m.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -l 10 -a -m -s ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-l10-a-m-s.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -b 75 -a ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-b75-a.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -b 75 -a -m ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-b75-a-m.out
../ROUGE-1.5.5.pl -e ../data -c 95 -2 -1 -U -r 1000 -n 4 -w 1.2 -b 75 -a -m -s ROUGE-test.xml > ../sample-output/ROUGE-test-c95-2-1-U-r1000-n4-w1.2-b75-a-m-s.out
../ROUGE-1.5.5.pl -e ../data -3 HM -z SIMPLE DUC2002-BE-F.in.26.lst 26 > ../sample-output/DUC2002-BE-F.in.26.lst.out
../ROUGE-1.5.5.pl -e ../data -3 HM DUC2002-BE-F.in.26.simple.xml 26 > ../sample-output/DUC2002-BE-F.in.26.simple.out
../ROUGE-1.5.5.pl -e ../data -3 HM -z SIMPLE DUC2002-BE-L.in.26.lst 26 > ../sample-output/DUC2002-BE-L.in.26.lst.out
../ROUGE-1.5.5.pl -e ../data -3 HM DUC2002-BE-L.in.26.simple.xml 26 > ../sample-output/DUC2002-BE-L.in.26.simple.out
../ROUGE-1.5.5.pl -e ../data -n 4 -z SPL DUC2002-ROUGE.in.26.spl.lst 26 > ../sample-output/DUC2002-ROUGE.in.26.spl.lst.out
../ROUGE-1.5.5.pl -e ../data -n 4 DUC2002-ROUGE.in.26.spl.xml 26 > ../sample-output/DUC2002-ROUGE.in.26.spl.out123456789101112131415
至此就全部大功告成啦!
Ubuntu安装配置pyrouge
之前配置pyrouge是很麻烦的事,安装完之后会各种报错,解决起来令人头皮发麻。
这次重新安装ROUGE和pyrouge,找到了一种简洁的安装pyrouge的方法,不会出错,非常方便。记录一下。
很简单,就是几行命令。
git clone https://github.com/bheinzerling/pyrouge
cd pyrouge
Python setup.py install
python -m pyrouge.test1234
在最后一步,python -m pyrouge.test前,要设置rouge路径。
pyrouge_set_rouge_path /absolute/path/to/ROUGE-1.5.5/directory1
例如我的ROUGE文件放在了/usr/local/RELEASE-1.5.5下,就设置为
pyrouge_set_rouge_path /usr/local/RELEASE-1.5.5
Linux公社的RSS地址:https://www.linuxidc.com/rssFeed.aspx
本文永久更新链接地址:https://www.linuxidc.com/Linux/2018-09/154295.htm