博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
安装文件Win7 配置 Nutch 1.2
阅读量:4970 次
发布时间:2019-06-12

本文共 3027 字,大约阅读时间需要 10 分钟。

PS:今天上午,非常郁闷,有很多简单基础的问题搞得我有些迷茫,哎,代码几天不写就忘。目前又不当COO,还是得用心记代码哦!

    

Win7境环下置配 nutch-1.2

    

    

    

    

Step1:安装jdk

    网上已有多许很好的教程了,这里不再赘述,只是调强两点

    

  1. Jdk的安装路径中不能有文中

  2. Jdk的安装路径中不能有空格

    

    

Step2:安装tomcat

    网上已经有多许成熟的教程了,不再赘述了。Apache-tomcat官网:

    

    

Step3:安装cygwin

    Cygwin官网:

    Cygwin安装文件:

    

    Cygwin其实就是一个*nix系统的虚拟机(和ubuntu下的wine功能恰好相反)。由于nutch是用java编写的在*nix系统上运行了,为了可以在Windows系统上Run,所以就要需cygwin搭建一个*nix系统的模拟境环。

    Cygwin的详细安装进程没什么好说的,下载在安装文件setup.exe后,就点击“下一步”就OK了。只是醒提:cygwin的安装目录需是磁盘根目录,(尽量是认默置配就OK)。

    

    

Step4:安装和置配nutch-1.2

    Nutch-1.2的下载接链:(选择:

    

    

  1. 下载完成后将其解压到目录:D:\Code\nutch-1.2(可以自定义)

  2. 运行step3安装的Cygwin;输入命令将当前目录切换至nutch-1.2目录下;

    只要输入cd,然后将nutch-1.2目录拖进cygwin窗口,按下enter

  3. Nutch-1.2的安装测试,在cygwin窗口输入:bin/nutch

    如果涌现Usage:nutch[-core] COMMAND等一串息信就示表nutch安装胜利。

    

    

Step5:测试nutch-1.2的爬虫功能

    

  1. 置设系统变量NUTCH_JAVA_HOME

    它的值就是java的安装目录,例如:C:\Java\jdk1.7.0_17

  2. 置设要需取抓的网站主名域。

    Nutch-1.2的安装目录下立建一个名为urls的文件夹,并在文件夹下立建url.txt文件,在文件中写入:http://www.sohu.com/(即要取抓网站的网址,注意最后要加斜杠)。

  3. 置设网站过滤规则。

    辑编conf/crawl-urlfilter.txt文件,改修MY.DOMAIN.NAME部份。
    # accept hosts in MY.DOMAIN.NAME
    +^http://([a-z0-9]*\.)*MY.DOMAIN.NAME/
    改成:
    # accept hosts in MY.DOMAIN.NAME
    +^http://([a-z0-9]*\.)*sohu.com/

  4. 置设代理息信。

    辑编conf/nutch-site.xml文件。在<configuration></configuration>之间加添如下内容:
    <property>

    每日一道理
有些冷,有些凉,心中有些无奈,我一个人走在黑夜中,有些颤抖,身体瑟缩着,新也在抖动着,我看不清前方的路,何去何从,感觉迷茫,胸口有些闷,我环视了一下周围,无人的街头显得冷清,感到整个世界都要将我放弃。脚步彷徨之间,泪早已滴下……

    <name>http.agent.name</name>

    <value>http://www.sohu.com/</value>

    </property>

    <property>

    <name>http.agent.url</name>

    <value>http://www.sohu.com/</value>

    </property>

    <property>

    <name>http.robots.agents</name>

    <value>http://www.sohu.com/</value>

    </property>

    

  1. 置设代理名

    辑编nutch-1.2\conf\nutch-default.xml文件,找<name>http.agent.name</name>,然后随意置设Value值。例如:

  2. 运行crawl爬虫命令取抓内容

    运行cygwin后,

a)首先切换进入nutch-1.2的目录;
b)运行命令:exportLANG=”zh_CN.GBK” (置设linux境环变量)
c)运行命令:bin/nutch crawl urls -dir crawled -depth 4 -threads 3-topN 30
crawl nutch索检数据命令,面后跟上要索检的URL文件;

    -dir指定取抓内容所放存的目录;

    -depth示表以要取抓网站顶级网址为出发点的匍匐深度;

    -threads指定发并的线程数;

    -topN 取抓时每页的最大取抓接链。

    

  1. 运行结果

    nutch-1.2的目录下多了个crawled目录,面下有文件如下:

    

    

Step6:测试nutch-1.2的索检功能

    主要在Apache-tomcat目录停止作操,以apache-tomcat-7.039为例:

    

  1. 进入apache-tomcat-7.0.39目录,将webapps/root 文件夹重命名或删除。

  2. nutch-1.2目录下的nutch-1.2.war复制到apache-tomcat-7.0.39\webapps目录下,重并命名为:ROOT.war

  3. 启用apache-tomcat,运行\apache-tomcat-7.0.39\bin\startup.bat

  4. 在浏览器中输入

  5. 此时\apache-tomcat-7.0.39\webapps\目录下就会涌现一个ROOT文件夹。

    辑编\apache-tomcat-7.0.39\webapps\ROOT\WEB-INF\classes\nutch-site.xml,如下图所示:
    红色框就是“
    step5:测试nutch-1.2的索检功能”中爬虫爬出来的数据文件夹。

  6. 决解文中码乱问题,辑编\apache-tomcat-7.0.39\conf\server.xml文件,找到Connector部份,置设为:

    <Connectorport="8080"

    maxThreads="150"

    minSpareThreads="25"

    maxSpareThreads="75"

    enableLookups="false"

    redirectPort="8443"

    acceptCount="100"

    connectionTimeout="20000"

    disableUploadTimeout="true"

    URIEncoding="UTF-8"

    useBodyEncodingForURI="true"/>

    如下图所示:

    

  1. 再次启用apache-tomcat重新运行\apache-tomcat-7.0.39\bin\startup.bat

  2. 在浏览器中输入;结果如图所示:

文章结束给大家分享下程序员的一些笑话语录: 爱情观

  爱情就是死循环,一旦执行就陷进去了。
  爱上一个人,就是内存泄露--你永远释放不了。
  真正爱上一个人的时候,那就是常量限定,永远不会改变。
  女朋友就是私有变量,只有我这个类才能调用。
  情人就是指针用的时候一定要注意,要不然就带来巨大的灾难。

转载于:https://www.cnblogs.com/xinyuyuanm/archive/2013/05/01/3052969.html

你可能感兴趣的文章
如何对网课、游戏直播等进行录屏
查看>>
UIView
查看>>
有关去掉谷歌及火狐浏览器文本框 数字类型 上下箭头的方法
查看>>
MySQL数据迁移到SQL Server
查看>>
复杂链表的复制(python)
查看>>
添加日期选择控件
查看>>
jquery.cookie.js操作cookie
查看>>
javascript遍历数组
查看>>
bzoj4765: 普通计算姬 (分块 && BIT)
查看>>
thinkphp5-----模板中函数的使用
查看>>
POJ-3211 Washing Clothes[01背包问题]
查看>>
[BZOJ4832][Lydsy1704月赛]抵制克苏恩
查看>>
数据库三范式
查看>>
看完漫画秒懂区块链
查看>>
开发工具,做一个有效率的开发者
查看>>
对Haskell这门语言的基本认识
查看>>
mysql 安装补充
查看>>
大学里如何学习 ?
查看>>
Oracle命令类别
查看>>
js面试题:关于数组去重的四种方法总结
查看>>