声明:1)本文由我bitpeach原创撰写,转载时请注明出处,侵权必究。
2)本小实验工作环境为Ubuntu操作系统,hadoop1-2-1,jdk1.8.0。
3)统计词频工作在单节点的伪分布上,至于真正实际集群的配置操作还没有达到,希望能够由本文抛砖引玉。(一)Hadoop的配置修正 网上有很多...
分类:
其他好文 时间:
2014-05-05 21:54:47
阅读次数:
456
在Hadoop集群环境下安装Mahout。环境:OS:Centos 6.5 x64 &
Soft:Hadoop 1.2.1 & Mahout
0.91、简介mahout项目主页:https://mahout.apache.org/下载二进制包,上传到服务器。2、安装用集群环境用户安装,解压二进制包。...
分类:
其他好文 时间:
2014-05-05 21:35:23
阅读次数:
429
把一个在windows写的web程序,移植到新装的ubuntu上来。由于新装的ubuntu装的上APACHE2,
在配置文件上跟老的apache有区别, 没太注意。原来的web程序是用ThinkPHP写的,
移植过来后在url上出老点差错。于是开始纠结的找问题。由于thinkphp的url需要重写,...
分类:
其他好文 时间:
2014-05-05 13:17:19
阅读次数:
311
从WordCount开始分析
编写一个例子程序
编写一个从HDFS中读取并计算wordcount的例子程序:
packageorg.apache.spark.examples
importorg.apache.spark.SparkContext
importorg.apache.spark.SparkContext._
objectWordCount{
defm...
分类:
其他好文 时间:
2014-05-05 13:10:34
阅读次数:
463
在windows下通过安装cygwin模拟linux环境,然后再安装hadoop,是一种简单方便的方式。为hadoop准备的windows下cygwin环境安装过程如下:
- 下载安装文件
最新的cygwin安装文件setup.exe下载地址在这里:http://cygwin.com/install.html。用最新版本的cygwin就可以,我用的是2.774版本的安装程序。
- 安装cyg...
能够将热爱的技术应用于实际生活生产中,是做技术人员向往和乐之不疲的事。
现将前期手里面的一个项目做一个大致的总结,与大家一起分享、交流、进步。项目现在正在线上运行,项目名——基于Hadoop的数据分析综合管理平台。
项目流程整体比较清晰,爬取数据(txt文本)-->数据清洗-->文本模型训练-->文本分类-...
分类:
其他好文 时间:
2014-05-04 00:22:05
阅读次数:
476
1:ibatis是apache的一个开源的项目,是一个O/R
mapping解决方案,优点,小巧,灵活。2:搭建环境:导入ibatis相关jar包,jdbc驱动包等3:配置文件:
jdbc连接的属性文件(.property文件) 总配置文件(xml文件) 关于每个实体的映射文件(map文...
分类:
其他好文 时间:
2014-05-03 22:30:39
阅读次数:
250
本文主要介绍了MapReduce中的Combiner操作。在MapReduce的执行步骤中,我们一共分了8步,其中Map中的最后一步规约操作就是今天要讲的Combiner。首先看一下前文中的计数器:我们可以发现,其中有两个计数器:Combineoutputrecords和Combineinputrecords,他们的计数都是0,这是..
分类:
其他好文 时间:
2014-05-03 15:00:55
阅读次数:
323
本文主要介绍了MapReduce中的自定义计数器的相关内容。在上次的单词统计例子中,我们可以看到MapReduce在执行过程中会有很多的控制台输出信息,其中有一个很关键的内容:计数器。如下图:可以看到最上方的关键字:Counters,这就表示计数器。在这里,只有一个制表符缩进的表示..
分类:
其他好文 时间:
2014-05-03 14:56:19
阅读次数:
336
大致规划:主机IP描述VIP192.168.0.222对外提供高可用IPhaproxy+keepalived(node1)192.168.0.111haproxy为后端两台WEB服务的做动静分离;keepalived为haproxy做高可用。haproxy+keepalived(node2)192.168.0.112WEB(node3)192.168.0.113提供静态请求响应Apache+PHP+MySQL(node4)..
分类:
Web程序 时间:
2014-05-03 14:37:46
阅读次数:
610