1.准备Linux环境 1.0点击VMware快捷方式,右键打开文件所在位置 -> 双击vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 设置网段:192.168.68.0 子网掩码:255.255.255.0 -> apply -> ok 回到windo...
分类:
其他好文 时间:
2015-01-23 17:56:41
阅读次数:
143
mahout作为开源软件包,集成了很多机器学习和数据挖掘算法,详细可见 mahout官网 。
关于LDA,这里就不说了,详见大神的
LDA数学八卦 。这里只是想吐嘈mahout官网lda的使用文档:根本就没什么文档嘛!
在mahout-0.9及以前版本,只支持hadoop1.0 . 支持hadoop2.0的mahout只有1.0-SNAPSHOT , 不过是可以用的。现...
分类:
其他好文 时间:
2015-01-23 13:28:21
阅读次数:
214
Hadoop2.6.0伪分布环境搭建
用到的软件:
一、安装jdk:
1、要安装的jdk,我把它拷在了共享文件夹里面。
(用优盘拷也可以)
2、我把jdk拷在了用户文件夹下面。
(其他地方也可以,不过路径要相应改变)
3、执行复制安装解压命令:
解压完毕:
查看解压的文件夹:
4、配置 环境变量:
写入如下5行代码:
使配置生效:...
分类:
其他好文 时间:
2015-01-21 09:02:43
阅读次数:
207
一:安装JDKhadoop 是以java语言写的,因此需要在本地计算机上预先安装JDK,安装JDK的方法这里不再详述。二:创建hadoop用户为hadoop创建一个专门的用户,将所有的hadoop的工作放到这个用户下。$sudo adduser hadoop回车后会提示输入新建用户hadoop的密码...
分类:
系统相关 时间:
2015-01-19 20:41:24
阅读次数:
242
Ssh互信建立完成以后,接下来咱们开始搭建hadoop从ApacheDownloadMirrors下载haoop-2.6.0.从JavaSE-Downloads|OracleTechnologyNetwork|Oracle下载jdk,我下载的是1.8.0_25x86和1.8.0_25x64因为我的三台主机两台ubuntu是32位的,另一台是64位的,所以下载了两个。如果要看自己ub..
分类:
其他好文 时间:
2015-01-19 19:22:11
阅读次数:
145
Hadoop2.6集群环境搭建(HDFSHA+YARN)原来4G内存也能任性一次。准备工作:1、笔记本4G内存,操作系统WIN7(屌丝的配置)2、工具VMwareWorkstation3、虚拟机:CentOS6.4共四台虚拟机设置:每台机器:内存512M,硬盘40G,网络适配器:NAT模式选择高级,新生成虚机Mac地址(克隆..
分类:
其他好文 时间:
2015-01-19 06:58:46
阅读次数:
279
从hadoop 1.2.1升级到 Hadoop2.6.0,调试写代码,还是遇到一些问题的。这里记录一下,后续如果自己再遇到类似问题,那也好找原因了。在eclipse里编译运行 WordCount,出现以下错误。Exception in thread "main" java.lang.NoClassD...
分类:
移动开发 时间:
2015-01-19 00:14:12
阅读次数:
564
Hadoop2.0源码包简介1、解压源码包:2、目录结构:hadoop-common-project:Hadoop基础库所在目录,如RPC、Metrics、Counter等。包含了其它所有模块可能会用到的基础库。hadoop-mapreduce-project:MapReduce框架的实现,在第一代...
分类:
其他好文 时间:
2015-01-17 23:29:42
阅读次数:
261
Hadoop-2.0目录简介一、目录结构将下载的压缩包解压:解压后文件夹如下:二、各文件夹目录结构1、bin:Hadoop2.0的最基本管理脚本和使用脚本所在目录。这些脚本是sbin目录下管理脚本的基础实现,我们可以直接用这些脚本管理和使用Hadoop。2、etc:这个目录里的文件只要接触过Hado...
分类:
其他好文 时间:
2015-01-17 23:26:23
阅读次数:
188
package com.bank.service;import java.io.IOException;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.conf.Configured;import org.ap...
分类:
其他好文 时间:
2015-01-17 06:22:03
阅读次数:
307