码迷,mamicode.com
首页 >  
搜索关键字:hadoop2    ( 1326个结果
hadoop:hadoop2.2.0伪分布式搭建
1.准备Linux环境 1.0点击VMware快捷方式,右键打开文件所在位置 -> 双击vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 设置网段:192.168.68.0 子网掩码:255.255.255.0 -> apply -> ok 回到windo...
分类:其他好文   时间:2015-01-23 17:56:41    阅读次数:143
在hadoop2.0上使用mahout1.0(-SNAPSHOT)提供的lda
mahout作为开源软件包,集成了很多机器学习和数据挖掘算法,详细可见 mahout官网  。     关于LDA,这里就不说了,详见大神的 LDA数学八卦  。这里只是想吐嘈mahout官网lda的使用文档:根本就没什么文档嘛!     在mahout-0.9及以前版本,只支持hadoop1.0 . 支持hadoop2.0的mahout只有1.0-SNAPSHOT , 不过是可以用的。现...
分类:其他好文   时间:2015-01-23 13:28:21    阅读次数:214
Hadoop2.6.0伪分布环境搭建
Hadoop2.6.0伪分布环境搭建 用到的软件: 一、安装jdk: 1、要安装的jdk,我把它拷在了共享文件夹里面。   (用优盘拷也可以) 2、我把jdk拷在了用户文件夹下面。 (其他地方也可以,不过路径要相应改变) 3、执行复制安装解压命令:  解压完毕:   查看解压的文件夹: 4、配置 环境变量: 写入如下5行代码: 使配置生效:...
分类:其他好文   时间:2015-01-21 09:02:43    阅读次数:207
Ubuntu下 hadoop2.5.1 (伪分布模式) 配置工作
一:安装JDKhadoop 是以java语言写的,因此需要在本地计算机上预先安装JDK,安装JDK的方法这里不再详述。二:创建hadoop用户为hadoop创建一个专门的用户,将所有的hadoop的工作放到这个用户下。$sudo adduser hadoop回车后会提示输入新建用户hadoop的密码...
分类:系统相关   时间:2015-01-19 20:41:24    阅读次数:242
继上文搭建hadoop-2.6.0三台节点部署
Ssh互信建立完成以后,接下来咱们开始搭建hadoop从ApacheDownloadMirrors下载haoop-2.6.0.从JavaSE-Downloads|OracleTechnologyNetwork|Oracle下载jdk,我下载的是1.8.0_25x86和1.8.0_25x64因为我的三台主机两台ubuntu是32位的,另一台是64位的,所以下载了两个。如果要看自己ub..
分类:其他好文   时间:2015-01-19 19:22:11    阅读次数:145
Hadoop2.6集群环境搭建
Hadoop2.6集群环境搭建(HDFSHA+YARN)原来4G内存也能任性一次。准备工作:1、笔记本4G内存,操作系统WIN7(屌丝的配置)2、工具VMwareWorkstation3、虚拟机:CentOS6.4共四台虚拟机设置:每台机器:内存512M,硬盘40G,网络适配器:NAT模式选择高级,新生成虚机Mac地址(克隆..
分类:其他好文   时间:2015-01-19 06:58:46    阅读次数:279
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/yarn/util/Apps Hadoop2.6.0编程问题与解决
从hadoop 1.2.1升级到 Hadoop2.6.0,调试写代码,还是遇到一些问题的。这里记录一下,后续如果自己再遇到类似问题,那也好找原因了。在eclipse里编译运行 WordCount,出现以下错误。Exception in thread "main" java.lang.NoClassD...
分类:移动开发   时间:2015-01-19 00:14:12    阅读次数:564
Hadoop2.0源码包简介
Hadoop2.0源码包简介1、解压源码包:2、目录结构:hadoop-common-project:Hadoop基础库所在目录,如RPC、Metrics、Counter等。包含了其它所有模块可能会用到的基础库。hadoop-mapreduce-project:MapReduce框架的实现,在第一代...
分类:其他好文   时间:2015-01-17 23:29:42    阅读次数:261
Hadoop-2.0 目录简介
Hadoop-2.0目录简介一、目录结构将下载的压缩包解压:解压后文件夹如下:二、各文件夹目录结构1、bin:Hadoop2.0的最基本管理脚本和使用脚本所在目录。这些脚本是sbin目录下管理脚本的基础实现,我们可以直接用这些脚本管理和使用Hadoop。2、etc:这个目录里的文件只要接触过Hado...
分类:其他好文   时间:2015-01-17 23:26:23    阅读次数:188
Hadoop2.4.1 MapReduce通过Map端shuffle(Combiner)完成数据去重
package com.bank.service;import java.io.IOException;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.conf.Configured;import org.ap...
分类:其他好文   时间:2015-01-17 06:22:03    阅读次数:307
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!