码迷,mamicode.com
首页 >  
搜索关键字:apache hadoop yarn    ( 47386个结果
电商论道---(3)Solr全文搜索引擎的安装
接上篇,Solr的准备工作完成后,本节主要介绍Solr的安装,其实Solr不需要安装.直接下载就可以了                   1.Solr安装                       下载地址 :http://lucene.apache.org/solr/...
分类:其他好文   时间:2014-07-22 23:03:54    阅读次数:276
获取我们自己项目中类路径下的文件
例如我们要获取我们项目类路径下的image-manager.properties  java代码如下 import org.apache.tools.ant.taskdefs.LoadProperties; protected String readConfig() throws FileNotFoundException, IOException { In...
分类:其他好文   时间:2014-05-01 21:53:04    阅读次数:356
hadoop技术基本架构
一、Hadoop概述 hadoop由两部分组成,分别是分布式文件系统和分布式计算框架MapReduce。其中,分布式文件系统主要用于大规模数据的分布式存储,而MapReduce 则构建在分布式文件系 统之上,对存储在分布式文件系统中的数据进行分布式计算。 2、在Hadoop 中,MapReduce 底层的分布式文件系统是独立模块,用户可按照约定的一套接口实现自己的分布式文件系统,然后经过简单...
分类:其他好文   时间:2014-05-01 18:34:41    阅读次数:382
Apache与weblogic整合实战(独家研究)
用apache来处理外界的请求,再把请求转发给wls,这样就能够突破wls express版本的5用户限制 具体配置如下 copy ${WLS_Server}/server/lib下的mod_wl_20.so到${apache_home}/modules下 修改httpd.conf文件 LoadModule weblogic_module modules\mod_wl_20.so ...
分类:Web程序   时间:2014-05-01 17:58:03    阅读次数:417
HDFS集中式缓存管理(Centralized Cache Management)
Hadoop从2.3.0版本开始支持HDFS缓存机制,HDFS允许用户将一部分目录或文件缓存在HDFS当中,NameNode会通知拥有对应块的DataNodes将其缓存在DataNode的内存当中 集中式缓存管理有着许多显著的优势: 防止那些被频繁使用的数据从内存中清除因为DataNode的缓存由NameNode来管理,applications在做任务安排时可以查询这个缓存的列表,...
分类:其他好文   时间:2014-05-01 17:45:58    阅读次数:379
namespace mismatch require错误处理方法
最近在进行两个项目开发时,需要使用WebService进行通信,在一个项目中使用axis2实现了,但在别一个项目中调用时,却发生异常,错误信息:namespace mismatch require http://webservice.transcoding.module.iefree.com found http://ws.apache.org/axis2/xsd产生错误的代码: public s...
分类:其他好文   时间:2014-04-30 22:33:39    阅读次数:266
MapReduce 编程模型
一、简介 1、MapReduce 应用广泛的原因之一在于它的易用性。它提供了一个因高度抽象化而变得异常简单的编程模型。 2、从MapReduce 自身的命名特点可以看出,MapReduce 由两个阶段组成:Map 和Reduce 。用户只需编写map ( ) 和reduce( ) 两个函数,即可完成简单的分布式程序的设计。   1)m a p ( ) 函数以key/value 对作为输入,产...
分类:其他好文   时间:2014-04-30 22:23:39    阅读次数:466
Hadoop架构设计、运行原理详解
1、Map-Reduce的逻辑过程 假设我们需要处理一批有关天气的数据,其格式如下: 按照ASCII码存储,每行一条记录每一行字符从0开始计数,第15个到第18个字符为年第25个到第29个字符为温度,其中第25位是符号+/- 0067011990999991950051507+0000+ 0043011990999991950051512+0022+ 00430119...
分类:其他好文   时间:2014-04-29 13:22:20    阅读次数:309
创建Hive/hbase相关联的表异常
FAILED: Error in metadata: java.lang.RuntimeException: MetaException(message:org.apache.hadoop.hive.serde2.SerDeException org.apache.hadoop.hive.hbase.HBaseSerDe: columns has 3 elements while hbase.columns.mapping has 4 elements (counting the key if implic...
分类:其他好文   时间:2014-04-29 13:17:21    阅读次数:387
spark编译与onyarn的运行
Spark on yarn执行流程源代码分析 目前的分析主要基于spark0.9.0的cdh5的版本进行分析, 源代码下载地址:https://github.com/cloudera/spark.git 下载方式:gitclone url ./spark 进入spark目录,执行gitcheckout cdh5-0.9.0_5.0.0 源代码编译 使用sbt编译spa...
分类:其他好文   时间:2014-04-29 13:13:22    阅读次数:446
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!