码迷,mamicode.com
首页 >  
搜索关键字:hdfs architecture    ( 6541个结果
protobuf 2.5.0问题
线上一个项目需要操作hdfs和hive,在使用时报如下错误:java.lang.UnsupportedOperationException:Thisissupposedtobeoverriddenbysubclasses. atcom.google.protobuf.GeneratedMessage.getUnknownFields(GeneratedMessage.java:180) atorg.apache.hadoop.hdfs.protocol.proto...
分类:其他好文   时间:2014-12-23 06:51:06    阅读次数:258
对“用微服务架构开发应用”的注解
下文是对 Chris Richardson(CloudFoundry 的创建者) 在 SlideShare 分享的“[Developing applications with a microservice architecture](http://www.slideshare.net/chris.e.richardson/developing-apps-wit...
分类:其他好文   时间:2014-12-23 00:24:17    阅读次数:423
hadoop(八) - sqoop安装与使用
安装在一台节点上就可以了。1. 使用winscp上传sqoop2. 安装和配置添加sqoop到环境变量将数据库连接驱动mysql-connector-5.1.8.jar拷贝到$SQOOP_HOME/lib里### 第一类:数据库中的数据导入到HDFS上sqoop import --connect j...
分类:其他好文   时间:2014-12-22 21:15:29    阅读次数:232
Hive使用HDFS目录数据创建Hive表分区
Hive使用HDFS目录数据创建Hive表分区...
分类:其他好文   时间:2014-12-22 18:02:19    阅读次数:152
CDH中HDFS的WEB UI外网无法访问的问题
文章来自:http://www.cnblogs.com/hark0623/p/4177794.html 转载请注明其实问题很简单,因为在CDH中hdfs-site.xml配置文件中WEB UI配置的是域名,而域名在Hosts又被解析成内网IP。你使用netstat -apn | grep 50700...
分类:Web程序   时间:2014-12-22 12:51:14    阅读次数:743
hadoop datanode 启动出错
FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for block pool Block pool BP-336454126-127.0.0.1-1419216478581 (storage i...
分类:其他好文   时间:2014-12-22 12:38:22    阅读次数:183
大数据时代之hadoop(六):hadoop 生态圈(pig,hive,hbase,ZooKeeper,Sqoop)
hadoop是有apache基金会所开发的分布式系统基础架构,其主要提供了两方面的功能:分布式存储和分布式计算。 其中分布式存储是分布式计算的基础,在hadoop的实现里面,提供了分布式存储的接口,并自己实现了一个分布式存储的实现即HDFS,但并不代表 hadoop只支持HDFS这一中实现,其同时支...
分类:其他好文   时间:2014-12-22 10:47:29    阅读次数:164
大数据时代之hadoop(三):hadoop数据流(生命周期)
了解hadoop,首先就需要先了解hadoop的数据流,就像了解servlet的生命周期似的。hadoop是一个分布式存储(hdfs)和分布式计算框架(mapreduce),但是hadoop也有一个很重要的特性:hadoop会将mapreduce计算移动到存储有部分数据的各台机器上。术语 Ma...
分类:其他好文   时间:2014-12-22 10:46:04    阅读次数:270
大数据时代之hadoop(四):hadoop 分布式文件系统(HDFS)
分布式文件系统即是网络中多台计算机组合在一起提供一个统一存储及管理的系统。 Hadoop提供了一个文件系统接口和多个分布式文件系统实现,其中比较重要的就是HDFS(Hadoop Distributed Filesystem)了。Hadoop是一个综合性的文件系统抽象,因此它也可以集成其他文件系统的实...
分类:其他好文   时间:2014-12-22 10:41:42    阅读次数:278
大数据时代之hadoop(五):hadoop 分布式计算框架(MapReduce)
hadoop的核心分为两块,一是分布式存储系统-hdfs,这个我已经在上一章节大致讲了一下,另一个就是hadoop的计算框架-mapreduce。 mapreduce其实就是一个移动式的基于key-value形式的分布式计算框架。 其计算分为两个阶段,map阶段和reduce阶段,都是对数据的处.....
分类:其他好文   时间:2014-12-22 10:40:34    阅读次数:238
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!