码迷,mamicode.com
首页 >  
搜索关键字:flume 日志收集 hdfs    ( 6285个结果
sqoop操作之Oracle导入到HDFS
导入表的所有字段sqoop import --connect jdbc:oracle:thin:@192.168.1.100:1521:ORCL \--username SCOTT --password tiger \--table EMP -m 1;查看执行结果:hadoop fs -cat /u...
分类:数据库   时间:2014-08-06 18:11:53    阅读次数:434
HDFS
一、 hdfs默认存储基本单位是64M的数据块,若一个文件小于64M,则该文件不会占用整个数据块。二、HDFS体系结构 1、元数据节点(Namenode) 主控制服务器,管理文件系统的命名空间,包括打开、关闭、重命名文件和目录。 NameNode将数据块映射到DataNode,...
分类:其他好文   时间:2014-08-06 17:38:21    阅读次数:249
Yarn中的几种状态机
1 概述     为了增大并发性,Yarn采用事件驱动的并发模型,将各种处理逻辑抽象成事件和调度器,将事件的处理过程用状态机表示。什么是状态机?     如果一个对象,其构成为若干个状态,以及触发这些状态发生相互转移的事件,那么此对象称之为状态机。     处理请求作为某种事件发送到系统中,由一个中央调度器传递给对应的事件调度器,进而对事件进行处理,处理完成之后再次发送给中央调度...
分类:其他好文   时间:2014-08-05 22:34:40    阅读次数:232
HDFS体系结构及shell操作
shell hdfs...
分类:其他好文   时间:2014-08-05 19:36:00    阅读次数:228
hadoop文件系统体系
在用Hadoop框架处理大数据时使用最多就是HDFS--分布式文件系统,但Hadoop的文件系统不仅只有分布式文件系统,例如:hfs,HSFTP,HAR等在Hadoop中都是有集成的,用来处理存储在不同体系中的数据。事实上应该这么说,Hadoop其实是一个综合性的文件系统。 下面来看看文件系统...
分类:其他好文   时间:2014-08-05 03:01:09    阅读次数:291
[ 译]Apache HBase Write Path
翻译自cloudera,原文直通车:Apache HBase Write Path Apache HBase也就是Hadoop Database是基于HDFS之上的.HBase可以随机获取和更新存储在HDFS上的记录。但是HDFS 上的文件只能追加而且一旦创建便无法修改。说到这里你或许会问:那HBa...
分类:其他好文   时间:2014-08-04 21:20:57    阅读次数:264
flume 自定义 hbase sink 类
flume自定义hbase sink类...
分类:其他好文   时间:2014-08-04 17:42:18    阅读次数:350
【hadoop之翊】——hadoop大核心之HDFS初识
今天来说说hadoop的一大核心——HDFS,这个是很重要的,它呢,是分布式文件系统。为什么说hadoop能存储海量数据?其实主要还是依赖与hdfs的能力,主要依赖的是hdfs能存储海量数据。 1、 为什么hdfs能存储海量数据呢? 一开始抛出这样的问题来想想。至于HDFS的基本概念什么的都不用多说了的~我们重在使用,而不是去做“研究”。扯蛋的话就是,“专家的研究”已经成为名副其实的贬义词了,...
分类:其他好文   时间:2014-08-03 18:09:05    阅读次数:332
Hadoop-- MapReduce简单理解
1.Hadoop和MapReduce概念Mapreduce是一种模式。Hadoop是一种框架。Hadoop是一个实现了mapreduce模式的开源的分布式并行编程框架。2.Hadoop框架借助Hadoop 框架及云计算核心技术MapReduce 来实现数据的计算和存储,并且将HDFS 分布式文件系统...
分类:其他好文   时间:2014-08-02 20:45:54    阅读次数:252
Hadoop2.0产生背景
Hadoop与Hadoop生态系统的区别Hadoop:是一个适合大数据分布式存储和分布式计算的平台,在Hadoop1.x中对应于HDFS和MapReduce;Hadoop生态系统:是一个很庞大的概念,Hadoop是其中最重要最基础的一个部分;生态系统中的每个子系统只负责解决某一个特定的问题域(甚至可...
分类:其他好文   时间:2014-08-02 15:27:03    阅读次数:215
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!