下面看下hbase:meta 表的结构,hbase:meta表中,保存了每个表的region地址,还有一些其他信息,例如region的名字,HRegionInfo,服务器的信息。hbase:meta表中每一行对应一个单一的region。例如我们现在创建一个表名叫"t"。hbase:meta中对应的行...
分类:
Web程序 时间:
2014-12-31 17:53:30
阅读次数:
211
2015年其实才真正算的上是我的大数据元年,我需要在这一年中为自己的职业发展打好地基,所以需要做到但不限于:1、熟练使用mr,yarn,spark(spark sql,spark streaming,ml....),hive,mahout,hbase进行开发,并熟悉调优,及其中的执行原理。2、阅读f...
分类:
其他好文 时间:
2014-12-31 07:35:26
阅读次数:
219
通过Sqoop实现Mysql / Oracle 与HDFS / Hbase互导数据\下文将重点说明通过Sqoop实现Mysql与HDFS互导数据,Mysql与Hbase,Oracle与Hbase的互导最后给出命令。一、Mysql与HDFS互导数据环境:宿主机器操作系统为Win7,Mysql安装在宿主...
分类:
数据库 时间:
2014-12-30 22:03:25
阅读次数:
290
1.概要我打算分享一下,我开发Hadoop的一些心得,对于即将步入Hadoop行业的童鞋,希望我整理的这些博文对您有帮助,我打算分为以下几部分来描述。2.步骤 注:点击链接可直接跳到指定位置(1)Hadoop社区版集群的搭建(2)hive的安装部署(3)sqoop的安装部署(4)hbase和zook...
分类:
其他好文 时间:
2014-12-30 14:57:18
阅读次数:
162
以下内容为个人理解,仅供参考。一、简介 Hbase是在HDFS上开发的面向列的分布式数据库,适用于随机读/写超大规模的数据集(通常这种数据压力传统RDBMS很难承受),可以在廉价的硬件上构成的集群上管理超大规模的稀疏表,并且可以水平扩展。二、基础概念 1、Hbase把数据存放在表中,表由行列组成.....
分类:
系统相关 时间:
2014-12-28 23:28:01
阅读次数:
223
移动终端App&Platform开发的高端技术和策略课程By高焕堂老师一、学员条件:l具有3年以上Android应用、平台或底层服务的软件开发经验l熟悉Java、C/C++和JS编程l拥有移动终端设备和嵌入式开发的基本知识l对Spart/Hadoop/Hbase/Scala数据平台有初步认识二、大纲目录:Part-A主..
分类:
移动开发 时间:
2014-12-27 11:30:43
阅读次数:
247
原因:客户端程序通过zookeeper访问hbase的连接数超过设置的默认链接数(默认数是30),连接数不够用会导致后续的连接连接不上去。解决办法:设置hbase-site.xml配置文件,添加如下属性 hbase.zookeeper.property.maxClientCnxns 300 Prop...
分类:
其他好文 时间:
2014-12-26 18:18:22
阅读次数:
458
hive与hbase数据类型对应关系
当hbase中double,int 类型以byte方式存储时,用字符串取出来必然是乱码。
在hivd与hbase整合时也遇到这个问题:做法是:#b
1.加#b
CREATE EXTERNAL TABLE hivebig (key string,CUST_NAME string,PHONE_NUM int,BRD_WORK_FLUX double)
...
分类:
其他好文 时间:
2014-12-26 06:15:48
阅读次数:
378
此篇文章基于hive官方英文文档翻译,有些不好理解的地方加入了我个人的理解,官方的英文地址为:
1.https://cwiki.apache.org/confluence/display/Hive/StorageHandlers
2.https://cwiki.apache.org/confluence/display/Hive/HBaseIntegration
一 存...
分类:
其他好文 时间:
2014-12-26 06:14:31
阅读次数:
324
介绍 为了提供并发处理效率,把用户的请求连接随机分配到线程池的线程进行处理,hbase也是采用同样的方式处理用户请求的 客户端代码可以参考:基于java.nio.channels的编程实践-I 代码 import?java.io.IOExcepti...
分类:
编程语言 时间:
2014-12-25 11:38:03
阅读次数:
161