1：原理图 A：NN1、NN2（或者更多个NN节点）只有一个是Active状态，通过自带ZKFailoverController组件（zookeeper客户端）和zookeeper集群协同对所有NN节点进行检测和选举来达到此目的。B：Active NN 的EditLog 写入共享的JournalNode集群中，Standby NN通过JournalNode集群获取Editlog，并在本地运行来保持...
分类：
其他好文 时间：
2014-05-15 14:46:42
阅读次数：
414
创建表：
hive> CREATE TABLE pokes (foo INT, bar STRING);
Creates a table called pokes with two columns, the first being an integer and the other a string
创建一个新表，结构与其他一样
hive> create table n...
分类：
其他好文 时间：
2014-05-15 07:07:58
阅读次数：
303
接触了Spark也快有半年了，版本从0.8.0到现在的1.0.0SNAPSHOT，从头到尾被spark这个优秀的框架深深吸引，也为scala的优雅所折服。4.19日“2014 中国Spark技术峰会”召开，可以看出随着Spark技术的完善，越来越多的企业已经开始使用或开始关注Spark的发展了。回顾学习过程，觉得很有必要整理一份学习路线，对所学的内容加以沉淀，同时也为同行作为参考。因为Spark1...
分类：
其他好文 时间：
2014-05-15 06:07:33
阅读次数：
357
本篇的配置环境是基于HDFS HA系列实验之二：HA+JournalNode+zookeeper 上进行的。1：原理图 A：实验环境之组成DNS：productserverHA1（nameservices为cluster1）：product201、product202HA2（nameservices为cluster2）：product211、product212DN：product203、p...
分类：
其他好文 时间：
2014-05-15 05:59:29
阅读次数：
323
最近面试遇到了一道面试题，顿时有点迷糊，只说出了思路，后来百度了一下，整理了一下思路，于是记录下来，方便以后学习。（面试题请参见附件）
相关的数据表：
1.Score表
2.[User]表
SQL语句如下：
--方法一：静态SQL
SELECT * FROM
(SELECT UID,Name, Score,ScoreName FROM Score,[User] WHERE S...
分类：
数据库 时间：
2014-05-15 05:46:12
阅读次数：
296
1、分层：
分层是企业应用系统中最常见的一种架构模式，将系统在横向维度上切分成几个部分，每个部分负责一部分比相对比较单一的职责 ，然后通过上层对下层的依赖和调用组成一个完整的系统。
分层结构无处不在，例如网络7层通信协议，计算机硬件、操作系统、软件也可以看做是分层结构。在大型网站中也采用分层结构。将网站分为应用层、服务层、数据访问层， 通过分层，可以将一个庞大的系统...
分类：
Web程序 时间：
2014-05-15 05:25:27
阅读次数：
381
简介
Encrypted Shuffle capability (加密洗牌功能?)允许用HTTPS 和 可选的客户端验证 (也称作双向的 HTTPS, 或有客户端证书的 HTTPS) 去加密 MapReduce shuffle.它包括:
在HTTP 和 HTTPS 之间绑定 shuffle 的一个 Hadoop 配置用来指定 keystore 和 truststore 属性的Hado...
分类：
其他好文 时间：
2014-05-15 04:59:35
阅读次数：
301
一、 创建表
在官方的wiki里，example是这样的：
Sql代码
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name [(col_name data_type [COMMENT col_comment], ...)] [COMMENT table_comment] [PARTITION...
分类：
数据库 时间：
2014-05-14 14:50:27
阅读次数：
463
Microsoft发布了他们自己对Apache
Avro通信协议的实现。Avro被描述为“紧凑的二进制数据序列化格式，类似于Thrift或者Protocol
Buffers”，同时还有像Hadoop这样的分布式处理环境所需要的额外功能。 为了让该协议尽可能地快，Microsoft Avro类库会在运...
分类：
其他好文 时间：
2014-05-14 10:59:37
阅读次数：
336
