hadoop2.4 支持snappy

综上，我们hadoop2.4集群要求RCFile+gzip是有一定道理的，首先RCFile格式的文件支持按列存储。同一时候支持split，而gzip的压缩率比較高，并且压缩/解压速度也比較快，所以RCFile格式的文件经过gzip压缩后既能保证文件能split，还能保证非常高压缩/解压速度和压缩比。

以上说了半天题外话，下面来进入主题来说一下如何在不替换集群本地库文件，不重新启动hadoop进程，也即在hadoop的client就能解决支持snappy压缩的问题的方法：

1、编译snappy本地库，编译之后snappy本地库文件地址：/data0/liangjun/snappy/

參考地址：http://www.tuicool.com/articles/yiiiY3R

2、又一次编译libhadoop.so文件，编译时通过-Dsnappy.prefix指定snappy本地库文件地址编译：

 mvn clean package -Pdist -Dtar -Pnative -Dsnappy.prefix=/data0/liangjun/snappy/ -DskipTests

注：我測试了一下，通过-Drequire.snappy编译的libhadoop.so也是可行的：

mvn clean package -Pdist,native -DskipTests -Drequire.snappy

(1)、MapReduce。将编译好的本地库加到DistributedCache中就能够：

在測试环境的clientmapred-site.xml文件加入下面两个配置项以支持map端数据的时候按snappy压缩：

<property>
    <name>mapreduce.map.output.compress</name>
    <value>true</value>
    <final>true</final>
  </property>
  <property>
    <name>mapreduce.map.output.compress.codec</name>
    <value>org.apache.hadoop.io.compress.SnappyCodec</value>
    <final>true</final>
  </property>

hadoop jar hadoop-mapreduce-examples-2.4.0.jar wordcount -files hdfs://ns1/test/snappy/libhadoop.so,hdfs://ns1/test/snappy/libsnappy.so.1  /test/missdisk/ /test/wordcount

(2)、hive，通过add file指定文件：

hive >add file libhadoop.so;
hive >add file libsnappy.so.1;
hive >select count(*) from ct_tmp_objrec;

执行hql之后。发现snappy格式的数据可以正常处理计算了，可是200+M的文件仅仅能由一个map任务处理，既不支持split。

==========================================================

下面部分是就RCFile+snappy的数据是否支持split的測试：

1、创建測试表snappy_test，该表和前面的ct_tmp_objrec列全然同样，仅仅是hive表存储格式换成了RCFile：

CREATE EXTERNAL TABLE `snappy_test`(
  `from_id` string,
  `to_id` string,
  `mention_type` bigint,
  `repost_flag` bigint,
  `weight` double,
  `confidence` double,
  `from_uid` string,
  `to_object_label` string,
  `count` bigint,
  `last_modified` string,
  `time` string,
  `mblog_spam` bigint,
  `mblog_simhash` string,
  `mblog_dupnum` bigint,
  `mblog_attribute` bigint,
  `user_quality` bigint,
  `user_type` bigint,
  `old_weight` double,
  `obj_pos` bigint,
  `quality` bigint)
ROW FORMAT SERDE
  ‘org.apache.hadoop.hive.serde2.columnar.LazyBinaryColumnarSerDe‘
STORED AS INPUTFORMAT
  ‘org.apache.hadoop.hive.ql.io.RCFileInputFormat‘
OUTPUTFORMAT
  ‘org.apache.hadoop.hive.ql.io.RCFileOutputFormat‘
LOCATION
  ‘hdfs://ns1/user/liangjun/warehouse/tables/snappy_test‘

hive >add file libhadoop.so;
hive >add file libsnappy.so.1;
hive >set hive.exec.compress.output=true;
hive >set mapred.output.compression.codec=org.apache.hadoop.io.compress.SnappyCodec;
hive >INSERT OVERWRITE table snappy_test select from_id,to_id,mention_type,repost_flag,weight,confidence,from_uid,to_object_label,count,last_modified,time,mblog_spam,mblog_simhash,mblog_dupnum,mblog_attribute,user_quality,user_type,old_weight,obj_pos,quality from ct_tmp_objrec;

3、查询snappy_test中的RCFile+snappy数据看能否split

hive >add file libhadoop.so;
hive >add file libsnappy.so.1;
hive >select count(*) from snappy_test;

參考地址：

http://blog.cloudera.com/blog/2011/09/snappy-and-hadoop/

http://blog.csdn.net/czw698/article/details/38387657

http://book.2cto.com/201305/21922.html

http://blog.csdn.net/czw698/article/details/38387657

http://blog.csdn.net/czw698/article/details/38398399

http://www.tuicool.com/articles/yiiiY3R