http://blog.sina.com.cn/s/blog_7ca5799101013dtb.html目前，虽然大数据与数据库一体机都很火热，但相当一部分人却无法对深入了解这两者的本质区别。这里便对大数据技术（如Hadoop等，主要指MapReduce与NoSQL）与数据库一体机（新一代的主流关系...
分类：
数据库 时间：
2014-06-29 06:09:08
阅读次数：
298
摘要MapReduce是一个编程模型,和处理,产生大数据集的相关实现.用户指定一个map函数处理一个key/value对,从而产生中间的key/value对集.然后再指定一个reduce函数合并所有的具有相同中间key的中间value.下面将列举许多可以用这个模型来表示的现实世界的工作.以这种方式写...
分类：
其他好文 时间：
2014-06-29 00:17:14
阅读次数：
369
1. 打开spark-shell2. 建立StreamingContextimport org.apache.spark.streaming._import org.apache.spark.streaming.StreamingContext._import org.apache.spark.ap...
分类：
其他好文 时间：
2014-06-28 23:07:17
阅读次数：
324
现有的hadoop生态系统中存在的问题1）使用mapreduce进行批量离线分析；2）使用hive进行历史数据的分析；3）使用hbase进行实时数据的查询；4）使用storm进行实时的流处理；5）。。。。。。导致：维护成本高、学习成本高Spark的出现弥补了Hadoop生态系统中的缺陷，使用spar...
分类：
其他好文 时间：
2014-06-28 14:08:46
阅读次数：
306
LEADTOOLS Video Streaming Module控件为您创建一个自定义的视频会议应用程序和工具提供所有需要的功能。软件开发人员可以使用Video Streaming Module SDK，通过一些不同的配置来创建一些客户端/服务器应用程序。例如，如果有一个服务器需要向多个客户端发送音...
分类：
其他好文 时间：
2014-06-24 10:47:26
阅读次数：
217
一、控制Hive中Map和reduce的数量Hive中的sql查询会生成执行计划，执行计划以MapReduce的方式执行，那么结合数据和集群的大小，map和reduce的数量就会影响到sql执行的效率。除了要控制Hive生成的Job的数量，也要控制map和reduce的数量。1、map的数量，通常情...
分类：
其他好文 时间：
2014-06-23 07:48:43
阅读次数：
288
hadoop 0.18文档（详细介绍Hadoop，MapReduce，FS Shell，Streaming等）hadoop资料汇总（XX搜集的，还没看）streaming（非java程序员的福音）Hadoop Streaming编程实例Hadoop Streaming编程Hadoop Streami...
分类：
其他好文 时间：
2014-06-20 18:33:43
阅读次数：
160
运行mahout in action上的cluster示例时报错：Error: Found interface org.apache.hadoop.mapreduce.Counter, but class was expected 确定是版本问题，我的hadoop版本是2.4，但mahout目...
分类：
其他好文 时间：
2014-06-18 11:07:10
阅读次数：
394
1，商城：是单商家，多买家的商城系统。数据库是mysql，语言java。
2，sqoop1.9.33：在mysql和hadoop中交换数据。
3，hadoop2.2.0：这里用于练习的是伪分布模式。
4，完成内容：喜欢该商品的人还喜欢，相同购物喜好的好友推荐。
步骤：
1，通过sqoop从mysql中将 “用户收藏商品” （这里用的是用户收藏商品信息表作为推荐系统业务上的依据，业务依...
分类：
其他好文 时间：
2014-06-18 07:14:43
阅读次数：
230
概况Hadoop Streaming 是一个工具， 代替编写Java的实现类，而利用可执行程序来完成map-reduce过程。一个最简单的程序$HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/hadoop-streaming.jar-input myInputDirs...
分类：
其他好文 时间：
2014-06-17 15:33:54
阅读次数：
330
