码迷,mamicode.com
首页 >  
搜索关键字:大数据 spark    ( 18881个结果
大数据技术 vs 数据库一体机[转]
http://blog.sina.com.cn/s/blog_7ca5799101013dtb.html目前,虽然大数据与数据库一体机都很火热,但相当一部分人却无法对深入了解这两者的本质区别。这里便对大数据技术(如Hadoop等,主要指MapReduce与NoSQL)与数据库一体机(新一代的主流关系...
分类:数据库   时间:2014-06-29 06:09:08    阅读次数:298
SparkSQL之旅
1.准备数据employee.txt1001,Gong Shaocheng,11002,Li Dachao,11003,Qiu Xin,11004,Cheng Jiangzhong,21005,Wo Binggang,3将数据放入hdfs[root@jfp3-1 spark-studio]# hdf...
分类:数据库   时间:2014-06-29 00:17:54    阅读次数:415
转】MapReduce: Simplified Data Processing(一)
摘要MapReduce是一个编程模型,和处理,产生大数据集的相关实现.用户指定一个map函数处理一个key/value对,从而产生中间的key/value对集.然后再指定一个reduce函数合并所有的具有相同中间key的中间value.下面将列举许多可以用这个模型来表示的现实世界的工作.以这种方式写...
分类:其他好文   时间:2014-06-29 00:17:14    阅读次数:369
数据写入文本文件并读出到浏览器的PHP代码
gwbjx123 Item Quantity Tires oil Spark Plugs Address 以下是PHP文件:eg1.php"; $fp = fopen("egtext.txt","ab");//a是追加 fl...
分类:Web程序   时间:2014-06-28 23:53:40    阅读次数:409
真正通用的SQL分页存储过程
关于SQL分页的问题,网上找到的一些SQL其实不能真正做到通用,他们主要是以自增长ID做为前提的。但在实际使用中,很多表不是自增长的,而且主键也不止一个字段,其实我们稍做改进就可以达到通用。这里还增加了索引,以方便大数据量的使用(代码中是先抓到临时表的,从性能上说如果采用自增长式的ID表,当然可以不...
分类:数据库   时间:2014-06-28 23:20:50    阅读次数:292
Spark Streaming之旅
1. 打开spark-shell2. 建立StreamingContextimport org.apache.spark.streaming._import org.apache.spark.streaming.StreamingContext._import org.apache.spark.ap...
分类:其他好文   时间:2014-06-28 23:07:17    阅读次数:324
阿里巴巴曾鸣:数据时代来临
阿里巴巴集团总參谋长曾鸣大数据最重要的特征不在大小,而在死活。就企业而言,数据的死活决定一切,从数据的管理到数据的运用,数据必须能活起来,開始跑通迭代,才干产生持续价值。互联网将高速颠覆众多的传统行业。这两年,这种话听多了,多少有些“狼来了”,让人逐渐麻木。但是,不经意间,出租车这个再传统只是的行业...
分类:其他好文   时间:2014-06-21 08:29:38    阅读次数:180
坚持一下,正态的哲学就在一个百分点——技术需要不断积累
现状IT日新月异,完全让人慌张和措手不及,不久前刚出来MVC,很快就连升几个版本;其他的,Swift,智能穿戴,大数据等等,让我这样笨拙的人情何以堪啊!!!是的,我爱技术,但同时我又比较笨和比较浮躁。(不对称关系组合在一起,真揪心)说比较笨,是因为我CPU处理速度不是那么地快,随着年龄的增长,确实力...
分类:其他好文   时间:2014-06-21 00:01:54    阅读次数:249
Shark集群搭建配置
Shark是基于Spark与Hive之上的一种SQL查询引擎。...
分类:其他好文   时间:2014-06-18 06:54:00    阅读次数:286
HBase高性能复杂条件查询引擎
HBase在大数据领域的应用越来越广泛,成为目前NoSQL数据库中表现最耀眼,呼声最高的产品之一,但就应对复杂条件的查询来说,一般认为它并不是非常适合,熟悉HBase的开发人员对此应该有一定的体会,但是基于普遍的需求,开发者们希望HBase在保持高性能优势的同时能对复杂条件的查询给予一定的支持,而本文将要介绍的正是一种在HBase现行机制下以非侵入式实现的基于二级多列索引的高性能复杂条件查询引擎。...
分类:其他好文   时间:2014-06-18 06:29:49    阅读次数:224
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!