码迷,mamicode.com
首页 >  
搜索关键字:大数据; hadoop; yarn    ( 25974个结果
5月20日---疯狂猜成语-----四周第二次站立会议 参会人员:杨霏,袁雪,胡潇丹,郭林林,尹亚男,赵静娜
疯狂猜成语-----四周第二次站立会议参会人员:杨霏,袁雪,胡潇丹,郭林林,尹亚男,赵静娜会议内容:在寻找用户过程中,在自己的内部测试体验过程中出现了一小部分bug,所以用户体验推迟。出现的问题:1、用户登录后,用户资料不够完善2、游戏的数据量比较少,需要再一次加大数据量3、高级游戏出现多个结果,与...
分类:其他好文   时间:2014-05-21 17:43:14    阅读次数:257
hbase是否能取代mysql
代志远早年就职网易研究院从事MapReduce与DFS系统的自主研发,后加入支付宝数据平台负责Hadoop与HBase体系的架构设计与二次研发,支付宝流计算与分布式搜索系统的设计和研发,后成为支付宝海量计算体系架构师兼支付宝三代架构成员。现就转战于阿里巴巴集团-CDO-海量数据部门,负责创新性项目的研究和跟进,目前专注于Google第二代数据库产品MegaStore的研究和在阿里的落地。 在...
分类:数据库   时间:2014-05-21 17:04:40    阅读次数:393
hadoop开发使用备记
使用Hadoop已经有一段时间了,从开始的迷茫,到各种的尝试,到现在组合应用….慢慢地涉及到数据处理的事情,已经离不开hadoop了。Hadoop在大数据领域的成功,更引发了它本身的加速发展。现在Hadoop家族产品,已经达到20个了之多。 有必要对自己的知识做一个整理了,把产品和技术都串起来。不仅能加深印象,更可以对以后的技术方向,技术选型做好基础准备。 一句话产品介绍:...
分类:其他好文   时间:2014-05-21 16:37:02    阅读次数:363
大数据导入EXCEL
最近上头给我派了一个活,oracle数据导入excel,接任务的时候,我感觉比较轻松,心里想,这很简单,三下五除二,一个上午就可以搞定,因为之前实现过嘛!     但是程序在加上“大数据”烙印之后,就不是那么简单的一回事了,实现过程中,出现最常见的两个问题:超出行数限制和内存溢出!     18天的数据,总共是500w条,如何将500w条记录存入excel中,我当时想过两种实现方式:PLSQL...
分类:其他好文   时间:2014-05-21 15:59:54    阅读次数:307
yarn 集群部署,遇到的问题小结
1. Application Master 无法访问     点击application mater 链接,出现 http 500 错误,java.lang.Connect.exception:     问题是由于设定web ui时,50030 端口对应的ip地址为0.0.0.0,导致application master 链接无法定位。 解决办法:...
分类:其他好文   时间:2014-05-21 13:58:49    阅读次数:323
【教程分享】基于Greenplum Hadoop分布式平台的大数据解决方案及商业应用案例剖析
基于Greenplum Hadoop分布式平台的大数据解决方案及商业应用案例剖析  课程讲师:迪伦  课程分类:Java  适合人群:高级  课时数量:96课时  用到技术:MapReduce、HDFS、Map-Reduce、Hive、Sqoop  涉及项目:Greenplum Hadoop大数据分析平台  更新程度:完毕 对这个课程有兴趣的朋友可以加我的QQ2059055336和...
分类:其他好文   时间:2014-05-21 13:23:22    阅读次数:363
Baidu如何赢得未来?
近日百度迎来了一位首席科学家,人工智能领域最权威的学者之一吴恩达(Andrew Ng)。 这位曾于 2013 年入选《时代》杂志“全球最具影响力 100 人”的美国人将全面负责百度研究院。 百度研究院目前包括三大实验室:硅谷人工智能实验室、北京深度学习实验室(原深度学习研究院)和北京大数据实验室。就在同日,百度宣布启用位于加州桑尼维尔的百度美国研发中心。 吴恩达作为斯坦福大学计算...
分类:其他好文   时间:2014-05-21 13:21:56    阅读次数:305
【表空间支持的最大数据文件大小的算法】【数据库限制】【数据文件文件头保留数据块数】
本地管理表空间中设置不同大小的db_block_size时数据文件头保留空间对应如下:--?? db_block_size=2KB,文件头保留32个数据块,即64KB。 db_block_size=4KB,文件头保留16个数据块,即64KB。 db_block_size=8KB,文件头保留8个数据块,即64KB。 db_block_size=16KB,文件头保留4个数据块,即64KB。...
分类:数据库   时间:2014-05-21 08:27:08    阅读次数:529
Hadoop-2.2.0中文文档—— Common - 服务层认证
目的 此文档描述了如何为Hadoop配置和管理 Service Level Authorization 。 预备条件 确保已经安装Hadoop,配置和设置都正确了。更多细节,请看:* 首次使用者的单节点设置 * 大的、分布式集群的集群设置。 概览 Service Level Authorization 是一个必要的初始认证机制,其确保客户端连接到一个有必要的、预配置的、权...
分类:其他好文   时间:2014-05-21 08:13:32    阅读次数:227
Hadoop家族学习路线图
主要介绍Hadoop家族产品,常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa,新增加的项目包括,YARN, Hcatalog, Oozie, Cassandra, Hama, Whirr,...
分类:其他好文   时间:2014-05-21 05:55:45    阅读次数:280
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!