根据当初 hadoop 安装目录下 conf 目录的 core-site.xml
的设置,找到该目录:进入该目录在 data 和 name 文件夹下均有 current 文件夹 ,和 current 文件夹下有 VERSION
文件主要要做的是使这两个文件中的 namespaceID 相同接下来就是...
分类:
其他好文 时间:
2014-05-09 05:15:30
阅读次数:
305
Spark计算速度远胜于Hadoop的原因之一就在于中间结果是缓存在内存而不是直接写入到disk,本文尝试分析Spark中存储子系统的构成,并以数据写入和数据读取为例,讲述清楚存储子系统中各部件的交互关系。
分类:
其他好文 时间:
2014-05-09 05:14:32
阅读次数:
405
转自 http://www.cstor.cn/textdetail_6531.html
分类:
其他好文 时间:
2014-05-09 03:37:49
阅读次数:
201
1.大数据在HBASE存储、计算以及查询的应用场景海量数据都是事务数据,事务数据都是在时间的基础上产生的。数据的业务时间可能会顺序产生,也可能不会顺序产生,比如某些事务发生在早上10点,但是在下午5点才结束闭并生成出来,这样的数据就会造成存储加载时的时间连续性。另外海量数据的挖掘后产生的是统计数据,...
分类:
其他好文 时间:
2014-05-09 03:03:39
阅读次数:
347
基于HBase实现的手机数据备份系统,实现了手机关键信息的备份,如短信、联系人等。
包括服务器端(Server)和客户端(Client)
Server运行环境:Hadoop+HBase+Tomcat
Client运行环境: Eclipse+Android2.3
-----------------------------------------------------
...
分类:
移动开发 时间:
2014-05-08 16:07:49
阅读次数:
390
参考自《大型网站技术架构》第1~3章
1、大型网站架构演化发展历程
(1)初始阶段的网站架构:一台服务器分别作为应用、数据、文件服务器
(2)应用服务和数据服务分离:三台服务器分别承担上述三项工作,其中应用服务器要求CPU强大、数据库服务器需求更快的硬盘和内存,文件服务器需要较大的硬盘。
(3)使用缓存改善网站性能:分为本地缓存以及缓存在专门的分布式服务器上的远程缓存。
(4)使...
分类:
Web程序 时间:
2014-05-08 04:42:48
阅读次数:
430
高精度之大数的除法,大数据计算c语言一样强大...
分类:
其他好文 时间:
2014-05-08 04:27:19
阅读次数:
281
大数据量引起的高并发处理:
1、数据量超过百万时增加集群服务器,比如使查询和操作分别在不同服务器上执行,如果数据量超过千万时这样会增加服务器间相互复制数据的资源开销,这时考虑把数据资源比如用户表根据ID放在不同的数据库集群中。
2、是页面静态化,因为html比jsp更节省资源和性能,考虑将页面做成html返回给客户,比如用freemarker工具
3、缓存技术,集群中采用memcached...
分类:
其他好文 时间:
2014-05-08 04:18:07
阅读次数:
361
1.1什么是集群简单的说,集群(cluster)就是一组计算机,它们作为一个整体向用户提供一组网络资源。这些单个的计算机系统就是集群的节点(node)。一个理想的集群是,用户从来不会意识到集群系统底层的节点,在他/她们看来,集群是一个系统,而非多个计算机系统。并且集群系统..
分类:
其他好文 时间:
2014-05-08 02:42:43
阅读次数:
356
前言*DRBD(DistributedReplicatedBlockDevice)是一个基于块设备级别在远程服务器直接同步和镜像数据的开源软件,类似于RAID1数据镜像,通常配合keepalived、heartbeat等HA软件来实现高可用性。这里简单记录仅供参考。一、实施环境系统版本:CentOS5.8
DRBD版本:drbd-8.3.15
Kee..
分类:
数据库 时间:
2014-05-08 02:35:30
阅读次数:
507