现在但凡说到大数据,就要提分布式,集群,这里写个文档,来说明有哪些分布式方案。 1、分布式应用和服务:将分层和分割后的业务和服务分布式部署,除了可以改善网站性能和并发性,加快开发发布速度,减少数据库资源链接消耗,还可以使不同应用复用共同的服务,便于业务扩展功能。2、分布式静态资源,网站的静态资源例如...
分类:
Web程序 时间:
2015-02-02 09:26:19
阅读次数:
137
OS:CentOS-6.6-x86_64(Minimal)
Puppet3.7.3
Zabbix2.4
Puppet/Zabbixmaster:master/zabbix.redking.com
Puppet/Zabbixagent:agent1~5.redking.comPuppet安装1.服务端安装puppet-serverpuppet不在CentOS的基本源中,需要加入PuppetLabs提供的官方源,PuppetMaster服务器端安装p..
分类:
其他好文 时间:
2015-01-17 11:22:34
阅读次数:
290
转自:链接地址: http://dongxicheng.org/framework-on-yarn/apache-spark-comparing-three-deploying-ways/ 目前Apache Spark支持三种分布式部署方式,分别是standalone、spark on mesos和...
分类:
Web程序 时间:
2015-01-13 14:02:09
阅读次数:
169
可参阅官方文档http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-common/SingleCluster.html文件下载:http://mirrors.hust.edu.cn/apache/hadoop/common/注:可直接使用2.5.2或2.6.0版本都解决了2.5.1中不稳定bug1伪分布式部署以测试通过的为例Linuxversion..
分类:
其他好文 时间:
2015-01-04 19:36:21
阅读次数:
254
Hadoop 2.6.0分布式部署参考手册
关于本参考手册的word文档,可以到如下地址下载:http://download.csdn.net/detail/u012875880/8285323
1.环境说明
1.1安装环境说明
本列中,操作系统为Centos 7.0,JDK版本为Oracle HotSpot 1.7,Hadoop版本为Apache Hadoop 2.6.0...
分类:
其他好文 时间:
2014-12-22 13:02:27
阅读次数:
353
扩展性是指对现有系统影响最小的情况下,系统功能可持续扩展或提升的能力。设计网站可扩展架构的核心思想是模块化,并在此基础上,降低模块间的耦合性,提供模块的复用性。模块通过分布式部署,独立的模块部署在独立的服务器上(集群)从物理上分离模块之间的耦合关系。 模块分布式部署以后具体聚合方式主要有分布式消息....
分类:
Web程序 时间:
2014-12-19 18:59:36
阅读次数:
167
Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streaming access)文件系统中的数据,则MapReduce为海量的数据提供了计算。Hadoop 容易开发和运行处理大...
分类:
其他好文 时间:
2014-12-19 10:07:54
阅读次数:
307
三台机器分别命名为:hadoop-master ip:192.168.0.25hadoop-slave1 ip:192.168.0.26 hadoop-slave2 ip:192.168.0.27部署前的基本准备:三台机器共同的用户hadoop,三台机器已经设置好静态ip且能互相pi...
分类:
系统相关 时间:
2014-12-14 21:08:05
阅读次数:
360
为了提供规模化、分布式部署、资源优化利用和兼容 AWS 的功能,openstack 引入了 Region,Cell,Availability Zone(AZ) 和 Host Aggregates Zone(HAZ) 四个概念,其中 Region 和 AZ 是从公有云大哥 AWS 引入,Cell 是为了扩充一个 Region 下的集群的规模而引入的,Host Aggregates
是优化资源调度...
分类:
其他好文 时间:
2014-12-14 15:54:52
阅读次数:
370
系列文章讲述EF架构以及MSSQL如何搭建分布式数据库,针对数据库分表实现方案的探讨。
分类:
数据库 时间:
2014-11-30 22:56:39
阅读次数:
241