1、HDFS(Hadoop Distributed File System)是一个分布式文件系统,具有良好的扩展性、容错性以及易用的API。它的核心思想是将文件切分成等大的数据块,以多副本的形式存储到多个节点上。HDFS采用了经典的主从软件架构,其中主服务被称为NameNode,管理文件系统的元信息 ...
分类:
其他好文 时间:
2020-06-18 14:33:17
阅读次数:
67
web服务器Web服务器的基本功能就是提供Web信息浏览服务,响应客户端的浏览器请求。因为Web服务器主要支持的协议就是HTTP,所以通常情况下HTTP服务器和WEB服务器是相等的。待考:支持除HTTP之外的协议的web服务器?不支持事务处理或数据库连接池,但它可以配置各种策略来实现容错性和可扩展性 ...
分类:
Web程序 时间:
2020-06-09 12:54:48
阅读次数:
65
简介Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(highthroughput
分类:
其他好文 时间:
2020-06-06 23:16:21
阅读次数:
84
CAP定理 在分布式系统中,一致性、可用性、分区容错性最多只能同时实现两点。一致性,分布式系统所有数据备份是否相同。可用性,收到用户的请求,在时限内服务器必须给出明确的回应。分区容错性:大多数分布式系统都分布在多个子网络,每个子网络就叫做一个区。分区容错指分区间通信可能失败,比如,一台服务器放在中国 ...
分类:
其他好文 时间:
2020-06-04 20:07:18
阅读次数:
98
一、HDFS优缺点 优点: 高容错性 数据自动保存多个副本 某一个副本丢失后,它可以自动恢复 适合处理大数据 数据规模,可以达到PB级 文件规模,能够处理百万规模的文件数量 可构建在廉价机器上,通过多副本保证可靠性 缺点: 不适合低延时数据访问 不适合对大量小文件进行存储 存储大量小文件,他会占用N ...
分类:
其他好文 时间:
2020-06-01 23:45:55
阅读次数:
68
Zookeeper保证了CP(C:一致性,P:分区容错性),Eureka保证了AP(A:高可用) (1)当向注册中心查询服务列表时,我们可以容忍注册中心返回的是几分钟以前的信息,但不能容忍直接down掉不可用。就是说,服务注册功能对高可用性要求比较高,但zk会出现这样一种情况,当master节点因为 ...
分类:
其他好文 时间:
2020-05-31 00:57:27
阅读次数:
93
参考 一、什么是异常 异常就是程序运行时发生错误的信号(在程序出现错误时,则会产生一个异常,若程序没有处理它,则会抛出该异常,程序的运行也随之终止),在python中,错误触发的异常如下 而错误分成两种 1.语法错误(这种错误,根本过不了python解释器的语法检测,必须在程序执行前就改正) #语法 ...
分类:
其他好文 时间:
2020-05-29 23:02:31
阅读次数:
69
MFS(MooseFS分布式文件系统)作者:张首富时间:2020-05-22wx:y18163201MooseFS[MFS]是一个具有容错性的网络分布式文件系统。它把数据分散存放在多个物理服务器上,而呈现给用户的则是一个统一的资源。官网地址:http://www.moosefs.com/MFS简介MooseFS是一个具有容错性,高可用,高性能,扩展性强的网络分布式文件系统,他将数据分布在多个存储服
分类:
其他好文 时间:
2020-05-25 09:18:27
阅读次数:
66
Consumer Group 是 Kafka 提供的可扩展且具有容错性的消费者机制 既然是一个组,那么组内必然可以有多个消费者或消费者实例(Consumer Instance),它们共享一个公共的 ID,这个 ID 被称为 Group ID 组内的所有消费者协调在一起来消费订阅主题(Subscrib ...
分类:
其他好文 时间:
2020-05-18 12:48:42
阅读次数:
76
前言 本文聊聊 CAP 定理和 BASE 理论。 CAP 定理 C:一致性(Consistency) + 数据的强一致性。希望分布式系统只读到最新写入的数据 A:可用性(Availability) + 分布式系统能提供服务就行,数据的不一致可以忍受 P:分区容错性(Partition toleran ...
分类:
其他好文 时间:
2020-05-17 00:55:47
阅读次数:
92