hadoop简介 hadoop是基于Java语言开发的,具有很好的跨平台性,并且可以部署在廉价的计算机群众,hadoop的核心是分布式文件系统HDFS(hadoop distributed file system)和mapreduce,HDFS具有较高的读写速度和和好的容错性和可伸缩性并且具有大规模 ...
分类:
其他好文 时间:
2019-09-21 18:47:50
阅读次数:
87
FastDFS(Fast Distributed File System)是一款开源轻量级分布式文件系统,我花费了一天的时间安装和配置通,期间参考:https://www.cnblogs.com/handsomeye/p/9451568.html,现在总结一下,希望能让后来者少走弯路。 环境:Cen ...
分类:
其他好文 时间:
2019-09-17 23:01:03
阅读次数:
182
介绍:<!--more--> HDFS (Hadoop Distributed File System)是 Hadoop 下的分布式文件系统,具有高容错、高吞吐量等特性,可以部署在低成本的硬件上。 HDFS 设计原理 HDFS 架构 HDFS 遵循主/从架构,由单个 NameNode(NN) 和多个 ...
分类:
其他好文 时间:
2019-09-14 19:38:43
阅读次数:
162
1.hadoop1.x和hadoop2.x区别 2.组件介绍 HDFS架构概述1)NameNode(nn): 存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间,副本数,文件权限),以及每个文件的块列表和块所在的DataNode等.2)DataNode(dn): 在本地文件系统存储文件块数 ...
分类:
其他好文 时间:
2019-09-13 15:50:23
阅读次数:
112
当不小心启用分散式事务机制时,且环境设定不允许时,就会产生【已停用分散式事务管理员 (MSDTC) 的网络存取。请使用组件服务系统管理工具启用 DTC,以使用 MSDTC 安全性设定中的网络存取】错误消息,此时可以透过new TransactionScope(TransactionScopeOpti... ...
kafka默认端口号:9092 改为 19092 端口号可以被任意修改。如果端口号设置为小于1024,那么kafka需要以root身份启动。 config下 1、service.properties port = 19092 不指定的话,按照默认9092 2、connect-distributed. ...
分类:
其他好文 时间:
2019-09-11 19:49:59
阅读次数:
1120
[TOC] Zipkin 简介 "Zipkin" is a distributed tracing system. It helps gather timing data needed to troubleshoot latency problems in service architectures ...
分类:
编程语言 时间:
2019-09-10 17:49:52
阅读次数:
109
BIT has recently taken delivery of their new supercomputer, a 32 processor Apollo Odyssey distributed shared memory machine with a hierarchical commun ...
分类:
其他好文 时间:
2019-09-08 22:25:46
阅读次数:
101
开源Java学习 公众号 一、入门 1、简介 Kafka is a distributed,partitioned,replicated commit logservice。它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归 ...
分类:
其他好文 时间:
2019-09-04 10:25:36
阅读次数:
110
一、HDFS 的设计思路 1)思路 切分数据,并进行多副本存储; 2)如果文件只以多副本进行存储,而不进行切分,会有什么问题 缺点 缺点 二、HDFS 的设计目标 Hadoop Distributed File System(HDFS):源于Google 的 GFS 论文; 设计目标 设计目标 三、 ...
分类:
其他好文 时间:
2019-09-02 10:05:10
阅读次数:
294