一.Map的原理和运行流程 Map的输入数据源是多种多样的,我们使用hdfs作为数据源。文件在hdfs上是以block(块,Hdfs上的存储单元)为单位进行存储的。 1.分片 我们将这一个个block划分成数据分片,即Split(分片,逻辑划分,不包含具体数据,只包含这些数据的位置信息),那么上图中 ...
分类:
其他好文 时间:
2020-07-06 14:25:24
阅读次数:
60
java入门到放弃索引 java JAVA 基础 面向对象 集合框架 IO流 常用类 多线程并发 ArrayBlockingQueue 和 LinkedBlockingQueue 区别 集合迭代器的原理 传值和传引用的区别 动态代理 JDK8 ConcurrentHashMap 的原理 多线程 创建 ...
分类:
编程语言 时间:
2020-07-04 20:54:07
阅读次数:
74
欢迎关注 CSDN:程序员小羊 微信公众号:程序员小羊 1、elasticsearch 了解多少,说说你们公司 es 的集群架构,索引数据大小,分片有多少,以及一些调优手段 。 面试官:想了解应聘者之前公司接触的 ES 使用场景、规模,有没有做过比较大规模的索引设计、规划、调优。 解答: 如实结合自 ...
分类:
其他好文 时间:
2020-07-04 10:31:55
阅读次数:
66
1:Hystrix简介1.1:分布式系统面临的问题复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免地失败。对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理,以便单个
分类:
编程语言 时间:
2020-07-04 09:17:06
阅读次数:
82
摘要:弹性负载均衡(Elastic Load Balance 简称ELB)将访问流量均衡分发到多台弹性云服务器,扩展应用系统对外的服务能力,实现更高水平的应用程序容错性能。 如今,随着互联网规模和消费者规模的不断扩大,企业面对着高并发请求场景下的流量冲击,尤其是每逢618或双11,会有数以亿计的用户 ...
分类:
其他好文 时间:
2020-07-03 15:56:11
阅读次数:
87
首先说一下为什么选择MyCat,mysql分表分库的工具还有sharding-jdbc,是jar包的形式集成到项目的,可以相对灵活的配置自定义分片策略(PS:其实大部分业务场景是分片策略越简单越好啊,不会搞那么复杂也不需要太灵活,要不然扩容很麻烦),从架构上考虑感觉不太灵活,依赖与项目,性能负载都是 ...
分类:
其他好文 时间:
2020-07-03 12:17:29
阅读次数:
52
指南 https://www.elastic.co/guide/cn/elasticsearch/guide/current/index.html Elasticsearch概念 Elasticsearch 是一个开源的搜索引擎,建立在一个全文搜索引擎库 Apache Lucene? 基础之上。 L ...
分类:
其他好文 时间:
2020-07-02 20:10:42
阅读次数:
59
我的Elasticsearch系列文章,逐渐更新中,欢迎关注0A.关于Elasticsearch及实例应用00.Solr与ElasticSearch对比01.ElasticSearch能做什么?02.Elastic Stack功能介绍03.如何安装与设置Elasticsearch API04.如果通 ...
分类:
其他好文 时间:
2020-07-02 00:25:55
阅读次数:
68
Kafka 的核心架构原理。 ##Kafka 分布式存储架构 那么现在问题来了,如果每天产生几十 TB 的数据,难道都写一台机器的磁盘上吗?这明显是不靠谱的啊! 所以说,这里就得考虑数据的分布式存储了,我们结合 Kafka 的具体情况来说说。 在 Kafka 里面,有一个核心的概念叫做“Topic” ...
分类:
其他好文 时间:
2020-07-01 17:26:55
阅读次数:
67
mongodb集群概念介绍 mongodb支持架构有单机(stand-alone)、主从(master-slave)、副本集(replica set)以及分片(sharding), 而最常用的架构莫过于副本集 + 分片。而分片有三大组件,分别为mongos、configsvr、sharding se ...
分类:
数据库 时间:
2020-07-01 12:36:50
阅读次数:
60