大数据目前的主要趋势(自己理解) 文件系统、部署、各种流和开源工具 ETL开发(BI项目) 数据统计分析 数据挖掘、机器学习 图片来自 浅析 一、关于kakfa kafka相关 Kafka是由LinkedIn开发的一个分布式的消息系统,使用Scala编写,它以可水平扩展和高吞吐率而被广泛使用。目前越 ...
分类:
其他好文 时间:
2018-10-17 18:32:26
阅读次数:
167
mysql向外扩展(横向扩展或者水平扩展)策略主要有三方面:复制、拆分、数据分片; 水平扩展的最简单的方式就是通过复制将数据分发到多个服务器上,然后将备库用于读查询。复制技术用于以读为主的服务效果最好;但是当数据规模比较大时,复制也有一些问题,例如主从同步间隔时间过长。 数据拆分以及分配方式: 1、 ...
分类:
数据库 时间:
2018-10-08 00:48:18
阅读次数:
217
一、MongoDB数据库的特点及安装MongoDB数据库的特点面向文档,模式自由json数据模式(bson)(可以初略理解为字典)多级引索高可用复制集水平扩展跨平台、多种语言接口弱事务类型大数据、高并发、弱事务的web2.0互联网应用。优点:弱一致性,文档格式存储方式,内置gridFS(分布式文件系统)缺点:不支持事务,空间占用大MongoDB数据库的安装安装:一路点击next,finish配置环
分类:
数据库 时间:
2018-09-24 11:25:10
阅读次数:
256
系统调优参数 一些比较重要的参数: back_log:back_log值指出在MySQL暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。如果MySql的连接数据达到max_connections时,新来的请求将会被存在堆栈中,以等待某一连接释放资源,该堆栈的数量即back_log,如果等 ...
分类:
数据库 时间:
2018-09-22 14:30:22
阅读次数:
251
MongoDB 分片是一种海量数据水平扩展的数据库群集系统,数据分布存储在分片的各个节点上,管理者通过简单的配置就可以构建一个分布式MongoDB 分片式群集。复制集往往会与分片结合来使用,来保证MongoDB 的高可用性
分类:
数据库 时间:
2018-09-18 19:12:49
阅读次数:
175
数据库文件处理就可以将数据永久存储问题:1.管理不方便2.文件操作效率问题3.一个程序不太可能运行在同一台电脑上 提高计算机性能的方式: 1.垂直扩展 知道是更换性能更好的硬件 2.水平扩展 之的就是添加更多的计算机,把任务分配给每一台分布式计算的好处: 1.其中某一台死机 不会导致整个系统瘫痪 稳 ...
分类:
数据库 时间:
2018-09-11 18:01:45
阅读次数:
181
本文来自网易云社区 作者:李弈远 消息推送平台为公司内部和第三方应用提供统一消息推送服务,支持广播、私信、组播、附件等多种消息推送方式,覆盖IOS、Android、PC、Web等多种终端,并根据应用特定需求制定各种解决方案。 平台支持水平扩展,支持C5000K高并发下的实时消息推送,通过动态负载均衡 ...
分类:
其他好文 时间:
2018-09-03 15:04:51
阅读次数:
160
本文来自网易云社区 作者:李弈远 消息推送平台为公司内部和第三方应用提供统一消息推送服务,支持广播、私信、组播、附件等多种消息推送方式,覆盖IOS、Android、PC、Web等多种终端,并根据应用特定需求制定各种解决方案。 平台支持水平扩展,支持C5000K高并发下的实时消息推送,通过动态负载均衡 ...
分类:
其他好文 时间:
2018-09-03 15:01:38
阅读次数:
191
如今Docker的使用已经非常普遍,特别在一线互联网公司。使用Docker技术可以帮助企业快速水平扩展服务,从而到达弹性部署业务的能力。在云服务概念兴起之后,Docker的使用场景和范围进一步发展,如今在微服务架构越来越流行的情况下,微服务+Docker的完美组合,更加方便微服务架构运维部署落地。 ...
分类:
其他好文 时间:
2018-08-25 14:35:58
阅读次数:
206
消息队列 神马是消息队列,看看某度的原话“在项目中,将一些无需即时返回且耗时的操作提取出来,进行了异步处理,而这种异步处理的方式大大的节省了服务器的请求响应时间,从而提高了系统的吞吐量”。 其实消息队列还可以用于解耦,在多层项目模型或中型项目以上,都会用到消息队列,减少层与层之间的耦合;还可以做跨进 ...
分类:
Web程序 时间:
2018-08-17 20:02:20
阅读次数:
207