前言:
IO对于系统设计来说,是一个很重要的关注点,往往系统运行的瓶颈就在IO设计上,无论是数据库IO,文件IO还是网络IO,都需要进行精致的设计,才能使得系统达到最佳运行状态。对于现代系统并发量、数据量的剧增,IO处理对于系统显得更加重要。研究Java IO对于我们工作有益无害。
Java.io包含了Java阻塞型IO的设计。Java的IO主要包含三个部分:
1.流式...
分类:
编程语言 时间:
2015-07-26 00:34:48
阅读次数:
202
网络IO之阻塞、非阻塞、同步、异步总结1、前言 在网络编程中,阻塞、非阻塞、同步、异步经常被提到。unix网络编程第一卷第六章专门讨论五种不同的IO模型,Stevens讲的非常详细,我记得去年看第一遍时候,似懂非懂,没有深入理解。网上有详细的分析:http://blog.csdn.net/hist....
分类:
其他好文 时间:
2015-07-20 16:16:03
阅读次数:
101
如何执行基准测试测试条件–如何避免常见的错误?需要在一个真实的环境中运行基准测试。
相似或相同的硬件
包括CPU、内存、网络、IO系统
相同的软件配置
相似的数据集大小
相似的数据分布
相似的访问模式
–避免查询和数据缓存
–重新构建访问的分布
相当的线程数量
–多用户和多服务器
记录所有信息
宁可记录无用的信息也不错过重要的信息
文档化所有的步骤以便于重新执行基准测试
配置:硬件、软件版本...
分类:
数据库 时间:
2015-07-08 22:36:11
阅读次数:
207
Hadoop:
Hadoop在使用原理上基本上遵照了Map、Reduce这样的一种模式进行项目的实际开发与交互,将一个个任务分解成映射与合并两种方式,然而通过映射进行分类与简化,从而产生部分归并结果,然后对同类结果进行归并计算;
由于Hadoop的中间结果需要依托于hdfs,从而需要经历硬盘及网络io的过程所以在实时性方面表现稍差;
Hadoop主要处理hdfs上的文本文件,而文本文件内容本...
分类:
其他好文 时间:
2015-07-07 19:27:46
阅读次数:
294
一、Memcache介绍 Memcache 是 danga.com 的一个项目,最早是为 LiveJournal 服务的,目前全世界不少人使用这个缓存项目来构建自己大负载的网站,来分担数据库的压力。它可以应对任意多个连接,使用非阻塞的网络 IO 。由于它的工作机制是在内存中开辟一块空间,然后建...
在分布式服务框架中,最基础的问题就是远程服务是怎么通讯的。首先来看看计算机系统网络通信的基本原理,网络通信需要做的就是将流从一台计算机传输到另外一台计算
机,基于传输协议和网络IO来实现,其中传输协议有 tcp、udp等等,tcp、udp都是在基于Socket概念上为某类应用场景而扩展出的传输协议;网络IO,主要有bio、
nio、aio三种方式,所有的分布式应用通讯都基于这个原理而实现,只...
分类:
其他好文 时间:
2015-06-29 22:22:31
阅读次数:
197
1.垃圾回收机制只负责回收堆内存中的对象,不会回收任何物理资源(如数据库连接,网络IO等资源)2.程序无法精确控制垃圾回收的运行,垃圾回收会在合适的时候运行。当对象永久的失去引用后,系统会在合适的时间回收其占用的内存。3.在垃圾回收机制回收任何对象之前,总会先调用它的finalize()方法。对象在...
分类:
编程语言 时间:
2015-06-28 17:34:28
阅读次数:
186
磁盘IO和网络IO隔离与共享是混部应用中基本需求,从早些年的BVC到现在的Matrix,以及Galaxy,或者未来的BS/Mint混部都遇到类似的问题:由于无法有效实现IO级的隔离(包括吞吐隔离、延时隔离、故障/安全隔离,优先预留),磁盘资源只能以盘块为单位进行物理隔离,即使数据集很小的应用也不得不...
分类:
其他好文 时间:
2015-06-19 10:15:44
阅读次数:
117
reduce side join是所有join中用时最长的一种join,但是这种方法能够适用内连接、left外连接、right外连接、full外连接和反连接等所有的join方式。reduce side join不仅可以对小数据进行join,也可以对大数据进行join,但是大数据会占用大量的集群内部网络IO,因为所有数据最终要写入到reduce端进行join。如果要做join的数据量非常大的话,就不得不用reduce join了。...
分类:
其他好文 时间:
2015-06-10 12:26:56
阅读次数:
234