是针对单个作业,针对本job再怎么优化也不会影响到其他job;Hadoop的负载主要有两部分:CPU负载和IO负载;问题:机器io开销很大,但是机器的cpu开销较小,另外map输出文件也较大,怎么办?解决办法:通过设置map的中间输出进行压缩就可以了,这个不会影响最终reduce的输出。集群中的机器...
分类:
其他好文 时间:
2014-07-18 20:29:09
阅读次数:
384
PS:这篇是目前最完整的Nginx配置参数中文说明。更详细的模块参数请参考:http://wiki.nginx.org/Main #定义Nginx运行的用户和用户组 user www www; #nginx进程数,建议设置为等于CPU总核心数。 worker_processes ...
分类:
其他好文 时间:
2014-07-18 20:14:01
阅读次数:
240
工厂模式分三种:简单工厂、工厂方法、抽象工厂。其中抽象工厂是用于多个产品族的情况。所谓产品族就是不同产品组成的有机整体,各不同产品之间相互依赖。打个比方,一台电脑有CPU、主板、内存和硬盘等,这些不同产品组成了一个产品族。就好比Dell和HP要把这些产品进行不同的组装,这时就需要用到抽象工厂。以下是...
分类:
编程语言 时间:
2014-07-18 09:07:22
阅读次数:
279
1.理论知识 在1.4GHz~3GHz的CPU、1GB内存的JMeter客户端上,可以处理线程100~300。但是,如果所有负载由一台机器产生,网卡和交换机端口都可能产生瓶颈,所以一个JMeter客户端线程数不应超过100。 采用JMeter远程模式并不会比独立运行相同数目的非GUI测试更耗费资源。...
分类:
其他好文 时间:
2014-07-18 08:00:58
阅读次数:
256
当看到I/O等待时间所占CPU时间的比重很高的时候,首先要检查的就是机器是否正在大量使用交换空间,因为硬盘操作的速度远远低于RAM,所以当系统内存耗尽,开始使用交换空间的时候,系统的性能会受到严重影响。任何想要访问硬盘的操作都要完成与硬盘的I/O交换。所以,故障排除的第一步是看内存是否耗尽,如果是,先解决这个问题。如果还有大量可用的RAM,你需要明确那个进程占用了大部分I/O操作。
在你很难弄明...
分类:
移动开发 时间:
2014-07-17 19:36:55
阅读次数:
306
psutil - A cross-platform process and system utilities module for Python1. 安装pip 安装即可。windows 下需要安装 vs2008,否则报错:Unable to find vcvarsall.bat如果已经安装 vs2...
TOP是一个动态显示过程,即可以通过用户按键来不断刷新当前状态.如果在前台执行该命令,它将独占前台,直到用户终止该程序为止.比较准确的说,top
命令提供了实时的对系统处理器的状态监视.它将显示系统中CPU最“敏感”的任务列表.该命令可以按CPU使用.内存使用和执行时间对任务进..
分类:
其他好文 时间:
2014-07-17 17:09:19
阅读次数:
200
一、介绍LVS是LinuxVirtualServer的简写,即Linux虚拟服务器,是一个虚拟的服务器集群系统。该项目由章文嵩博士成立,是中国国内最早出现的自由软件项目之一。使用LVS技术要达到的目标是:通过LVS提供的负载均衡技术和Linux操作系统实现一个高性能、高可用的服务器群集,它具有..
分类:
其他好文 时间:
2014-07-17 16:04:36
阅读次数:
537
TCMalloc是什么?TCMalloc(Thread-CachingMalloc)与标准glibc库的malloc实现一样的功能,但是TCMalloc在效率和速度效率都比标准malloc高很多。TCMalloc是google-perftools工具中的一个(gperftools四个工具分别是:TCMalloc、heap-checker、heap-profiler和cpu-profiler),这..
分类:
数据库 时间:
2014-07-17 15:34:03
阅读次数:
421
Iserver简介Iserver是一个用python编写的网络服务框架(编译版本3.4.1),使用的是epool网络模型测试机配置处理器 2x Genuine Intel(R) CPU T2050 @ 1.60GHz内存 2060MB (673MB used)nginx开启进程数root 2413 ...
分类:
编程语言 时间:
2014-07-17 13:06:19
阅读次数:
313