1 Map side tuning参数1.1 MapTask运行内部原理 当map
task开始运算,并产生中间数据时,其产生的中间结果并非直接就简单的写入磁盘。这中间的过程比较复杂,并且利用到了内存buffer来进行已经产生的部分结果的缓存,并在内存buffer中进行一些预排序来优化整个map.....
分类:
其他好文 时间:
2014-05-20 01:54:58
阅读次数:
341
解决“google快照无法打开”的简单而有效的方法...
分类:
其他好文 时间:
2014-05-15 20:25:41
阅读次数:
252
FreeBSD删除文件缓存,在负载方面FreeBSD比CentOS好很多很多。#!/bin/sh
if[!-s/tmp/dir.dat];then
find/home/www/web/cache-typed>/tmp/dir.dat
fi
mkdir/var/tmpdir
DIRS=`cat/tmp/dir.dat`
foriin$DIRS
do
load=$(top-n1|awk-F‘[.]+‘‘/averages/{print$6}‘)
#rsync--delet..
分类:
其他好文 时间:
2014-05-15 18:51:06
阅读次数:
314
#1.建议在opt下面操作,我的opt是一个单独分区,创建一个swap的文件夹
cd/opt
mkdirswap
#2.创建一个2GB大小的文件
ddif=/dev/zeroof=swapfilebs=1024count=2048000
#3.转换激活swap分区
mkswapswapfile
swaponswapfile
#4.查看扩充后的大小
free-m
#5.写入/etc/fstab文件,在..
分类:
其他好文 时间:
2014-05-15 18:46:17
阅读次数:
256
利用默认的内存管理函数new/delete或malloc/free在堆上分配和释放内存会有一些额外的开销。
系统在接收到分配一定大小内存的请求时,首先查找内部维护的内存空闲块表,并且需要根据一定的算法(例如分配最先找到的不小于申请大小的内存块给请求者,或者分配最适于申请大小的内存块,或者分配最大空闲的内存块等)找到合适大小的空闲内存块。如果该空闲内存块过大,还需要切割成已分配的部分和较小的空...
分类:
其他好文 时间:
2014-05-15 02:56:28
阅读次数:
227
前段时间研究过一阵子无锁化编程。刚写了几个简单的程序,来验证了下自己学到的一些概念。
测试场景:假设有一个应用:现在有一个全局变量,用来计数,再创建10个线程并发执行,每个线程中循环对这个全局变量进行++操作(i++),循环加2000000次。
所以很容易知道,这必然会涉及到并发互斥操作。下面通过三种方式来实现这种并发操作。并对比出其在效率上的不同之处。
......
通过编程测试及测试得出结论:
1、如果是想用全局变量来做统计操作。而又不得不考虑多线程间的互斥访问的话,最好使用编译器支持的原子操作函...
分类:
其他好文 时间:
2014-05-15 00:17:24
阅读次数:
390
http://acm.hdu.edu.cn/showproblem.php?pid=1224
基础的求最长路以及记录路径。感觉dijstra不及spfa好用,wa了两次。
#include
#include
#include
#include
#include
#include
#include
#include
#define LL long long
#define...
分类:
其他好文 时间:
2014-05-14 20:59:54
阅读次数:
295
phpheader()中的cache有四种标识头:Last-Modified,Expires,Pragma:no-cache,Cache-Control。以下的测试环境为谷歌浏览器,其余的未测试Last-Modified:在判断缓存的时候,If-Modified-Since会将此值发送给服务器。Expires:后面的日期用于标识缓存在什么时候过期Pragma:尽量用Cac..
分类:
Web程序 时间:
2014-05-14 19:06:02
阅读次数:
323
[root@rac01 ~]# free -s 2[root@rac01 ~]# free
[-b | -k | -m][root@rac01 ~]# free -o[root@rac01 ~]# free -t[root@rac01 ~]# sar
-r 2 3[root@rac01 ~]# sa...
分类:
系统相关 时间:
2014-05-14 18:18:48
阅读次数:
371
fieldValueCache默认是存在的。如果没有在solrConfig.xml中配置,那么其初始大小10,最大10000,不会autowarm。在PC上开发时,会有内存溢出的风险。
分类:
其他好文 时间:
2014-05-14 16:35:14
阅读次数:
231