一、方案图该方案可以解决nfs服务器的单点故障问题,也可以解决数据的备份难题,可以作为公司从nfs文件系统-->分布式存储系统的过渡解决方案。由于我公司从初创到至今,用户的产生数据量与日俱增,在探讨了现有nfs文件系统不能解决现有问题以及现阶段部署分布式存储系统的大..
分类:
其他好文 时间:
2015-04-21 02:11:04
阅读次数:
360
用来查看apache进程下最大文件打开数#!/bin/bash
forpidin`psaux|grephttpd|grep-vgrep|awk‘{print$2}‘`
do
cat/proc/$(pid)/limits|grep‘MaxOpenfiles‘
done
分类:
其他好文 时间:
2015-04-20 19:02:31
阅读次数:
123
xUtils民间组织群:287536289xUtils简介xUtils 包含了很多实用的android工具。xUtils 支持大文件上传,更全面的http请求协议支持(10种谓词),拥有更加灵活的ORM,更多的事件注解支持且不受混淆影响...xUitls 最低兼容android 2.2 (api l...
分类:
其他好文 时间:
2015-04-20 09:19:12
阅读次数:
160
概念 HDFS是Hadoop Distribute File System 的简称,也就是Hadoop分布式文件系统。 设计理念 1、硬件错误是常态 错误检测并快速自动恢复是HDFS的最核心设计目标 2、存储超大文件 HDFS适合大量存储,总存储量可以达...
分类:
其他好文 时间:
2015-04-19 01:14:37
阅读次数:
165
转载统计大文件里,频数最高的10个单词,(C# TPL DataFlow版)最近公司搞了一个写程序的比赛,要求从2G的文件里统计出出现频率最高的10个单词。最开始的想法是使用字典树,后来发现字典树更适合用在找前缀上,在查找没有hash表效率高。之后使用Hash表+DataFlow完成了功能,2G的文...
分类:
其他好文 时间:
2015-04-18 23:18:25
阅读次数:
210
最近公司搞了一个写程序的比赛,要求从2G的文件里统计出出现频率最高的10个单词。最开始的想法是使用字典树,后来发现字典树更适合用在找前缀上,在查找没有hash表效率高。之后使用Hash表+DataFlow完成了功能,2G的文件处理在20秒以内(其实我有信心优化到10秒以内,但是太折腾了)。这是我的设...
快速删除大文件的前几行或后几行 http://stackoverflow.com/questions/17330188/remove-first-n-lines-of-a-file-in-place-in-unix-command-line 快速获取大文件的n到m行数据 http://unix.stackexchange.com/ques...
分类:
其他好文 时间:
2015-04-17 18:39:47
阅读次数:
105
现在我们经常使用程序或者库和其他人交流信息.例如,我们经常使用http程序库去从一个web server接收信息,或者调用一个远程的web服务.然而,一个通用的传输协议或者实现有的时候不能适应我们自己的场景.例如,我们不会用http server来传输一些大的文件,Email和一些实时性的信息,例如金融方面或者有些游戏数据方面的信息.这些需要一个高度优化的协议,为了使用某一种特定的应用场景. 例如,你可能想要实现一个专门为了多媒体视频流,大文件传出,或者基于ajax的一个聊天程序的Http Server.甚...
分类:
Web程序 时间:
2015-04-16 20:02:54
阅读次数:
188
xUtils 包含了很多实用的android工具。xUtils 最初源于Afinal框架,进行了大量重构,使得xUtils支持大文件上传,更全面的http请求协议支持(10种谓词),拥有更加灵活的ORM,更多的事件注解支持且不受混淆影响...xUitls最低兼容android 2.2 (api le...
分类:
其他好文 时间:
2015-04-16 15:41:24
阅读次数:
204