码迷,mamicode.com
首页 >  
搜索关键字:大文件    ( 2438个结果
epoll原理简析
1.使用简单:只有4个api函数:epoll_create() epoll_ctl() epoll_wait()个close() 2.支持大规模的socket连接:由于一个socket连接在epoll中是用一个FD(文件描述符)来表示的,所以epoll能支持最大并发连接的数量与linux能打开最大文件数量有关(或者说与内存有关) 3.高效的内存使用策略: 1).当epoll创建的时候,也就是调用epoll_create() 的函数后,会在内核中开辟一定内存空间(和epoll_create()中参数有...
分类:其他好文   时间:2015-07-13 12:16:45    阅读次数:116
java读取 500M 以上文件,java读取大文件
java 读取txt,java读取大文件 设置缓存大小BUFFER_SIZE ,Config.tempdatafile是文件地址 package com.yjf.util; import java.io.File; import java.io.RandomAccessFile; import java.nio.MappedByteBuffer; import java.nio.c...
分类:编程语言   时间:2015-07-12 11:21:46    阅读次数:171
git大文件管理
由于git在commit时保存整个文件系统,如果在文件系统中有一些大的二进制文件,比如图片,视频,那么很快你的repo就将变得很大,clone这个repo时也会耗用越来越多的时间。有没有什么办法来优化这个问题呢? 一个可行的方法是使用git-fat :https://github.com/je...
分类:其他好文   时间:2015-07-10 23:43:55    阅读次数:375
nginx php上传大文件的设置(php-fpm)
对于lnmp架构的大文件上传的问题,有几个地方需要修改,另外还有几个参数如果更改过需要注意,下面是详细的需要注意的地方: nginx的修改 send_timeout 60; fastcgi_connect_timeout 300; fastcgi_send_timeout 300; fast...
分类:Web程序   时间:2015-07-10 12:53:39    阅读次数:106
Spark RDD在saveAsTextFile时直接保存成一个txt文件
在该语句之前加上repartition(1),即写作以下形式:rdd.repartition(1).saveAsTextFile("out.txt")即,之前每个partition保存成一个txt文件,现repartition成一个分区,然后再保存。 注意(未验证):这个操作对于大文件来说,repa...
分类:其他好文   时间:2015-07-09 11:10:20    阅读次数:306
linux快速生成大文件方法
dd命令可以轻易实现创建指定大小的文件,如ddif=/dev/zeroof=testbs=1Mcount=1000会生成一个1000M的test文件,文件内容为全0(因从/dev/zero中读取,/dev/zero为0源)但是这样为实际写入硬盘,文件产生速度取决于硬盘读写速度,如果欲产生超大文件,速度很慢在某种场景下,我们..
分类:系统相关   时间:2015-07-09 01:02:13    阅读次数:336
查看大文件的行数(windows 和 Ubuntu)
Windows 在Windows平台上,我们可以使用很多工具来打开文件,查看其行数,最常用的就是MS Office Word、记事本等。在MS-DOS下,我们还可以使用edit模式来打开文件,但其最多能打开65280行数据。这里推荐一个工具notepad++,这个工具能打开并显示更多行的数据,并且自动显示行号。 Ubuntu 在Ubuntu平台上,我们可以使用 wc 命令在不...
分类:Windows程序   时间:2015-07-09 00:56:25    阅读次数:229
Python将一个大文件按段落分隔为多个小文件的简单方法
今天帮同学处理一点语料。语料文件有点大,并且是以连续两个换行符作为段落标志,他想把它按段落分隔成多个小文件,即每3个段落组成一个新文件。由于以前没有遇到过类似的操作,在网上找了一些相似的方法,看起来都有点复杂。所以经尝试,自己写了一段代码,完美解决问题。 基本思路是,由先读原文件内容,并使用正则表达式,依据\n\n进行切片处理,结果为一个列表,其中每一个列表元素都存放一个切片中的内容;然后创建一个...
分类:编程语言   时间:2015-07-08 02:08:10    阅读次数:173
服务器端文件分片合并的思考和实践
笔者在项目中处理大文件上传的需求,仿照七牛云存储的接口设计。然而,在服务器端文件合并时遇到了很大的问题:合并太慢。本文记录了当时的思路和解决的方案 大文件的需求 文件上传是个很常见的需求。尽管HTTP是基...
分类:其他好文   时间:2015-07-06 18:14:34    阅读次数:267
svn代码统计工具的金额
StatSVN介绍StatSVN是Java写开源统计程序,从statCVS从移植。从能Subversion版本号来获取信息库,该项目开发的叙述性说明,然后生成各种表格和图表。例:时间线。针对每一个开发人员的代码行数;开发人员的活跃程度;开发人员近期所提交的;文件数量;平均文件大小;最大文件。哪个文件...
分类:其他好文   时间:2015-07-06 15:42:35    阅读次数:180
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!