码迷,mamicode.com
首页 >  
搜索关键字:大文件    ( 2438个结果
github的large file storeage
https://git-lfs.github.com/1.从这个网址下载git-lfs-windows-amd64-1.1.0.exe,运行这个安装包2.然后打开git bash输入git lfs install3.根据需求来处理大文件$ git lfs track "*.wav"Tracking ...
分类:其他好文   时间:2015-11-28 19:51:52    阅读次数:145
内存映射对于大文件的使用
平时很少使用大文件的内存映射,碰巧遇到了这样的要求,所以把过程记录下来,当给各位一个引子吧,因为应用不算复杂,可能有考虑不到的地方,欢迎交流。对于一些小文件,用普通的文件流就可以很好的解决,可是对于超大文件,比如2G或者更多,文件流就不行了,所以要使用API的内存映射的相关方法,即使是内存映射,也不...
分类:其他好文   时间:2015-11-28 01:00:23    阅读次数:174
Java高效读取大文件(转)
Java高效读取大文件1、概述本教程将演示如何用Java高效地读取大文件。这篇文章是Baeldung(http://www.baeldung.com/)上“Java——回归基础”系列教程的一部分。2、在内存中读取读取文件行的标准方式是在内存中读取,Guava 和Apache Commons IO都提...
分类:编程语言   时间:2015-11-27 17:37:27    阅读次数:147
用集算器协助Java读入文本
JAVA提供了最基本的文件处理函数,可以简单无结构的方式读入小文本文件,如果遇到需要结构化、格式多样、要求特殊的文件或内存装不下的大文件,相应的代码就会很复杂,可读性和复用性也很难保障。使用免费的集算器可以弥补这一不足。集算器封装了丰富的结构化文件读写和计算函数,并提供JDBC接口。JAVA应用程....
分类:编程语言   时间:2015-11-27 10:53:33    阅读次数:185
hadoop的wordcount例子运行
可以通过一个简单的例子来说明MapReduce到底是什么: 我们要统计一个大文件中的各个单词出现的次数。由于文件太大。我们把这个文件切分成如果小文件,然后安排多个人去统计。这个过程就是”Map”。然后把每个人统计的数字合并起来,这个就是“Reduce"。 上面的例子如果在MapReduce去做呢.....
分类:其他好文   时间:2015-11-25 22:05:54    阅读次数:229
PHP上传遇到的问题-php 上传大文件主要涉及配置upload_max_filesize和post_max_size两个选项
今天在做上传的时候出现一个非常怪的问题,有时候表单提交可以获取到值,有时候就获取不到了,连普通的字段都获取不到了,苦思冥想还没解决,最后问了师傅,师傅看了说挺奇怪的,然后问我upload_max_filesize的值改了吗,我说改了啊,师傅也解决不了了。过了一会师傅问post_max_size改了吗...
分类:Web程序   时间:2015-11-24 20:17:00    阅读次数:111
lsof处理df和du大小不一致的问题
APP服务器根满了,一直报警df显示根分区已经使用了90%的空间,但是du根分区总和只有40G左右,该分区应该没有大量小文件,所以应该不会产生大量小文件导致的block写满的问题.网上搜了下发现有可能是有程序操作大文件导致文件句柄没有释放,这些被程序占用着的文件句柄会被df认为是存..
分类:其他好文   时间:2015-11-21 07:16:09    阅读次数:219
select/poll/epoll 对比
首先还是来看常见的select和poll。对于网络编程来说,一般认为poll比select要高级一些,这主要源于以下几个原因:poll() 不要求开发者计算最大文件描述符加一的大小。poll() 在应付大数目的文件描述符的时候速度更快,因为对于select()来说内核需要检查大量描述符对应的fd_s...
分类:其他好文   时间:2015-11-20 17:38:48    阅读次数:127
解决java读取大文件内存溢出问题、如何在不重复读取与不耗尽内存的情况下处理大文件
1、传统的在内存中读取 读取文件行的标准方式是在内存中读取,Guava 和Apache Commons IO都提供了如下所示快速读取文件行的方法: 1 2 3 Files.readLines(new File(path), Charsets.UTF_8);   FileUtils.readLines(new ...
分类:编程语言   时间:2015-11-19 16:45:11    阅读次数:277
Linux--分区
分区类型介绍备注/boot启动分区一般设置100M-200M,boot目录包含了操作系统的内核和在启动系统过程中所要用到的文件。/根分区所有未指定挂载点的目录都会放到这个挂载点下。/home用户目录一般每个用户100M左右,特殊用途,比如放大文件也可再加上G。分区大小取决于用户多少。对于多用户使用的...
分类:系统相关   时间:2015-11-18 19:29:09    阅读次数:144
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!