Service Locator Patten 学习总结、使用心得...
分类:
其他好文 时间:
2015-01-30 21:10:16
阅读次数:
163
HDFS分布式文件系统:优点:支持超大文件存储、流式访问、一次写入多次读取。缺点:不适应大量小文件、不适应低时延的数据访问、不适应多用户访问任意修改文件。1.hadoop用于大数据处理,在数据量较小时,并不适用于实时性强的任务,并不是所有的job放到hadoop上,性能都会提升。2.大量小文件的情况...
分类:
其他好文 时间:
2015-01-30 21:00:06
阅读次数:
358
*号作为python脚本的传入参数时,必须用单引号'',才能正确传入。如python test.py 2014 '*' age
python test.py 2014 * age是错误的。
比如
test.py脚本如下
import sys
hdfs_report_historical_year = sys.argv[1]
# eg:2014-05,2014-12,...
分类:
编程语言 时间:
2015-01-30 19:42:54
阅读次数:
218
FS Shell调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文件系统,scheme是hdfs,对本地文件系统,scheme是file。其中sch...
分类:
系统相关 时间:
2015-01-30 17:37:01
阅读次数:
350
JPDA(Java Platform Debugger Architecture) 是 Java 平台调试体系结构的缩写,通过 JPDA 提供的 API,开发人员可以方便灵活的搭建 Java 调试应用程序。JPDA 主要由三个部分组成:Java 虚拟机工具接口(JVMTI),Java 调试线协议(J...
分类:
其他好文 时间:
2015-01-30 16:49:44
阅读次数:
173
为了让大家更理解vdceye,在大家的建议下把vdceye Manager 修改为OpenCVR Open Cloud Video Recorder,下个版本正式更名,并正式支持Hadoop HDFS视频存储
https://github.com/xsmart/opencvr
目前视频监控已经经历了DVR NVR,目前的云技术正在把视频监控带到CVR时代, OpenCVR将率先支持...
分类:
其他好文 时间:
2015-01-29 22:37:50
阅读次数:
392
本节中所用到的内容是来自搜狗实验室,网址为:http://www.sogou.com/labs/dl/q.html
我们使用的是迷你版本的tar.gz格式的文件,其大小为87K,下载后如下所示:
上传到服务器后,解压并查看:
查看Sogou文件内容:
该文件的格式如下所示:
访问时间 \t 用户ID \t 查询词 \t 该URL在返...
从本质上来说,Hadoop就是提供了分布式存储(HDFS)与分布式计算(MapReduce)的服务。...
分类:
其他好文 时间:
2015-01-29 09:27:50
阅读次数:
202
1.4 Camel’s architecture Let’s now turn our attention to Camel’s architecture. We’ll first take a look at the high-level architecture and then drill down into the specific concepts. After you’...
分类:
其他好文 时间:
2015-01-28 22:41:21
阅读次数:
264
一、Impala简介Cloudera Impala对你存储在Apache Hadoop在HDFS,HBase的数据提供直接查询互动的SQL。除了像Hive使用相同的统一存储平台,Impala也使用相同的元数据,SQL语法(Hive SQL),ODBC驱动程序和用户界面(Hue Beeswax)。Im...
分类:
其他好文 时间:
2015-01-28 22:34:05
阅读次数:
336