一. sqoop安装:
安装在一台节点上就可以了。
1. 使用winscp上传sqoop
2. 安装和配置
添加sqoop到环境变量
将数据库连接驱动mysql-connector-5.1.8.jar拷贝到$SQOOP_HOME/lib里
二. sqoop的使用
### 第一类:数据库中的数据导入到HDFS上
sqoop import --connect jdbc:...
分类:
其他好文 时间:
2014-12-21 20:46:04
阅读次数:
223
本文转载至http://blog.csdn.net/ysysbaobei/article/details/16371263编译静态库1、http://blog.csdn.net/dengdengxiximeimei/article/details/8845621关于Build Active Arch...
分类:
其他好文 时间:
2014-12-21 17:49:14
阅读次数:
182
[hadoop@MasterHadoop50 ~]$ hadoop namenode -format
DEPRECATED: Use of this script to execute hdfs command is deprecated.
Instead use the hdfs command for it.
Error: Could not find or load main class...
分类:
编程语言 时间:
2014-12-21 14:03:13
阅读次数:
1107
Hadoop是云计算的事实标准软件框架,是云计算理念、机制和商业化的具体实现,是整个云计算技术学习中公认的核心和最具有价值内容。如何从企业级开发实战的角度开始,在实际企业级动手操作中深入浅出并循序渐进的掌握Hadoop是本课程的核心。云计算学习者的心声:如何从企业级开发的角度,不断动手实际操作,循序...
分类:
其他好文 时间:
2014-12-20 02:05:45
阅读次数:
209
文章: http://blog.csdn.net/lili72
背景: 分布式文件通过rsync同步到生产机。 文件数 1440=24*60 也就是一分钟生成一个文件 文件命名 0000 0001 0002 ... 2358 2359 。由于文件传过来是JSON格式,需要对文件进行解析,导入HDFS中。
过程
1 rsync同步文件到当天的日期目录,每天实时把文件...
分类:
Web程序 时间:
2014-12-19 23:32:53
阅读次数:
407
转:http://www.codeproject.com/Articles/703634/SOLID-architecture-principles-using-simple-Csharp?msg=4729987#xx4729987xx
这次配置的环境是Hadoop1.2.1版本,Hadoop在13年推出了Hadoop2.0版本,该版本在Hadoop1.0版本的基础上作了较大的改动,提升了Hadoop集群任务调度、资源分配以及故障处理方面的效率。 Hadoop2.0在Hadoop1.0的基础上,首先对HDFS作了改动,在Had...
分类:
其他好文 时间:
2014-12-19 14:10:00
阅读次数:
147
Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streaming access)文件系统中的数据,则MapReduce为海量的数据提供了计算。Hadoop 容易开发和运行处理大...
分类:
其他好文 时间:
2014-12-19 10:07:54
阅读次数:
307
利用cxf开发WebService
1.什么是CXF
Apache CXF =Celtix + Xfire
支持多种协议:
? SOAP1.1,1,2
? XML/HTTP
? CORBA(Common ObjectRequest Broker Architecture公共对象请求代理体系结构,早期语言使用的WS。C,c++,C#)
? 并可以与Spri...
分类:
Web程序 时间:
2014-12-19 10:06:14
阅读次数:
229
1 运行环境说明... 31.1 硬软件环境... 31.2 机器网络环境... 32 书面作业1:编译并运行《权威指南》中的例3.2. 32.1 书面作业1内容... 32.2 运行代码... 32.3 实现过程... 42.3.1 创建代码目录... 42.3.2 建立例子文件上传到hdfs中....
分类:
其他好文 时间:
2014-12-19 08:10:17
阅读次数:
327