1. Hadoop 概览Google 三篇论文(GFS -> HDFS,Map-Reduce -> MR,BigTable -> HBase)是 Hadoop 的思想之源。Hadoop 生态非常庞大,其最初两大核心是 HDFS 和 MR,分别负责存储和计算(Hadoop 1.x 中,MR 既负责计算 ...
一.sqoop的简单概论 1.sqoop产生的原因: A. 多数使用hadoop技术的处理大数据业务的企业,有大量的数据存储在关系型数据中。 B. 由于没有工具支持,对hadoop和关系型数据库之间数据传输是一个很困难的事。 依据以上的原因sqoop产生的。 2. sqoop的介绍 sqoop是连接 ...
分类:
其他好文 时间:
2021-06-08 22:45:15
阅读次数:
0
目前最主流的三个Web服务器是 Apache、Nginx、IIS。 1.Apache Apache是世界使用排名第一的Web服务器软件。它几乎可以运行在所有的计算机平台上。由于Apache是开源免费的,因此有很多人参与到新功能的开发设计,不断对其进行完善。Apache的特点是简单、速度快、性能稳定, ...
分类:
Web程序 时间:
2021-06-08 22:30:41
阅读次数:
0
运行环境 centos 5.6 hadoop hivesqoop是让hadoop技术支持的clouder公司开发的一个在关系数据库和hdfs,hive之间数据导入导出的一个工具 在使用过程中可能遇到的问题: sqoop依赖zookeeper,所以必须配置ZOOKEEPER_HOME到环境变量中。sq ...
分类:
数据库 时间:
2021-06-07 20:36:05
阅读次数:
0
1. 阐述Hadoop生态系统中,HDFS, MapReduce, Yarn, Hbase及Spark的相互关系,为什么要引入Yarn和Spark。 HDFS是Hadoop体系中数据存储管理的基础,它是一个高度容错的系统,能检测和应对硬件故障,在低成本的通用硬件上运行。 HBase构建在HDFS之上 ...
分类:
其他好文 时间:
2021-06-07 20:05:58
阅读次数:
0
vue项目 安装sentry监控日志 https://sentry.io/chaoling/vue11/getting-started/javascript-vue/ # Using yarn yarn add @sentry/vue @sentry/tracing # Using npm npm ...
分类:
其他好文 时间:
2021-06-07 20:01:21
阅读次数:
0
2. zookeeper安装 2.1 镜像地址 镜像库地址:http://archive.apache.org/dist/zookeeper/ 我们可以看到,zk的版本是比较多的,我们在使用的时候,应该尽量避免最新的版本 因为新版本中或许会存在某些bug 新版本中的错误,你可能百度也搜不到 所以我们 ...
分类:
其他好文 时间:
2021-06-07 20:00:47
阅读次数:
0
HDFS客户端环境准备 1.根据拷贝编译后的hadoop jar包到非中文路径 2.配置HADOOP_HOME环境变量 3. 配置Path环境变量 4.创建一个Maven工程HdfsClientDemo 5.导入相应的依赖坐标+日志添加 <dependencies> <dependency> <gr ...
分类:
其他好文 时间:
2021-06-06 19:12:37
阅读次数:
0
MyBatis 本是apache的一个开源项目iBatis,它是一个持久层框架。后代码从apache迁移到google,改为MyBatis.MyBatis架构原理: 入门程序:1、导包 https://github.com/mybatis/mybatis-3/releases 2. 创建log4j. ...
分类:
其他好文 时间:
2021-06-06 19:07:49
阅读次数:
0
Flink 1.12.1 java.lang.NoClassDefFoundError: org/apache/flink/streaming/api/functions/source/SourceFunction 错误信息描述 使用Idea运行项目,抛出以下异常 java.lang.NoClass ...
分类:
其他好文 时间:
2021-06-06 18:47:58
阅读次数:
0