最近在做企业安全建设,企业安全建设中最常见的一项就是做监控,监控的种类多种多样,但是底层的技术栈却基本是一致的————大数据技术,下面我记录一下我最近学习到的一些大数据技术,下文只是描述个脉络而已。 大数据的技术栈,以及对应的上下依赖图如下: 看完这个图,是不是觉得和之前学习过的网络协议、框架都非常 ...
分类:
其他好文 时间:
2020-07-30 14:38:23
阅读次数:
66
前面几篇文章把Hadoop常用的模块都学习了,剩下一个新模块Ozone,截止到今天最新版本是0.5.0Beta,还没出正式版。好在官方网站有文档,还是中文版的。 什么是Ozone Ozone 是 Hadoop 的分布式对象存储系统,具有易扩展和冗余存储的特点。 Ozone 不仅能存储数十亿个不同大小 ...
分类:
其他好文 时间:
2020-07-30 01:46:54
阅读次数:
117
互联网技术越来越多,因为具有非常不错的发展空间,随着大家对大数据、云计算的概念越来越熟悉,也慢慢融入到我们的生活中,更多人想要学习相关的技术,尤其是Linux云计算。那么什么是Linux云计算?学习Linux云计算可以做什么?为大家简单的介绍一下。
分类:
系统相关 时间:
2020-07-29 12:48:41
阅读次数:
157
互联网技术越来越多,因为具有非常不错的发展空间,随着大家对大数据、云计算的概念越来越熟悉,也慢慢融入到我们的生活中,更多人想要学习相关的技术,尤其是Linux云计算。那么什么是Linux云计算?学习Linux云计算可以做什么?为大家简单的介绍一下。
分类:
系统相关 时间:
2020-07-29 10:39:01
阅读次数:
93
NN-1 NN-2 DN ZK ZKFC JNN RS NM(和DN在一起) node0001 * * * node0002 * * * * * * node0003 * * * * * node0004 * * * * 1,修改配置文件 cd /opt/sxt/hadoop-2.6.5/etc/h ...
分类:
其他好文 时间:
2020-07-29 00:45:28
阅读次数:
156
第1章 Superset安装及使用 Apache Superset是一个开源的、现代的、轻量级BI分析工具,能够对接多种数据源、拥有丰富的图标展示形式、支持自定义仪表盘,且拥有友好的用户界面,十分易用。 由于Superset能够对接常用的大数据分析工具,如Hive、Kylin、Druid等,且支持自 ...
分类:
其他好文 时间:
2020-07-29 00:42:59
阅读次数:
103
1 hadoop集群安装 https://blog.csdn.net/shshheyi/article/details/84893371 1.1 修改主机名 [root@localhost ~]# vim /etc/hosts # 三台机器都需要操作 192.168.28.131 master 19 ...
分类:
其他好文 时间:
2020-07-29 00:41:18
阅读次数:
111
一、HDFS-HA集群配置 1.环境准备 1. 修改IP 2. 修改主机名及主机名和IP地址的映射 3. 关闭防火墙 4. ssh免密登录 5. 安装JDK,配置环境变量等 2.规划集群 hadoop102 hadoop103 hadoop104 NameNode NameNode JournalN ...
分类:
其他好文 时间:
2020-07-28 22:19:09
阅读次数:
77
最近在了解Azure云计算服务,发现里面有很多负载均衡类的服务,并且单从名字也无法知道各自是干什么的,我对此进行了简单的归纳,希望可以帮助大家有一个认识。介绍Azure的负载均衡器分为全球负载均衡器和区域负载均衡器。全球负载均衡器:服务跨区域后端、云或混合本地服务分布流量。这些服务将最终用户流量路由到最近的可用后端。它们还会对服务可靠性或性能的变化做出反应,以最大程度地提高可用性和性能。Traff
分类:
其他好文 时间:
2020-07-28 22:10:01
阅读次数:
87
Hive函数大全–完整版 现在虽然有很多SQL ON Hadoop的解决方案,像Spark SQL、Impala、Presto等等,但就目前来看,在基于Hadoop的大数据分析平台、数据仓库中,Hive仍然是不可替代的角色。尽管它的相应延迟大,尽管它启动MapReduce的时间相当长,但是它太方便、 ...
分类:
其他好文 时间:
2020-07-28 14:21:17
阅读次数:
191