无论对Spark集群,还是Hadoop集群等大数据相关的集群进行调优,对linux系统层面的调优都是必不可少的,这里主要介绍3种常用的调优和linux常见面试题 ...
分类:
系统相关 时间:
2020-10-20 16:23:11
阅读次数:
36
应急管理是国家治理体系和治理能力的重要组成部分,为提升深圳市应急管理现代化水平,在深圳市城市公共安全技术研究院统筹规划和业务引领下,北京百分点信息科技有限公司助力深圳市构建应急管理大数据治理平台,整合和统筹全市应急和安全领域的各类数据资源,为风险管控动态化、监测预警智能化提供基础数据支撑。百分点依托大数据全栈技术和多维数据融合分析能力,构建符合深圳应急管理需求的大数据治理体系。
分类:
其他好文 时间:
2020-10-19 22:54:56
阅读次数:
26
年薪200w+的大数据架构师领衔直播,以大数据实时数仓项目为中心,延展4大企业级项目+5大AI应用+6大热门专题,助你开启大数据高薪魔盒。课程优势及特色:1、整体架构:仅关注数仓内部细节-->兼顾数据采集、分布式存储、流计算、建模与实时构建、可视化开发端到端的整体解决方案2、数据采集:人肉管理schema-->统一数据采集解决方案:自动系统化管理schema3、流处理:大量流处理job
分类:
其他好文 时间:
2020-10-19 22:51:25
阅读次数:
22
年薪200w+的大数据架构师领衔直播,以大数据实时数仓项目为中心,延展4大企业级项目+5大AI应用+6大热门专题,助你开启大数据高薪魔盒。课程优势及特色:1、整体架构:仅关注数仓内部细节-->兼顾数据采集、分布式存储、流计算、建模与实时构建、可视化开发端到端的整体解决方案2、数据采集:人肉管理schema-->统一数据采集解决方案:自动系统化管理schema3、流处理:大量流处理job
分类:
其他好文 时间:
2020-10-19 22:51:11
阅读次数:
21
开源日志收集Exceptionless简单使用 weixin_30463341 2018-06-07 18:30:00 124 收藏 文章标签: python 大数据 java 版权 这两天在研究一个开源的日志收集工具Exceptionless 官网地址:https://exceptionless. ...
有些单位取个大数据的系统名称,但可能并没使用到大数据的技术或者并没有很大量的数据,这时不需要使用大数据扩展标准!! 重在逐步测试,步步递进,由浅到深!! 针对具体的操作系统、设备型号等开发具体详细的测评指导书,并在实际环境或仿真环境进行验证过,包括具体的命令是否能用,预期的结果是什么等等,要保证新人 ...
分类:
其他好文 时间:
2020-10-19 22:34:39
阅读次数:
27
NB-IoT是指窄带物联网(Narrow Band -Internet of Things)技术,是IoT领域一个新兴的技术,支持低功耗设备在广域网的蜂窝数据连接,也被叫作低功耗广域网(LPWA)。事实上,物联网的设备可以分为三种。 1、无需移动性,大数据量(上行),需较宽频段; 2、移动性强,需执 ...
分类:
其他好文 时间:
2020-10-18 16:23:33
阅读次数:
20
一、VectorAssembler package com.home.spark.ml import org.apache.spark.SparkConf import org.apache.spark.ml.feature.VectorAssembler import org.apache.spa ...
分类:
其他好文 时间:
2020-10-18 09:57:35
阅读次数:
15
1.用自己的图,描述HDFS体系结构、工作原理与流程。 2.伪分布式安装Hadoop (1)创建hadoop用户 (2)更新apt (3)安装SSH ,配置无密码SSH登录 (4)安装JAVA环境 (5)安装 Hadoop 2.7.1 (6)Hadoop伪分布式配置 (7)运行Hadoop伪分布式实 ...
分类:
其他好文 时间:
2020-10-18 09:54:43
阅读次数:
16
实验目的 ? 在 Linux(VM15pro/CentOS8) 环境下完成Hadoop-3.2.1伪分布式环境的搭建,并运行 Hadoop 自带的 WordCount 实例检测是否运行正常。 一、下载并配置java环境 ? Java 环境可选择 Oracle 的 JDK,或是 OpenJDK,现在一 ...
分类:
其他好文 时间:
2020-10-18 09:51:46
阅读次数:
25