hadoop1.X架构 架构模型 分布式文件系统核心模块: namenode:集群中的主节点,管理元数据(文件的大小,文件的位置,文件的权限)。 secondaryNameNode:辅助namenode管理元数据信息。 dadanode:集群当中的从节点,主要存储集群中的各种数据。 分布式数据计算核 ...
分类：
其他好文 时间：
2020-12-28 11:29:22
阅读次数：
0
hive作为一个sql查询引擎，自带了一些基本的函数，比如count(计数)，sum(求和)，有时候这些基本函数满足不了我们的需求，这时候就要写hive hdf(user defined funation)，又叫用户自定义函数。 UDF 创建与使用步骤 继承org.apache.hadoop.hiv ...
分类：
其他好文 时间：
2020-12-25 13:07:42
阅读次数：
0
大数据量在MySQL中查询分页排序，数据量就会很大 我们可以把limit与order by拆分为两个步骤 先根据条件 把limit、ordey by相关的数据的索引查出来，然后再根据索引查询具体的字段信息（也就是两层嵌套） 例： select id, user_name, id, user_name ...
分类：
数据库 时间：
2020-12-25 13:04:20
阅读次数：
0
一. 前期准备 1. Vmware workstation pro 16 官网下载 : https://www.vmware.com/ 密钥：ZF3R0-FHED2-M80TY-8QYGC-NPKYF （若失效请自行百度） 2. xshell,xftp 官网下载（需要注册） 3. 国内镜像网站下载c ...
Yarn将用TypeScript重写，Flow惨遭亲爹抛弃！整理｜覃云今天，Yarn官方团队在GitHubissue中宣布将对Yarn进行重大更改，主要包括：将代码库从Flow移植到TypeScript，不再支持Node4和Node6，并为Yarn新增了一些功能等，这个更改项目代号为Berry，目的是增强Yarn优势，弥补弱势。Yarn是Facebook开源的一款号称代替npm的js包管理工具，相
分类：
其他好文 时间：
2020-12-24 12:38:25
阅读次数：
0
1.dubbo 协议 (默认) 1、采用单一长连接和NIO异步通讯，适合于小数据量大并发的服务调用，以及服务消费者机器数远大于服务提供者机器数的情况 2、不适合传送大数据量的服务，比如传文件，传视频等，除非请求量很低。 用场景：常规远程服务方法调用 特性 连接个数：单连接 连接方式：长连接 传输协议 ...
分类：
其他好文 时间：
2020-12-23 12:18:52
阅读次数：
0
最近项目上因为遇到数据量过大导致查询统计性能问题（oracle数据库、单表每月1亿多条车辆定位记录，由一个windows环境下的链路服务程序来接收车辆上传的定位数据写入oracle），急需使用大数据架构来解决。前期同事已经提出整体解决思路（修改链路服务程序，在写oracle的基础上同时写入kafka ...
图源：百度“对于活着的人来说，悲剧难以承受。”这是比尔盖茨对阿尔兹海默症的总结。记忆的衰退和丧失对于我们来说，总是无奈的。“如果爱人离世，你会将TA的记忆交给AI吗？”这是《奇葩说》第14期的辩题。《奇葩说》作为一个现象级的辩论综艺，从第一季到第六季，出现了很多AI相关的辩题，如“爱上人工智能算不上爱情？”、“大数据为你匹配了全世界最合适的人，要不要和他进行一次约会？”等，在节目中有不少感人的故事
分类：
其他好文 时间：
2020-12-23 11:51:04
阅读次数：
0
大数据治理的效果体现在数据存储成本是否降低、数据产出周期是否缩短、数据质量是否提高、数据量增长势头是否减缓等方面
分类：
其他好文 时间：
2020-12-22 12:40:03
阅读次数：
0
MapReduce详细工作流程之Map阶段 如上图所示 首先有一个200M的待处理文件 切片：在客户端提交之前，根据参数配置，进行任务规划，将文件按128M每块进行切片 提交：提交可以提交到本地工作环境或者Yarn工作环境，本地只需要提交切片信息和xml配置文件，Yarn环境还需要提交jar包；本地 ...
分类：
其他好文 时间：
2020-12-22 12:23:51
阅读次数：
0
