nginx请求处理流程nginx进程结构reload流程热升级流程worker进程优雅的关闭网络传输TCP流与报文TCP协议与非阻塞接口
分类：
其他好文 时间：
2020-11-30 15:53:46
阅读次数：
4
2. MAPREDUCE框架结构及核心运行机制 2.1 框架架构 一个完整的mapreduce程序在分布式运行时有三类实例进程：1、MRAppMaster(Mapreduce application master)：负责整个程序的过程调度及状态协调2、MapTask：负责map阶段的整个数据处理流程 ...
分类：
其他好文 时间：
2020-11-21 12:15:54
阅读次数：
6
Spark Streaming处理流程中，遇到某些批次耗时长的问题，排查思路
分类：
其他好文 时间：
2020-11-18 13:12:54
阅读次数：
8
前两天试了下 Flink SQL 写 Hive，对 Sink 部分写数据到 HDFS 的部分比较疑惑，特别是基于 checkpoint 的文件提交，所以看了下 StreamingFileSink 的源码（Flink SQL 写 hive 复用了这部分代码） StreamingFileSink 是 1 ...
分类：
其他好文 时间：
2020-11-01 20:49:03
阅读次数：
18
认知和学习Hadoop，我们必须得了解Hadoop的构成，我根据自己的经验通过Hadoop构件、大数据处理流程，Hadoop核心三个方面进行一下介绍： 一、 Hadoop组件 由图我们可以看到Hadoop组件由底层的Hadoop核心构件以及上层的Hadoop生态系统共同集成，而上层的生态系统都是基于 ...
分类：
其他好文 时间：
2020-10-29 10:11:31
阅读次数：
19
开源mongodb代码规模数百万行，本篇文章内容主要分析mongodb网络传输模块内部实现及其性能调优方法，学习网络IO处理流程，体验不同工作线程模型性能极致设计原理。另外一个目的就是引导大家快速进行百万级别规模源码阅读，做到不同大工程源码”举一反三”快速阅读的目的。
此外，mognodb网络工作线程模型设计非常好，不仅非常值得数据库相关研发人员学习，中间件、分布式、高并发、服务端等相关研发人员也可以借鉴，极力推荐大家学习。
分类：
数据库 时间：
2020-10-24 09:57:49
阅读次数：
25
部分内容直接摘抄阿里官网作为背景和概述：背景在实时数据业务场景中，最常见的链路是将实时采集的数据，通过实时计算初步清洗，实时写入数据至数据库，再对接BI工具实现数据的可视化分析。数据处理流程如下图所示。整个业务链路中，要求数据库提供高性能的计算服务，存储海量数据，同时对接多种BI分析工具。单一的数据库很难实现以上所有功能，您必须借助其他数据库的相关能力完成业务流程。在导入导出数据时会产生冗余存储，
分类：
其他好文 时间：
2020-10-05 22:00:02
阅读次数：
31
该原创文章首发于微信公众号：字节流动本文将利用FFmpeg对一个Mp4文件的视频流进行解码，然后使用libswscale将解码后的YUV帧转换为RGBA帧，最后使用ANativeWindow进行渲染。FFmpeg视频解码参考雷霄骅博士的音视频处理流程图，我们大概了解了本节的处理流程：（Mp4文件）解协议->解封装->视频解码->缩放或格式转换->渲染。关于FFmpeg需要了
用户行为日志分析是实时数据处理很常见的一个应用场景，比如常见的PV、UV统计。本文将基于Flink从0到1构建一个用户行为日志分析系统，包括架构设计与代码实现。本文分享将完整呈现日志分析系统的数据处理链路，通过本文，你可以了解到：基于discuz搭建一个论坛平台Flume日志收集系统使用方式Apache日志格式分析Flume与Kafka集成日志分析处理流程架构设计与完整的代码实现项目简介本文分享会
分类：
其他好文 时间：
2020-09-11 16:03:01
阅读次数：
41
USDT跑分是借助与高精尖的区块链技术来实现数字货币跑分支付的一种全新商业模式，代理商只需要向平台充值一定的USDT作为押金，平台就会成为为其合成一个多功能的聚合收款码，而充值玩家通过支付方的对接，将法币打给个人承兑商，承兑商确认到账，将币放行支付方（担保者），确认到账后结算商户通过AIP数据接口，展现聚合码回调，给客户上积分，同事代理商即可获利一定比例的收款佣金。
分类：
其他好文 时间：
2020-09-04 17:43:28
阅读次数：
80
