本文目的本文通过例子讲解linux环境下,使用php进行并发任务处理,以及如何通过pipe用于进程间的数据同步。PHP多进程通过pcntl_XXX系列函数使用多进程功能。注意:pcntl_XXX只能运行在php CLI(命令行)环境下,在web服务器环境下,会出现无法预期的结果,请慎用!管道PIPE ...
分类:
Web程序 时间:
2020-01-05 22:04:18
阅读次数:
111
HDFS架构概述 HDFS(Hadoop Distributed File System)的架构 2.5.3 MapReduce架构概述 MapReduce将计算过程分为两个阶段:Map和Reduce,如图2-25所示 1)Map阶段并行处理输入数据 2)Reduce阶段对Map结果进行汇总 图中涉 ...
分类:
其他好文 时间:
2019-12-27 21:42:53
阅读次数:
71
基础 首先需要清楚几个基本概念,锁定对于避免因两个并发用户同时更新相同数据而导致的更新冲突至关重要。 并发:系统能够同时并行处理很多请求; 同步和异步:同步是指服务一次指做一件事;异步是做某一件时,不需要一直等待结果,可以先去做其他事情,等到有结果了,在去继续其业务;在同步时针对某一数据,可以直接进 ...
分类:
其他好文 时间:
2019-12-26 21:37:38
阅读次数:
94
SpringBatch 是一个大数据量的并行处理框架。通常用于数据的离线迁移,和数据处理,?持事务、并发、流程、监控、纵向和横向扩展,提供统?的接?管理和任务管理;考虑易用性、可扩展性,灵活性,可编程性,Spring Batch会比较适合有点编程基础(特别是使用Spring及SpringBoot框架... ...
分类:
其他好文 时间:
2019-12-22 14:54:04
阅读次数:
91
基本概念:人工智能,机器学习,深度学习,强化学习的区别和简介 机器学习(Machine Learning)是实现人工智能的一种手段.也是目前被认为比较有效的实现人工智能的手段.目前在业界使用机器学习比较突出的领域很多,例如计算机视觉,自然语言处理,推荐系统,文本分等,大家生活中经常用到的比如高速上E ...
分类:
其他好文 时间:
2019-12-20 20:57:56
阅读次数:
149
SpringBatch 是一个大数据量的并行处理框架。通常用于数据的离线迁移,和数据处理,?持事务、并发、流程、监控、纵向和横向扩展,提供统?的接?管理和任务管理;SpringBatch是SpringSource和埃森哲为了统一业界并行处理标准为广大开发者提供方便开发的一套框架。官方地址:githu... ...
分类:
编程语言 时间:
2019-12-16 10:04:32
阅读次数:
105
jdk8新特性 Lambda 表达式 Lambda允许把函数作为一个方法的参数(函数作为参数传递进方法中。方法引用 ? 方法引用提供了非常有用的语法,可以直接引用已有Java类或对象(实例)的方法或构造器。与lambda联合使用,方法引用可以使语言的构造更紧凑简洁,减少冗余代码。 默认方法 默认方法 ...
分类:
其他好文 时间:
2019-12-10 12:58:19
阅读次数:
115
MapReduce简介MapReduce是面向大数据并行处理的计算模型、框架和平台,它隐含了以下三层含义: 1)MapReduce是一个基于集群的高性能并行计算平台(Cluster Infrastructure)。它允许用市场上普通的商用服务器构成一个包含数十、数百至数千个节点的分布和并行计算集群。 ...
分类:
其他好文 时间:
2019-12-07 01:25:25
阅读次数:
158
服务器硬件CPU:进行运算处理/进行硬件控制CPU路数:服务器CPU颗数CPU核数:服务器CPU核心数核心处理服务器系统任务/并行处理任务能力风扇:散热、为电脑起到降温效果内存:临时存储数据信息程序:开发人员编写好的代码信息进程:运行起来的程序就会产生进程守护进程:一旦运行起来根本停不下来缓冲:buffer:乘客(数据)--排队空间-内存(缓冲区)--地铁里面空间(硬盘存储)写缓冲缓存:cache
分类:
其他好文 时间:
2019-12-05 21:48:48
阅读次数:
136
2019年11月25日一.课程知识概述部分服务器硬件组成部分(了解)服务器存储数据原理(了解)服务器硬件工作原理(了解)服务器硬件性能对比(了解)服务器操作系统介绍二.知识回顾服务器分类服务器硬件组成三.服务器硬件详细说明CPU路数:服务器中CPU颗数核心:服务器并行处理任务能力磁盘接口:决定读取效率Sata(家用设备)→scsi→sas(服务器)种类:决定读取效率转速:决定存储效率家用:5.4k
分类:
系统相关 时间:
2019-12-02 01:04:58
阅读次数:
93