什么是Fork/Join框架 Fork/Join框架是Java7提供了的一个用于并行执行任务的框架, 是一个把大任务分割成若干个小任务,最终汇总每个小任务结果后得到大任务结果的框架。 我们再通过Fork和Join这两个单词来理解下Fork/Join框架,Fork就是把一个大任务切分为若干子任务并行的 ...
分类:
编程语言 时间:
2019-11-28 19:38:31
阅读次数:
77
a = "1,2,3,4,5,6,7,8" b = a.split(",") print(b) print(type(b)) """ ['1', '2', '3', '4', '5', '6', '7', '8'] <class 'list'> """ ...
分类:
其他好文 时间:
2019-11-27 00:22:11
阅读次数:
64
1、hdfs是通过分布式集群来存储文件,为客户端提供了一个便捷的访问方式,就是一个虚拟的目录结构2、文件存储到hdfs集群中去的时候是被切分成block的3、文件的block存放在若干台datanode节点上4、hdfs文件系统中的文件与真实的block之间有映射关系,由namenode管理5、每一 ...
分类:
其他好文 时间:
2019-11-25 20:52:22
阅读次数:
77
随着开发周期的推移,项目会不断变大,切分出的服务也会越来越多,这时一个个的微服务构成了错综复杂的系统。对于各个微服务系统的健康状态、会话数量、并发数、服务资源、延迟等度量信息的收集就成为了一个挑战。Spring Boot Admin 应运而生,它正式基于这些需求开发出的一套功能强大的监控管理系统。 ...
分类:
编程语言 时间:
2019-11-24 00:02:59
阅读次数:
102
背景在互联网初创时期,企业往往采用单体架构去搭建自己的应用系统,但是,随着企业的不断壮大,系统访问量不断随之上升,数据量也急剧增长。数据的存储是首先要解决的问题,在这个大数据时代,数据就是企业的命根子,数据库的单体架构很难满足数据的存储,这时,我们要对数据进行切分,数据的切分又分为垂直切分和水平切分。数据切分和数据库架构在数据切分之前,我们的所有业务都放在一个数据库中,比如:我们的用户业务,商品业
分类:
数据库 时间:
2019-11-14 20:07:55
阅读次数:
87
还是以经典案例Wordcount为例: 逻辑思路: 1.先把文本按空格切分成每个单词 flatMap() 2.将每个单词都转换成Tuple2类型(hello ,1) map() 3.将key相同的次数相加(hello , 5) reduceByKey() 4.将(hello , 5) 反转成(5 , ...
分类:
编程语言 时间:
2019-11-12 00:47:45
阅读次数:
85
03 数据特征预处理 特征的预处理 特征的预处理 1. 定义:通过特定的统计方法(数学方法),将数据转换成算法要求的数据。 2. 数值型数据:标准缩放 归一化 标准化 3. 类别性数据: one hot编码 4. 时间类型: 时间的切分 归一化 1. 定义: 通过对原始数据的变化把数据映射到 [0, ...
分类:
其他好文 时间:
2019-11-09 22:08:32
阅读次数:
106
Python 切分数组 将一个数组,均分为多个数组 代码 输出 ...
分类:
编程语言 时间:
2019-11-07 11:27:46
阅读次数:
97
python数据类型及其内置方法 一、整型:主要用于数学运算 其他进制 >转十进制 """ 其他进制转换为十进制 通过int('x进制数',x)实现 """ a = int('110', 2) print(a) # 6 b = int('7731', 8) print(b) # 4057 c = i ...
分类:
其他好文 时间:
2019-11-05 18:23:44
阅读次数:
92
一.jieba模块基本介绍 jieba是优秀的第三方中文词库 中文分词(Chinese Word Segmentation) 指的是将一个汉字序列切分成一个一个单独的词。分词就是将连续的字序列按照一定的规范重新组合成词序列的过程 二.jieba库的使用说明 精确模式:将句子最精确的分开,适合文本分析 ...
分类:
其他好文 时间:
2019-11-01 18:24:16
阅读次数:
385