前言
业务的日志ETL拉取框架一直存在很多问题,每次出现故障就导致手忙大乱,因此这次决心要对其进行大改造。这个ETL系统是基于Storm实现的,主要是依靠Spout拉取原始日志,Bolt进行处理再入库,为了提高吞吐量,采用了12个Bolt进行并行处理。旧算法由于没有使用Storm的ack特性,而且还是根据发送Tuple的hash值发送到对应的Bolt中,完全没有考虑好负载均衡问题...
分类:
编程语言 时间:
2016-05-13 03:16:34
阅读次数:
1184
元组是跟列表非常类似的一种容器类型,但是列表是可变的,形式是LIST[ ],元组是不可变的,形式为TUPLE( )。
1.创建元组。
元组的创建方法与列表类似,只有一点不同,元组内至右一个元素的时候需要在元素后面加上一个逗号(,)。因为元组的形式是用
小括号来包含元素的,但是小括号也是数学公式中的,所以会产生歧义,此时系统默认不是元组类型,所以需要加上逗号来区分。
>>> T...
分类:
编程语言 时间:
2016-05-13 02:26:59
阅读次数:
184
类型系统
强类型
我的理解就是类型越强,使用方法越接近数学的使用方法,也就越安全
静态类型
编译器在编译器知道值的类型,也就意味着不会出现runtime异常
自动推导
函数调用
形式为函数名 参数1 参数2 ...函数调用的优先级比一般的操作符要高,但是比括号低
符合数据类型->元组
和list不同的是tuple可以放不同类型的数据,但是长度固定
基本操作
列表操作
head获取第一...
分类:
其他好文 时间:
2016-05-12 12:59:05
阅读次数:
204
读取、写入和 Python 在 “探索 Python” 系列以前的文章中,学习了基本的 Python 数据类型和一些容器数据类型,例如tuple、string 和 list。其他文章讨论了 Python 语言的条件和循环特性,以及它们如何与容器数据类型进行协作来简化编程任务。编写程序的最后一个基本步 ...
分类:
编程语言 时间:
2016-05-11 07:12:50
阅读次数:
181
迭代器迭代器对象要求支持迭代器协议的对象,在Python中,支持迭代器协议就是实现对象的__iter__()和next()方法。其中__iter__()方法返回迭代器对象本身;next()方法返回容器的下一个元素,在结尾时引发StopIteration异常可迭代对象如果给定一个list或tuple,我们可以通过for循..
分类:
其他好文 时间:
2016-05-09 14:32:21
阅读次数:
140
什么是dict
我们已经知道,list 和 tuple 可以用来表示顺序集合,例如,班里同学的名字:
['Adam', 'Lisa', 'Bart']
或者考试的成绩列表:
[95, 85, 59]
但是,要根据名字找到对应的成绩,用两个 list 表示就不方便。
如果把名字和分数关联起来,组成类似的查找表:
'Adam' ==> 95
'Lisa' ==>...
分类:
编程语言 时间:
2016-05-07 11:18:51
阅读次数:
254
Python函数
(1)isinstance,来判断一个对象是否是一个已知的类型。
isinstance说明如下:
isinstance(object, class-or-type-or-tuple)-> bool
isinstance(x, (A, B, ...))
其第一个参数为对象,第二个为类型名或类型名的一个列表。其返回值为布尔型。
若对象的类型与参数二的类型相同则返...
分类:
编程语言 时间:
2016-05-07 11:16:55
阅读次数:
154
创建list
Python内置的一种数据类型是列表:list。list是一种有序的集合,可以随时添加和删除其中的元素。
比如,列出班里所有同学的名字,就可以用一个list表示:
>>> ['Michael', 'Bob', 'Tracy']
['Michael', 'Bob', 'Tracy']
list是数学意义上的有序集合,也就是说,list中的元素是按照顺序排列的...
分类:
编程语言 时间:
2016-05-07 10:46:24
阅读次数:
242
什么是迭代在Python中,如果给定一个list或tuple,我们可以通过for循环来遍历这个list或tuple,这种遍历我们成为迭代(Iteration)。在Python中,迭代是通过 for … in 来完成的,而很多语言比如C或者Java,迭代list是通过下标完成的,比如Java代码:for (i=0; i<list.length; i++) {
n = list[i];
}可以看...
分类:
编程语言 时间:
2016-05-07 09:30:20
阅读次数:
211
什么是dict我们已经知道,list 和 tuple 可以用来表示顺序集合,例如,班里同学的名字:[‘Adam’, ‘Lisa’, ‘Bart’]
或者考试的成绩列表:[95, 85, 59]
但是,要根据名字找到对应的成绩,用两个 list 表示就不方便。如果把名字和分数关联起来,组成类似的查找表:‘Adam’ ==> 95
‘Lisa’ ==> 85
‘Bart’ ==> 59
给定一...
分类:
编程语言 时间:
2016-05-07 09:07:39
阅读次数:
291