非阻塞的程序 应该保障的一些特性 : 等待无关性wait-free:能确保每次的调用在有限的步数之内完成,不管其他调用的步骤有多少。杀掉几个线程 锁无关性lock-free:执行这段程序的某些线程会被延迟,但必须确保至少...
分类:
其他好文 时间:
2014-07-22 09:10:35
阅读次数:
374
介绍略 集群安装: 一.准备工作: 1.版本介绍: 目前我们使用版本为kafka_2.9.2-0.8.1(scala-2.9.2为kafka官方推荐版本,此外还有2.8.2和2.10.2可以选择) 2.环境准备: 安装JDK6,目前使用版本为1.6,并配置JAV...
分类:
其他好文 时间:
2014-07-21 10:25:51
阅读次数:
173
这是一个神奇的语言。安装环境就够折腾了,居然还挑eclipse,最新的4.4居然不支持,要用4.3.2第一张都是些简单的概念介绍,但是通过第一张可以看出scala和其他语言的语法上存在较大的区别(当然根据我的知识范围也就是指的c#,Java)关键点:1.Scala中,我们不需要包装类型。 读到这里时...
分类:
其他好文 时间:
2014-07-19 14:16:06
阅读次数:
223
Sticks时间限制:3000ms | 内存限制:65535KB难度:5描述George took sticks of the same length and cut them randomly until all parts became at most 50 units long. Now he...
分类:
其他好文 时间:
2014-07-19 11:27:30
阅读次数:
264
DescriptionGeorge took sticks of the same length and cut them randomly until all parts became at most 50 units long. Now he wants to return sticks to ...
分类:
其他好文 时间:
2014-07-18 15:28:57
阅读次数:
234
until循环语法格式:untilCONDITION
do
statement
done
说明:
until进入循环的条件是:condition不成立时,就执行循环。
until进入循环的条件正好和while相反,while进入循环的条件是:condition成立时,就进入循环。示例1:while循环[root@Server3Learn]#catwhile.sh
#!/bin/b..
分类:
其他好文 时间:
2014-07-18 13:12:34
阅读次数:
196
1.pthread_create function creates thread that share the same memory with the process.2.pthread_join function wait for threads until they stop3.The pth...
分类:
系统相关 时间:
2014-07-18 00:19:54
阅读次数:
317
因为Spark的缘故,我们来看看另外一门语言——Scala,为什么要看这门语言呢?唉~其实你不看也没关系,只不过spark的内核就是用Scala写的,spark也提供其他语言的编程模型....看自己爱好啦~
1、下载
地址:http://www.scala-lang.org/download/2.11.1.html
下载安装即可,这没什么好说的,如果不会,那我建议你也不要做开发了,回家...
分类:
系统相关 时间:
2014-07-16 17:36:24
阅读次数:
263
Catalyst定位
其他系统如果想基于Spark做一些类sql、标准sql甚至其他查询语言的查询,需要基于Catalyst提供的解析器、执行计划树结构、逻辑执行计划的处理规则体系等类体系来实现执行计划的解析、生成、优化、映射工作。
对应上图中,主要是左侧的TreeNodelib及中间三次转化过程中涉及到的类结构都是Catalyst提供的。至于右侧物理执行计划映射生成过程,物理执行计划基于成本的优化模型,具体物理算子的执行都由系统自己实现。
Catalyst现状
在解析器方面提供的是一个简单的scala...
分类:
数据库 时间:
2014-07-16 17:34:38
阅读次数:
391
程序功能:收集顶点指向的邻居中所在地
/*
* 找出每个顶点所指向的邻居中所在的地区
*/
import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.apache.spark.SparkConf
import scala.collection.mutable.Map
impor...
分类:
其他好文 时间:
2014-07-16 16:34:28
阅读次数:
299