YARN总体上仍然是Master/Slave结构,在整个资源管理框架中,ResourceManager为Master,NodeManager为Slave,ResouceManager负责对各个NodeManager上的资源进行统一管理和调度。当用户提交一个应用程序时,需要提供一个用以跟踪和管理这个程...
分类:
其他好文 时间:
2014-06-02 22:20:44
阅读次数:
377
1.
进程标识符:每个进程都有一个非负整型表示的唯一进程ID。但进程ID可以重用,当一个进程终止之后,其进程ID就可以再次被重用了。UNIX系统中常常有一些专用的进程:ID为0的进程通常是调度进程,常常被称为交换进程(swapper),该进程是内核的一部分,它并不执行磁盘上的任何程序,因此也被称为系...
分类:
其他好文 时间:
2014-06-02 17:22:12
阅读次数:
321
批处理bat脚本编写(附详细例子)
由于在项目开发的过程中经常需要编写bat脚本,而看大牛们编写的bat脚本简直一头雾水,木有办法,作为bat菜鸟的我只有通过最最简单的例子来熟悉bat脚本中的常用命令,由此来开启我的bat脚本学习之路....
1.常用命令举例
a.创建文件夹: md D:\mybat //将在D盘下...
分类:
其他好文 时间:
2014-06-02 04:52:54
阅读次数:
261
hadoop yarn的重构,根本的思想是将 JobTracker 两个主要的功能分离成单独的组件,这两个功能是资源管理和任务调度 / 监控。新的资源管理器全局管理所有应用程序计算资源的分配,每一个应用的 ApplicationMaster 负责相应的调度和协调。一个应用程序无非是一个单独的传统的 MapReduce 任务或者是一个 DAG( 有向无环图 ) 任务。ResourceManager 和每一台机器的节点管理服务器能够管理用户在那台机器上的进程并能对计算进行组织。...
分类:
其他好文 时间:
2014-06-02 02:27:16
阅读次数:
332
现实生活中,我们每个人的能力是有限的,总有一些事情让我们束手无策,我们就可以找别人来帮忙,帮我们的这个人称之为代理。下面让我们看一下代理模式的概念:
代理模式(Proxy):为其他对象提供一种代理以控制对这个对象的访问。
根据爱因斯坦的相对性,凡事有利必有弊,做事要有度。代理模式运用的好就可以节省内存,保障了用户安全,方便调度。运用的不好,就成了九曲十八弯,费力不讨好。不过相信一点,存在必合理,虽然现在我们只能它有一个初步的了解,不怕不知道,就怕不知道,总有一天会有它的用武之地!...
分类:
其他好文 时间:
2014-06-01 18:13:07
阅读次数:
352
前言:
进程的概念包含了两个不同的特点:1.资源所有权;2.调度/执行能力;
既然这两个特点是独立的,那么操作系统应该能够独立地处理它们,这就引出了线程的概念。为区分这两个特点,我们把分派的单位称为线程或者轻量级进程,而把拥有资源所有权的单位通常仍称为进程。
线程的概念:
指操作系统在单个进程内支持多个并发执行路径的能力。
线程的优点:
1....
分类:
编程语言 时间:
2014-06-01 17:27:47
阅读次数:
451
本章要点: 基础:进程描述及控制 策略:进程调度 实现:互斥与同步 避免:死锁与饥饿进程定义:
可并发执行的程序,在一个数据集合上的运行过程; 申请/拥有资源的最小单位; 程序定义:静态概念,是指令和数据的集合,可长期存储; 进程与程序对应关系:
一个程序可以对应一个进程或者多个进...
分类:
其他好文 时间:
2014-06-01 12:09:07
阅读次数:
210
造成开销的操作包括:
1. 线程之间的协调(例如:锁、触发信号以及内存同步等)
2. 增加的上下文切换
3. 线程的创建和销毁
4. 线程的调度
一、对性能的思考
1 性能与可伸缩性
运行速度涉及以下两个指标:
某个指定的任务单元需要“多快”才能处理完成、计算资源一定的情况下,能完成“多少”工作。
可伸缩性:
当增加计算资源时(例如:CPU、内存、存储容器或...
分类:
编程语言 时间:
2014-06-01 09:56:52
阅读次数:
271
来自维基百科
堆
堆(英语:heap) 亦被称为:优先队列(英语:priority queue),是计算机科学中一类特殊的数据结构的统称。
堆通常是一个可以被看做一棵树的数组对象。在队列中,调度程序反复提取队列中第一个作业并运行,因而实际情况中某些时间较短的任务将等待很长时间才能结束,或者某些不短小,但具有重要性的作业,同样应当具有优先权。堆即为解决此类问题设计的一种数据结构。
逻辑定...
分类:
其他好文 时间:
2014-06-01 05:01:13
阅读次数:
279