本文引自吴超博客:http://www.superwu.cn/2014/02/12/1094/hadoop是分布式系统,运行在linux之上,配置起来相对复杂。hadoop2出来后,解决了hadoop1的几个固有缺陷,比如单点故障、资源利用率低、支持作业类型少等问题,结构发生了很大变化,是hadoo...
分类:
其他好文 时间:
2015-04-23 12:49:38
阅读次数:
150
0引言目前,我国一些地方利用从国外引进的农业节水灌溉系统,对于灌溉水平和水资源利用率的提高起到了一定的积极作用,但由于系统成本过高、参数标定不完整、缺乏相对应的高级决策功能、系统维护和更新难以保证等众多的问题限制了农业节水灌溉系统的使用和大面积推广。针对目前..
分类:
其他好文 时间:
2015-04-18 06:30:44
阅读次数:
144
线程的基本概念线程的引入 如果说,在操作系统中引入进程的目的,是为了使多个程序能并发执行,以提高资源利用率和系统吞吐量,那么,在操作系统中再引入线程,则是为了减少程序在并发执行时所付出的时空开销,使 OS具有更好的并发性。为了说明这一点,我们首先来回顾进程的两个基本属性:
① 进程是一个可拥有资源的独立单位;
② 进程同时又是一个可独立调度和分派的基本单位。正是由于进程有这两个基本...
分类:
编程语言 时间:
2015-04-13 14:48:30
阅读次数:
185
0引言目前,我国一些地方利用从国外引进的农业节水灌溉系统,对于灌溉水平和水资源利用率的提高起到了一定的积极作用,但由于系统成本过高、参数标定不完整、缺乏相对应的高级决策功能、系统维护和更新难以保证等众多的问题限制了农业节水灌溉系统的使用和大面积推广。针对目前..
分类:
其他好文 时间:
2015-04-12 06:54:54
阅读次数:
138
Yarn资源调度器
1、Capacity scheduler
设计目的:以队列为单位划分资源,旨在让分布式集群资源被多用户共享,被多application共享,不同队列间可以动态迁移资源,避免资源被单个应用或单个用户独占,提高集群资源吞吐量和利用率。
核心思想:传统多个独立集群各占一组机器资源以备不时之需,拥有各自的管理开销,这通常导致比较差的资源利用率...
分类:
系统相关 时间:
2015-04-03 23:58:13
阅读次数:
419
BGP简介:边界网关协议(BGP)是一种运行于TCP自治系统(AS)区域间的路由协议。为什么要使用BGP:当企业与多个ISP(InternetServiceProvide)相连时,可以通过BGP策略路由选择来针对某些业务选择最优路由,提高资源利用率。当企业要求区别对待自己的数据流(也就是说企业网内部..
分类:
其他好文 时间:
2015-04-02 16:45:57
阅读次数:
249
使用线程池以获取最佳资源利用率Java 多线程编程论坛中最常见的一个问题就是各种版本的 "我怎么样才可以创建一个线程池?" 几乎在每个服务器应用里,都会出现关于线程池和工作队列的问题。本文中,Brian Goetz 就线程池原理、基本实现和调优技术、需要避开的一些常见误区等方面进行共享。为何要用线程池?有很多服务器应用,比如 Web 服务器,数据库服务器,文件服务器,或者邮件服务器,都会面对处理大...
分类:
编程语言 时间:
2015-02-13 20:01:18
阅读次数:
206
问题描述
在商业激烈竞争的今天,很多企业,特别是大型企业都应用了IT技术来提高企业竞争力,提高公司的运作效率与资源利用率等,而技术的更迭,业务变化等等造成了企业内部多种异构应用软件、平台、系统共存的局面。这些系统、平台可能使用不同的通信协议,或者是不同格式的数据,互相之间交换数据、通信显然十分困难。如果企业还需要与外部其他系统交互,则还面临着需要调查其他系统的结构,通信协议等...
分类:
其他好文 时间:
2015-02-01 00:40:41
阅读次数:
288
任务的定义大多数并发程序都是围绕任务进行管理的.任务就是抽象和离散的工作单元.任务的执行策略1.顺序的执行任务这种策略的特点是一般只有按顺序处理到来的任务.一次只能处理一个任务,后来其它任务都要等待处理.响应性很糟糕,吞吐量低.系统资源利用率低.2.显示的为任务创建线程为每个任务创建对应一个线程,响...
分类:
编程语言 时间:
2015-01-29 17:30:57
阅读次数:
175
这个模式所做的事情概括一下就是把多个不同的任务和操作合并到一个计算单元中,从而使云计算应用提高计算资源利用率,降低管理开销和任务之间连接交互的开销。
PS:我这里对后文中所翻译的“计算单元”做个小小的注释,这里的计算单元可以认为是逻辑的运行容器,可以是基于cgroup的各种container,也可以是像Storm中的worker,Spark中的Executor等等。这个模式除了在自己设计分布式系...
分类:
其他好文 时间:
2015-01-25 12:37:47
阅读次数:
333