1、背景FastDFS是一款开源的、分布式文件系统(Distributed File System),由淘宝开发平台部资深架构师余庆开发。该开源项目的主页是 http://code.google.com/p/fastdfs 。可以通过fastdfs.sourceforge.net 下载。FastDF...
官方API链接地址:http://hadoop.apache.org/docs/current/一、什么是HDFS? HDFS(Hadoop distributed file system):Hadoop上面的通用的分布式文件系统,具有高容错,高吞吐量的特性,同时它也是Hadoop的核心。二、Had...
分类:
其他好文 时间:
2014-11-30 06:23:02
阅读次数:
164
比特币,一个互联网技术与货币发行相结合的产物,带给我们区块链技术和DAC(Distributed Autonomous Corporation分布式自治系统)思想。鲨鱼币(简称SAK)的诞生是基于比特币的技术原理,并在支付上更便捷丶更快速,交易的确认时间由比特币的10分钟左右缩短到20秒左右。自比特...
分类:
其他好文 时间:
2014-11-30 00:25:17
阅读次数:
240
RDD详解RDD(Resilient Distributed Datasets弹性分布式数据集),是spark中最重要的概念,可以简单的把RDD理解成一个提供了许多操作接口的数据集合,和一般数据集不同的是,其实际数据分布存储于一批机器中(内存或磁盘中)。当然,RDD肯定不会这么简单,它的功能还包括容...
分类:
其他好文 时间:
2014-11-29 15:54:31
阅读次数:
252
原文:在T-SQL语句中访问远程数据库(openrowset/opendatasource/openquery)1、启用Ad Hoc Distributed Queries
在使用openrowset/opendatasource前搜先要启用Ad Hoc Distributed Queries服务,...
分类:
数据库 时间:
2014-11-25 20:15:02
阅读次数:
221
Table of Contents 1 串行(Sequential) 2 并发(Concurrent) 3 并行(parallel) 4 分布式(distributed) 5 《编译点滴》评 1 串行(Sequential) 串行程序中,程序会顺序的执行每一条指令,在整个程序的运行...
分类:
其他好文 时间:
2014-11-24 17:26:37
阅读次数:
189
RDD(Resilient Distributed Datasets)弹性分布式数据集,是在集群应用中分享数据的一种高效,通用,容错的抽象,是Spark提供的最重要的抽象的概念,它是一种有容错机制的特殊集合,可以分布在集群的节点上,以函数式编操作集合的方式,进行各种并行操作。
RDD是只读的,不可变的数据集。RDD也是容错的,假如其中一个RDD坏掉,RDD中有记录之前的依赖关系,依赖关系中记录算...
分类:
其他好文 时间:
2014-11-23 21:44:22
阅读次数:
292
Jenkins分布式构建(Jenkins Distributed builds)
前言:
当自动化测试用例需要在多个PC机或虚拟机中执行时,如果在每个虚拟机中均搭建类似tomcat+jenkins的环境,将会造成例如每台虚拟机资源占用大、对环境的配置维护成本大等弊端,此时,就可以采用Jenkins分布式构建方式了。
一、Jenkins节点配置
1.Master配置
1)进入Maste...
分类:
其他好文 时间:
2014-11-23 17:34:43
阅读次数:
294
1背景介绍现今分布式计算框架像MapReduce和Dryad都提供了高层次的原语,使用户不用操心任务分发和错误容忍,非常容易地编写出并行计算程序。然而这些框架都缺乏对分布式内存的抽象和支持,使其在某些应用场景下不够高效和强大。RDD(Resilient Distributed Datasets弹性分布式数据集)模型的产生动机主要来源于两种主流的应用场景:Ø 迭代式算法:迭代式机器学习、图算法,包...
分类:
其他好文 时间:
2014-11-22 16:08:17
阅读次数:
392
goals andassumptionsGoogle file system shares the same goals as previous distributed file systems: 1. scalability 2. performance 3. reliability 4....
分类:
其他好文 时间:
2014-11-19 18:24:19
阅读次数:
260