提供大规模、标准化、统一且易于使用的云渲染服务对于整个渲染行业来说都是一个难题。赞奇科技凭借定制化的服务器、分布式存储和灵活的业务模式,在云渲染服务市场上找到了自己的定位。赞奇科技发展有限公司(以下简称赞奇科技)是国内一家专业从事三维图形云渲染服务的公司,目..
分类:
其他好文 时间:
2014-07-25 11:33:42
阅读次数:
445
##分布式存储中的应用 --- 在分布式存储系统中,将数据分布至多个节点的方式之一是使用哈希算法。假设初始节点数为 N,则传统的对 N 取模的映射方式存在一个问题在于:当节点增删,即 N 值变化时,整个**哈希表*...
分类:
其他好文 时间:
2014-07-22 08:22:37
阅读次数:
155
《大规模分布式存储系统:原理解析与架构实战》读书笔记:之前研究了Bitcask存储模型,今天来看看LSM存储模型,两者虽然同属于基于键值的日志型存储模型。但是Bitcask使用哈希表建立索引,而LSM使用跳跃表建立索引。这一差别导致了两个存储系统的构造出现明显的分化。为此,我还先去捣腾了一番跳跃表的实现.今天算是进入了正题。...
分类:
其他好文 时间:
2014-07-21 13:37:46
阅读次数:
296
一、Hadoop构造模块
运行Hadoop的意思其实就是运行一组守护进程(daemons),每个进程都有各自的角色,有的仅运行在单个服务器上,有的则运行在集群多个服务器上,它们包括:
NameNodeSecondary NameNodeDataNodeJobTrackerTaskTracker
Hadoop是一个分布式存储与计算系统,分布式存储部分是HDFS,分布...
分类:
其他好文 时间:
2014-07-19 02:31:56
阅读次数:
188
??
本文介绍下分布式系统设计中的一些关键问题及解决思路:
数据的分布方式
副本的保存方式
副本的控制
节点状态监控
1)数据的分布方式
hash分布
用于key-value模型的存储系统中,数据库中的分表也可以使用这种方式。
利用hash函数将对象散列到不同的机器。
优点:
散列型号,分布均匀,实现简单。
缺点
可扩展性(scalability)不强,增加新的机...
分类:
其他好文 时间:
2014-07-19 02:31:15
阅读次数:
246
《大规模分布式存储系统:原理解析与架构实战》读书笔记 :在了解了Bitcask存储模型后,又开始研究LSM树存储引擎。LSM在实现的过程中使用了一个很有意思的数据结构:跳跃表。之前在《算法导论公开课》中听过这一节。当时感觉这种结构和二叉树简直是殊途同归,但是一直没有亲自动手实现过。这次又遇到了,就来实现试试看。话说跳跃表和各种平衡树一样,都是用来加速查询的。要随手实现一个B树不容易,但是实现一个跳跃表就简单很多。...
分类:
其他好文 时间:
2014-07-18 23:08:17
阅读次数:
411
一个大型的网站网站应该由如下6个子系统组成负载均衡系统反向代理系统Web服务器系统分布式存储系统底层服务系统数据库集群系统为什么要做高并发系统设计?事实上,针对于任何单一的网络服务器程序,其可承受的同时连接数目是有理论峰值的,通过C++中对TSocket的定义类型:word,我们可以判 定这个连接理...
分类:
Web程序 时间:
2014-07-16 19:04:48
阅读次数:
240
HDFS和MapReduce是Hadoop的两大核心。而整个Hadoop的体系结构主要是通过HDFS来实现对分布式存储的底层支持的,并且它会通过MapReduce来实现对分布式并行任务处理的程序支持。
分类:
其他好文 时间:
2014-07-16 16:11:21
阅读次数:
275
----《大规模分布式存储系统:原理解析与架构实战》读书笔记
最近一直在分析OceanBase的源码,恰巧碰到了OceanBase的核心开发者的新作《大规模分布式存储系统:原理解析与架构实战》.看完样章后决定入手,果然物有所值。对于准备学习分布式的同学,这是一本不错的书籍,相对系统,全面的介绍了分布式的相关技术和项目,基本都是干货。还有一半是在介绍OceanBase的内容,对我来说,正是...
分类:
其他好文 时间:
2014-07-14 13:59:05
阅读次数:
228
tair 是淘宝自己开发的一个分布式 key/value 存储引擎. tair 分为持久化和非持久化两种使用方式. 非持久化的 tair 可以看成是一个分布式缓存. 持久化的 tair 将数据存放于磁盘中. 为了解决磁盘损坏导致数据丢失, tair 可以配置数据的备份数目, tair 自动将一份数据的不同备份放到不同的主机上, 当有主机发生异常, 无法正常提供服务的时候, 其余的备份会继续提供服务.
目录
1. 简介
2. 安装步骤及问题小记
3. 部署配置
4. Java客户端测试
5. 参考资料...
分类:
编程语言 时间:
2014-07-10 22:48:57
阅读次数:
401