https://segmentfault.com/a/1190000016351095 http://www.dengshenyu.com/java/%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E7%BB%9F/2017/10/23/zookeeper distribu ...
分类:
其他好文 时间:
2019-08-14 16:54:58
阅读次数:
55
首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统。它其实是将一个大文件分成若干块保存在不同服务器的多个节点中。通过联网让用户感觉像是在本地一样查看文件,为了降低文件丢失造成的错误,它会为每个小文件复制多个副本(默认为三 ...
分类:
其他好文 时间:
2019-08-13 00:53:23
阅读次数:
203
1 Design document 1.1 System overview We implemented a Book Finder System using a distributed hash table (DHT) based on the Chord protocol. Using this ...
分类:
其他好文 时间:
2019-08-10 17:25:49
阅读次数:
76
1 Design document 1.1 System overview We implemented a distributed file system using a quorum based protocol. The basic idea of this protocol is that ...
分类:
其他好文 时间:
2019-08-10 17:25:06
阅读次数:
70
在程序中,我们经常需要知道事件序列,在单体应用中,事件序列是较为简单的,最简单的办法就是用时间戳,但在分布式系统中,事件序列是很困难的, "Leslie Lamport" 大神在论文 "Time, Clocks, and the Ordering of Events in a Distributed ...
分类:
其他好文 时间:
2019-08-06 10:55:08
阅读次数:
126
HBase搭建 Fully distributed 1、搭建方式说明 2、搭建步骤 1、将集群中的所有节点的hosts文件配置完成 2、将集群中的所有节点的防火墙关闭 3、将集群中的所有节点的时间设置一致 4、将所有的节点设置免密钥登陆 5、解压hbase安装包 6、在/etc/profile文件中 ...
分类:
其他好文 时间:
2019-08-03 10:46:20
阅读次数:
73
1.DataParallel layers (multi-GPU, distributed) 1)DataParallel 实现模块级别的数据并行 该容器是通过在batch维度上将输入分到指定的device中来在给定的module应用上实现并行。在前向传播中,模块module将在每个设备device ...
分类:
其他好文 时间:
2019-08-01 20:12:16
阅读次数:
553
Hadoop的背景起源二:MapReduce 一、什么是大数据,本质? (1)数据的存储:分布式文件系统(分布式存储) > HDFS: Hadoop Distributed File System (2)数据的计算:分布式计算 二、如何解决大数据的计算?分布式计算 (1)什么是PageRank(Ma ...
分类:
其他好文 时间:
2019-07-12 11:24:48
阅读次数:
91
目录 1.概述 1 1.1 项目背景 1 客户端 3 Distributed Master 3 Worker Service 5 Kernel Implements 6 技术栈 7 一、 神经网络的实现过程 8 二、 前向传播 8 三、后向传播 10 四、搭建神经网络的过程 11 神经网络优化 12 ...
分类:
其他好文 时间:
2019-07-11 20:33:10
阅读次数:
171