编程开发本质是运用程序和计算机来解决现实中的各种问题,因此,编程开发人员的才智发挥载体是计算机或者说计算设备,直接武器是程序。难度:中级程序员用来进行编程开发所需要的技能,归结起来主要如下:理解计算模型和框架:顺序计算、并发计算(并行计算、分布式计算)。理解应用所基于的计算模型和框架是非常重要的。传统应用通常基于顺序计算,而现代商业应用,比如云计算,通常基于分布式计算架构;大规模的科学计算应用,比
分类:
其他好文 时间:
2019-08-31 14:57:32
阅读次数:
97
好程序员大数据学习路线Hadoop学习干货分享,ApacheHadoop为可靠的,可扩展的分布式计算开发开源软件。ApacheHadoop软件库是一个框架,它允许使用简单的编程模型跨计算机群集分布式处理大型数据集(海量的数据)。包括这些模块:HadoopCommon:支持其他Hadoop模块的常用工具。Hadoop分布式文件系统(HDFS?):一种分布式文件系统,可提供对应用程序数据的高吞吐量
分类:
其他好文 时间:
2019-08-27 17:06:02
阅读次数:
85
Hadoop 是什么 Hadoop 是一个开源的大数据框架同时也是一个分布式计算的解决方案。Hadoop = HDFS (分布式文件系统)+MapReduce(分布式计算) HDFS HDFS 概念 数据块 NameNode DataNode 数据块: 数据块是一个抽象的块,而不是整个文件。默认大小 ...
分类:
其他好文 时间:
2019-08-25 12:00:12
阅读次数:
120
Hadoop: 适合大数据的分布式存储和计算平台
现为Apache顶级开源项目,Hadoop不是指具体一个框架或者组件,它是Apache软件基金会下用Java语言开发的一个开源分布式计算平台。实现在大量计算机组成的集群中对海量数据进行分布式计算,适合大数据的分布式存储和计算平台。 ...
分类:
其他好文 时间:
2019-08-24 10:08:07
阅读次数:
82
一、NoSQL简介1、NoSQL概念NoSQL(NotOnlySQL),意即"不仅仅是SQL"。对不同于传统的关系型数据库的数据库管理系统的统称。NoSQL用于超大规模数据的存储。这些类型的数据存储不需要固定的模式,无需多余操作就可以横向扩展。2、NoSQL的优点/缺点--优点:高可扩展性分布式计算低成本架构的灵活性,半结构化数据没有复杂的关系--缺点:没有标准化有限的查询功能
分类:
数据库 时间:
2019-08-22 23:56:02
阅读次数:
209
一、gRPC的概念 gRPC是Google推出的一个开源高性能的轻量级RPC框架,可以在任何环境中运行。它可以有效地连接数据中心内和跨数据中心的服务,并提供可插拔的支持,以实现负载平衡,跟踪,健康检查和身份验证。它还适用于分布式计算的最后一英里,用于将设备,移动应用程序和浏览器连接到后端服务。 与许 ...
分类:
其他好文 时间:
2019-08-21 15:15:10
阅读次数:
129
概念介绍 CDH概览 CDH是Apache Hadoop和相关项目的最完整、最受测试和最流行的发行版。CDH提供Hadoop的核心元素 可伸缩存储和分布式计算 以及基于web的用户界面和重要的企业功能。CDH是Apache许可的开放源码,是唯一提供统一批处理、交互式SQL和交互式搜索以及基于角色的访 ...
分类:
其他好文 时间:
2019-08-21 12:11:25
阅读次数:
119
MessagePack 比MsgPack-Cli快10倍,并且优于其他C#序列化器。MessagePack for C#还内置了对LZ4压缩的支持 - 一种极快的压缩算法。对于性能追求很重要,特别是在游戏开发,分布式计算,微服务架构和缓存等应用程序中。 开源地址:https://github.com ...
分类:
其他好文 时间:
2019-08-19 09:29:48
阅读次数:
159
1.什么是Hadoop? Hadoop是一款进行数据处理和分析的软件,包含HDFS(分布式文件存储系统),MapReduce(分布式计算框架),Yarn(分布式资源调度任务分配框架)。 Hadoop来源于谷歌2003-2004年发布的三篇论文,基于这三篇论文doug cutting( 来自 luce ...
分类:
其他好文 时间:
2019-08-18 14:02:04
阅读次数:
112
1.hadoop前世今生: 1) 搜索引擎:网络爬虫+索引服务器(生成索引+检索) 2) Doung Cutting 3) Nutch a.分布式存储 b.分布式计算 4)GFS论文 doung cutting写了hdfs 2.hadoop概述 hadoop common:提供网络通信 hadoop ...
分类:
其他好文 时间:
2019-08-16 00:34:16
阅读次数:
122