21世纪,世界已经进入数据大爆炸的时代,大数据时代已经来临。从商业公司内部的各种管理和运营数据,到个人移动终端与消费电子产品的社会化数据,再到互联网产生的海量信息数据等,每天世界上产生的信息量正在飞速增长。2009年数据信息量达到8 000亿GB,而到2011年达到1.8 ZB。图灵奖获得者Jim ...
分类:
其他好文 时间:
2019-06-11 12:46:04
阅读次数:
108
5.3 NoSQL的四大类型 5.3.1 键值数据库和列族数据库 可以分为四大类产品:键值数据库,列族数据库,文档数据库,图数据库 (代表 1.键值数据库: 用的多:redis云数据库:SimpleDB典型应用:要求的数据模型非常简单,不涉及到存储结构化信息;要求非常好的写性能;涉及非常频繁的读写操 ...
分类:
数据库 时间:
2019-06-09 13:17:16
阅读次数:
236
什么是Hive Hive:由 Facebook 开源用于解决海量结构化日志的数据统计。 Hive 是基于 Hadoop 的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类 SQL 查询功能。 本质是:将 HQL 转化成 MapReduce 程序 1)Hive 处理的数据存储在 HDFS ...
分类:
其他好文 时间:
2019-06-09 09:28:32
阅读次数:
88
Log2Net是一个用于收集日志到数据库或文件的组件,支持.NET和.NetCore平台。 此组件自动收集系统的运行日志(服务器运行情况、在线人数等)、异常日志。程序员还可以添加自定义日志。 该组件支持.NET平台和.NETCore平台,支持将日志写入到文本文件、SQL Server、Oracle、 ...
分类:
Web程序 时间:
2019-06-09 00:47:09
阅读次数:
164
2.1 Hadoop概论 创始人:Doug Cutting 1.简介: 开源免费; 操作简单,极大降低使用的复杂性; Hadoop是Java开发的; 在Hadoop上开发应用支持多种编程语言、不限于Java; Hadoop两大核心:HDFS+MapReduce HDFS:海量数据存储 MapRedu ...
分类:
其他好文 时间:
2019-06-08 17:33:27
阅读次数:
104
腾讯云—腾讯倾力打造的云计算品牌,以卓越科技能力助力各行各业数字化转型,为全球客户提供领先的云计算、大数据、人工智能服务,以及定制化行业解决方案。 1、 腾讯云有着深厚的基础架构,并且有着多年对海量互联网服务的经验,不管是社交、游戏还是其他领域,都有多年的成熟产品来提供产品服务。腾讯在云端完成重要部 ...
分类:
其他好文 时间:
2019-06-06 19:20:54
阅读次数:
111
云计算环境下的数据中心、网络和系统架构 对于云计算而言,应着重从高端服务器、高密度低成本服务器、海量存储设备和高性能计算设备等基础设施领域提高云计算数据中心的数据处理能力。 云计算要求基础设施具有良好的弹性、扩展性、自动化、数据移动、多租户、空间效率和对虚拟化的支持。那么,云计算环境下的数据中心基础 ...
分类:
其他好文 时间:
2019-06-06 18:49:53
阅读次数:
110
easyTask 一个方便触发一次性或周期性任务执行的工具包,支持海量,高并发,高可用,宕机自动恢复任务 开源项目地址:https://github.com/liuche51/easyTask 请多多关注 Usage scenarios 需要精确到秒的某一时刻触发任务执行。比如订单交易完成24小时后 ...
分类:
其他好文 时间:
2019-06-05 19:57:17
阅读次数:
108
早在传统的单体应用时代,查看日志大都通过SSH客户端登服务器去看,使用较多的命令就是 less 或者 tail。如果服务部署了好几台,就要分别登录到这几台机器上看,等到了分布式和微服务架构流行时代,一个从APP或H5发起的请求除了需要登陆服务器去排查日志,往往还会经过MQ和RPC调用远程到了别的主机 ...
分类:
其他好文 时间:
2019-06-05 09:37:37
阅读次数:
74
结合理论和实践,《Hadoop权威指南第四版》由浅入深,全方位介绍了Hadoop 这一高性能的海量数据处理和分析平台。5部分24 章,第Ⅰ部分介绍Hadoop 基础知识,第Ⅱ部分介绍MapReduce,第Ⅲ部分介绍Hadoop 的运维,第Ⅳ部分介绍Hadoop 相关开源项目,第Ⅴ部分提供了三个案例。 ...
分类:
其他好文 时间:
2019-06-04 19:21:46
阅读次数:
317