码迷,mamicode.com
首页 >  
搜索关键字:scala bigdata 大數據 spark    ( 10680个结果
The Road to SDN: An Intellectual History of Programmable Networks (四)
2.3 OpenFlow and Network OSes 单词学习 翻译 In the mid-2000s, researchers and funding agencies gained interest in the idea of network experimentation at sca ...
分类:Web程序   时间:2020-01-11 00:07:31    阅读次数:106
JavaScript中函数式编程中文翻译
原著由 Dan Mantyla 编写 近几年来,随着 Haskell、Scala、Clojure 等学院派原生支持函数式编程的偏门语言越来越受到关注,同时主流的 Java、JavaScript、Python 甚至 C++都陆续支持函数式编程。特别值得一提的是,在 nodejs 出现后,JavaScr ...
分类:编程语言   时间:2020-01-11 00:06:58    阅读次数:96
Flink输出到Elasticsearch
1.代码 import java.utilimport org.apache.flink.api.common.functions.RuntimeContextimport org.apache.flink.streaming.api.scala.StreamExecutionEnvironment ...
分类:其他好文   时间:2020-01-10 15:57:24    阅读次数:282
阿里靠什么武功秘籍渡过“双十一“的天量冲击
双十一大概会产生多大的数据量呢,可能大家没概念,举个例子央视拍了这么多年电视新闻节目,几十年下来他存了大概80P的数据。而今年双11一天,阿里要处理970P的数据,做为一个IT人,笔者认为今年”双十一“阿里最大的技术看点有有以下两个: 阿里的数据库,也就是刚刚拿下TPC冠军的OcceanBase,处 ...
分类:其他好文   时间:2020-01-10 15:25:53    阅读次数:52
Flink输出到Redis
1.代码 import org.apache.flink.streaming.api.scala.StreamExecutionEnvironmentimport org.apache.flink.streaming.connectors.redis.RedisSinkimport org.apac ...
分类:其他好文   时间:2020-01-10 14:09:06    阅读次数:210
容器集群管理平台的比较
容器化和微服务是当前最热话题,不久之前,笔者(据说因为现在都不用笔了,“笔者”的称谓已经不合适了,因为输入用键盘,叫“键人”更为合适)参加QCon上海一个微服务监控的Session,场面爆棚,我不得不在拥挤的过道听完了整个session。随着要管理的容器越来越多,容器的集群管理平台成为了刚需! Do ...
分类:其他好文   时间:2020-01-10 12:57:11    阅读次数:107
20.Spark
[TOC] 前提:环境变量 一、local模式 1.配置 2.运行 二、Standalone模式 1.配置 1.1 spark env.sh 1.2 slaves 2.运行 三、Yarn模式 1.配置 1.1 spark env.sh 1.2 yarn site.xml(yarn) 1.3 spar ...
分类:其他好文   时间:2020-01-10 12:53:04    阅读次数:103
spark-调节executor堆外内存
什么时候需要调节Executor的堆外内存大小? 当出现一下异常时: shuffle file cannot find,executor lost、task lost,out of memory 出现这种问题的现象大致有这么两种情况: 上述情况下,就可以去考虑调节一下executor的堆外内存。也许 ...
分类:其他好文   时间:2020-01-10 12:34:38    阅读次数:91
Spark StringIndexer和IndexToString
1、StringIndexer 标签索引器,它将标签的字符串列映射到标签索引的ML列。 如果输入列为数字,则将其强制转换为字符串并为字符串值编制索引。 索引在[0,numLabels)中。 默认情况下,按标签频率排序,因此最常使用的标签的索引为0。 //定义一个StringIndexerModel, ...
分类:其他好文   时间:2020-01-10 12:15:12    阅读次数:94
大数据-storm理论
导读: 第一节:基础架构 1:编程模型 2:架构 3:数据传输 4:高可靠性 5:高维护性 6:数据处理方式 7:对比MR,SPARK 第二节:计算模型 1:spout 2:bolt 3:stream grouping 4:构建拓扑与提交 第三节:架构 第四节:部署 第五节:数据处理 1:同步计算 ...
分类:其他好文   时间:2020-01-09 20:56:24    阅读次数:117
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!