1.环境hadoop-2.6.0 spak2.1.1 scala-sdk-2.11.12 2.maven项目创建 3.pom 4.阿里云settings配置 <?xml version="1.0"?> <settings xsi:schemaLocation="http://maven.apache ...
分类：
其他好文 时间：
2020-04-02 19:37:02
阅读次数：
213
import com.alibaba.fastjson.{JSON, JSONObject} val str="{\"boxId\":\"001\",\"allContent\":[{\"fruitName\":\"apple\",\"weight\":\"1\"},{\"fruitName\":\ ...
分类：
Web程序 时间：
2020-04-02 17:40:49
阅读次数：
104
1、 kafka的介绍 kafka是linkedin公司开源捐献给apache的一个消息队列的框架，底层语言用的是scala kafka是一个分布式的消息队列，提供了类似于JMS的特性，不是标准的JMS的实现，也有生产者，消费者，topic等组件 2、 消息队列的作用 解耦，异步，并行 3、 kak ...
分类：
其他好文 时间：
2020-04-01 20:59:46
阅读次数：
93
第一章 JavaScript简介 js不同于C/C++,C#,JAVA,不是强类型语言。 通常，代码质量可以用全局变量和函数的数量来考量（数量越多越糟）。因此，尽可能避免使用全局变量。 JS数据类型 原始数据类型：null,undefined,字符串，数，布尔值和symbol（es6新引入的数据类型 ...
分类：
编程语言 时间：
2020-04-01 19:46:56
阅读次数：
98
如何解决pytorch 编译时CUDA版本与运行时CUDA版本不对应 在跑FPN模型时，发现本机是CUDA10.1,而pytoch==0.4.0，最高支持9.0，故安装CUDA9.0，用cuda-9.0的软连接代替cuda10.1来完成cuda版本的切换（不需要搞cudnn） 替换称cuda9.0后 ...
分类：
其他好文 时间：
2020-04-01 13:07:10
阅读次数：
727
RiceQuant米筐量化回测框架介绍 一、RiceQuant平台 + 网址：https://www.ricequant.com/welcome/ 二、策略创建流程 1.1 创建策略 1.2 策略界面 2 完成一个策略所需做的事 + 选择策略的运行基本条件： + 运行区间、初始资金 + 回测频率 + ...
分类：
其他好文 时间：
2020-04-01 12:49:39
阅读次数：
336
# 使用SparkSQL编写wordCount的词频统计 ## word.txt```hello hello scala sparkjava sql html java hellojack jack tom tom you he he sql``` ## spark 代码：```objec ...
分类：
数据库 时间：
2020-03-30 21:50:35
阅读次数：
213
我们已经在CentOS7中安装了spark，本节将展示如何在spark中通过scala方式交互的进行词频统计。 1 系统、软件以及前提约束 CentOS 7 64 工作站 作者的机子ip是192.168.100.200，主机名为danji，请读者根据自己实际情况设置 hadoop已经安装完毕并启动 ...
分类：
其他好文 时间：
2020-03-30 00:07:08
阅读次数：
103
1.框架选型 hadoop 3.1.3 hive 3.1.2 zookeeper 3.5.7 hbase 2.2.3 kafka_2.11 2.4.0 spark 2.4.5 bin hadoop2.7 2.安装前准备 1.关闭防火墙 2.安装 JDK 3.安装 Scala 4.配置ssh 免密 5 ...
分类：
其他好文 时间：
2020-03-30 00:06:39
阅读次数：
66
与Scala语言相比，Python有其独特的优势和广泛的应用，python调用接口,因此Spark也推出了PySpark，它在框架上提供了一个使用Python语言的接口，python接收post请求接口为数据科学家使用框架提供了方便。 ...
分类：
编程语言 时间：
2020-03-29 01:41:51
阅读次数：
92
