码迷,mamicode.com
首页 >  
搜索关键字:sparkconf    ( 176个结果
pySpark学习
from pyspark import SparkConf, SparkContextconf = SparkConf().setMaster("local").setAppName("My App")sc = SparkContext(conf = conf) pyspark的初始化,也就是入口, ...
分类:其他好文   时间:2017-12-05 12:02:49    阅读次数:152
spark java 示例代码wordcount
import java.util.Arrays; import org.apache.spark.SparkConf; import org.apache.spark.api.java.JavaPairRDD; import org.apache.spark.api.java.JavaRDD; im... ...
分类:编程语言   时间:2017-11-28 15:42:44    阅读次数:350
Spark GraphX 聚合操作
package Spark_GraphX import org.apache.spark.{SparkConf, SparkContext} import org.apache.spark.graphx._ import org.apache.spark.graphx.util.GraphGener... ...
分类:其他好文   时间:2017-11-24 16:59:14    阅读次数:204
spark中的scalaAPI之RDDAPI常用操作
package com.XXX import org.apache.spark.storage.StorageLevel import org.apache.spark.{SparkConf, SparkContext} //spark中的RDD测试 object RddTest { def mai... ...
分类:Windows程序   时间:2017-11-21 23:44:54    阅读次数:352
python连接spark(pyspark)
from pyspark import SparkContext from pyspark import SparkConf string_test = 'pyspark_test' conf = SparkConf().setAppName(string_test).setMaster('yarn ...
分类:编程语言   时间:2017-10-30 19:41:16    阅读次数:297
windows 本地构建hadoop-spark运行环境(hadoop-2.6, spark2.0)
LocalSparkContext.scala import org.apache.spark.{SparkConf, SparkContext} import org.scalatest._ trait LocalSparkContext extends BeforeAndAfterAll { s ...
分类:Windows程序   时间:2017-10-17 15:14:10    阅读次数:329
IDEA Spark Streaming 操作(RDD队列流)
import org.apache.spark.SparkConf import org.apache.spark.rdd.RDD import org.apache.spark.streaming.{Seconds, StreamingContext} import scala.collectio... ...
分类:其他好文   时间:2017-10-16 22:05:21    阅读次数:197
IDEA Spark Streaming 操作(套接字流)
import org.apache.spark.SparkConf import org.apache.spark.streaming.{Seconds, StreamingContext} object DStream_socket { def main(args: Array[String]):... ...
分类:其他好文   时间:2017-10-15 21:21:17    阅读次数:284
Spark操作
### scala源码 /* SimpleApp.scala */ import org.apache.spark.SparkContext import org.apache.spark.SparkContext._ import org.apache.spark.SparkConf import... ...
分类:其他好文   时间:2017-10-15 00:30:33    阅读次数:200
Python执行spark程序配置
spark没有配置Python环境变量的时候使用Python只用spark时候回出现 from pyspark import SparkConf,SparkContentImportError: No module named pyspark 所以要在环境变量中配置 打开 vim /etc/prof ...
分类:编程语言   时间:2017-09-23 21:22:38    阅读次数:179
176条   上一页 1 ... 6 7 8 9 10 ... 18 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!