码迷,mamicode.com
首页 > 数据库 > 详细

09 spark连接mysql数据库

时间:2021-06-02 17:06:17      阅读:0      评论:0      收藏:0      [点我收藏+]

标签:rop   shell   port   imp   gty   lse   show   写入   ctf   

spark连接mysql数据库

1.启动Mysql服务。

技术图片

2.spark 连接mysql驱动程序,找到mysql-connector-java-8.0.22.jar并将mysql-connector-java-8.0.22.jar复制到/usr/local/spark/jars目录下。
技术图片

3.启动 Mysql shell,新建数据库spark,表student。

create database spark;

use spark;

create table student (id int(4), name char(20), gender char(4), age int(4));

insert into student values(1,‘Xueqian‘,‘F‘,23);

insert into student values(2,‘Weiliang‘,‘M‘,24);

select * from student;

技术图片

4.启动spark shell,spark读取MySQL数据库中的数据

./bin/pyspark --jars /usr/local/spark/jars/mysql-connector-java-8.0.22.jar --jars /usr/local/spark/jars/mysql-connector-java-8.0.22.jar

技术图片

spark.read.format("jdbc").option("url", "jdbc:mysql://localhost:3306/spark?useSSL=false").option("driver","com.mysql.cj.jdbc.Driver").option("dbtable", "student").option("user", "root").option("password", "12345678").load().show()
技术图片

5.spark向MySQL数据库写入数据

from pyspark.sql.types import Row
from pyspark.sql.types import *
studentRDD = spark.sparkContext.parallelize(["3 Rongcheng M 26","4 Guanhua M 27"]).map(lambda line:line.split(" "))

rowRDD = studentRDD.map(lambda p:Row(int(p[0]),p[1].strip(),p[2].strip(),int(p[3])))
schema = StructType([StructField("id", IntegerType(), True),StructField("name", StringType(), True),StructField("gender", StringType(), True),StructField("age", IntegerType(), True)])

studentDF = spark.createDataFrame(rowRDD, schema)
prop = {}
prop[‘user‘]=‘root‘
prop[‘password‘]=‘12345678‘
prop[‘driver‘]=‘com.mysql.cj.jdbc.Driver‘
studentDF.write.jdbc("jdbc:mysql://localhost:3306/spark?useSSL=false", "student","append", prop)

技术图片

spark.read.format("jdbc").option("url", "jdbc:mysql://localhost:3306/spark?useSSL=false").option("driver","com.mysql.cj.jdbc.Driver").option("dbtable", "student").option("user", "root").option("password", "12345678").load().show()

技术图片

 6.回到mysql数据库查看数据

use spark;

select * from student;

技术图片

 

09 spark连接mysql数据库

标签:rop   shell   port   imp   gty   lse   show   写入   ctf   

原文地址:https://www.cnblogs.com/CrystalboyWU/p/14827665.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!