码迷,mamicode.com
首页 >  
搜索关键字:scala bigdata 大數據 spark    ( 10680个结果
【Flume】自定义分区实现kafka有序
1)Source中使用拦截器 kafka_key.sources.sources1.interceptors = i1kafka_key.sources.sources1.interceptors.i1.type = com.bigdata.flume.MyInterceptor$Builder k ...
分类:Web程序   时间:2019-12-28 22:35:37    阅读次数:181
【BigData】Java基础_FileOutputStream写入文件
知识点 1.通过FileOutputStream是将数据先转化为二进制数据,然后再写入到文本文件 2.BufferedWriter可以更加简便的将数据写入文本文件。 3.其中的true参数表示追加,无该参数表示覆盖。 代码 我们可以通过FileOutputStream基础类将字符转化为二进制,然后写 ...
分类:编程语言   时间:2019-12-28 11:34:58    阅读次数:95
【BigData】Java基础_FileInputStream的基本使用
概念描述 知识点1:FileInputStream是按照一个一个字节去文件中读取数据的 知识点2:当文件中的数据被读取完毕之后,再次读取,则返回的是-1 知识点3:读取出来的字节可以通过char进行ascII码转换 代码部分 test.txt的文件内容如下: 在以下代码中,为手动去读取一次字节,每r ...
分类:编程语言   时间:2019-12-28 09:35:25    阅读次数:85
Hadoop学习之路(5)Mapreduce程序完成wordcount
本文在Windows端实现了WordCount功能
分类:其他好文   时间:2019-12-27 19:40:55    阅读次数:100
大数据linux学习心得体会
刚开始接触大数据的时候,还是很迷茫的,要学习掌握的东西很多,linux,mysql,java,scala,看到这些的确很头大,于是乎也没有什么思绪,只能一个接着一个的去学习,先去学习linux,看到之后是一脸懵逼,之前没接触过底层的东西,所以开始庄装VM,在linux环境下去指定各种命令,让自己去熟 ...
分类:系统相关   时间:2019-12-27 11:46:23    阅读次数:106
Spark原理及关键技术点
Spark Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架,Spark,拥有Hadoop MapReduce所具有的优点;但不同 ...
分类:其他好文   时间:2019-12-27 00:11:15    阅读次数:106
【BigData】Java基础_File工具类
简介 File工具类可以实现创建文件或者文件夹,并对文件或者文件夹进行管理操作。 代码 代码中实现的是File工具类的常用方法 ...
分类:编程语言   时间:2019-12-27 00:06:28    阅读次数:89
【Scala】Scala使用scalikejdbc工具连接MySQL(推荐)
scalikejdbc官网:http://scalikejdbc.org/ScalikeJDBC是简洁数据库访问库。该库自然包装JDBC API。 需求:使用scalikejdbc3.3.2版本来操作MySQL数据库1) 通过SQL准备一张表user,有id,name,age三个字段2) 通过sca ...
分类:数据库   时间:2019-12-26 19:40:06    阅读次数:108
【异常】访问HDFS权限异常:Permission denied: user=СÎ÷?Îè, access=WRITE, inode="/":hadoop:supergroup:drwx
IDEA中的scala项目访问HDFS,程序运行,可能出现的异常: 权限问题:Permission denied: user=СÎ÷?Îè, access=WRITE, inode="/":hadoop:supergroup:drwxr-xr-x 修改运行时参数,因为HDFS上的文件所属的用户是ha ...
分类:数据库   时间:2019-12-26 19:33:00    阅读次数:103
【Scala】Scala使用JDBC连接Mysql/权限问题
步骤:1)MySQL的驱动2)Connection 重量级的获取过程。可以使用POOL优化3)Statement 执行的类4)ResultSet 结果的封装5)Close 在pom中添加scala、hadoop、Mysql驱动依赖包: <properties> <scala.version>2.11 ...
分类:数据库   时间:2019-12-26 19:09:52    阅读次数:97
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!