1、环境规划3台机，每台机5个实例，分别mongos1个，configserver1个，shardserver3个IP:192.168.56.107(mongodb01)实例:mongos:30000shard1:40001(主节点)shard2:40002(仲裁节点)shard3:40003(副节点)config:27027IP:192.168.56.105(mongodb02)实例:mongo
分类：
数据库 时间：
2020-12-08 12:21:00
阅读次数：
8
前言 在本机模拟器的ubuntu18版本上进行的部署测试，参考的官方文档： hadoop: 链接地址 hive: 链接地址 使用的版本： hadoop: 3.2.1 hive: 3.1.2 全程是使用root账号进行的配置。 hadoop安装配置 hadoop使用的是虚拟集群，即单机模拟集群，dat ...
分类：
其他好文 时间：
2020-12-05 10:52:38
阅读次数：
7
准备工作1.1下载最新源码，https://github.com/apache/lucene-solr1.2编译，按照说明，使用ant进行编译(我使用了anteclipse)1.3.将编译后的文件导入到eclipse，sts或者idea中2.新建测试类publicvoidtest()throwsIOException,ParseException{Analyzeranalyzer=newNGram
分类：
编程语言 时间：
2020-12-04 11:10:55
阅读次数：
5
什么是Hive？ Hive：由Facebook开源用于解决海量结构化日志的数据统计工具。 Hive 是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供类SQL查询功能。 本质是：将SQL转化成MapReduce程序。 1、Hive 处理的数据存储在HDFS； 2、Hiv ...
分类：
其他好文 时间：
2020-12-03 11:43:46
阅读次数：
3
ELK集群配置安装初始化iptables关闭selinux关闭配置hosts解析[root@localhostelasticsearch]#cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4::1localhostlocalhost.localdomainlocalhost6lo
分类：
其他好文 时间：
2020-12-01 11:46:16
阅读次数：
2
主要内容 1. 协同过滤思想2. 推荐系统架构3. 推荐系统流程4. 推荐系统处理数据流程。5. python 文件预处理 Hive 数据。6. dubbo 服务使用。 一、协同过滤 协同过滤（Collaborative Filtering）技术，是推荐系统中应用最为广泛的技术之一，协同过滤算法主要 ...
分类：
其他好文 时间：
2020-11-30 15:32:24
阅读次数：
7
Reids服务集群模式可分为主从、哨兵、Cluster模式。本博客主要介绍主从和Cluster模式 ...
分类：
其他好文 时间：
2020-11-26 14:11:10
阅读次数：
3
单机版Kafka搭建参考：【Kafka】 Kafka安装 Kafka集群搭建 环境系统：CentOS 7.4 kafka版本：2.6.0 由于资源有限，只有一台服务器，本例搭建的是一个伪集群Kafka环境 1、搭建一个zookeeper集群，参考：【ZooKeeper】ZooKeeper安装及简单操 ...
分类：
其他好文 时间：
2020-11-23 12:20:32
阅读次数：
6
认识Hive 从MapReduce到SQL Hive架构 三种安装方式 Hive与关系型数据库的区别 1. 认识Hive 前面我们讲到了mapreduce计算框架，各位需要通过java编码的形式来实现设计运算过程，Hive的设计目的就是为了让精通sql技能而java较弱的分析师能够利用hadoop进 ...
分类：
其他好文 时间：
2020-11-21 12:33:40
阅读次数：
7
大数据查询引擎Presto简介SQLonHadoop：Hive的出现让技术人员可以通过类SQL的方式对批量数据进行查询，而不用开发MapReduce程序MapReduce计算过程中大量的中间结果磁盘落地使运行效率较低为了提高SQLonHadoop的效率，各大工具应运而生，比如Shark、Impala等SQLonHadoop的常见工具：Presto是什么：Presto是由Facebook开发的分布式
分类：
数据库 时间：
2020-11-21 12:01:11
阅读次数：
8
