Hadoop - hdfs dfs常用命令的使用 用法 1,-mkdir 创建目录Usage:hdfs dfs -mkdir [-p] < paths>选项:-p很像Unix mkdir -p,沿路径创建父目录。 2,-ls 查看目录下内容,包括文件名,权限,所有者,大小和修改时间Usage:hdf ...
                            
                            
                                分类:
其他好文   时间:
2020-07-21 21:48:33   
                                阅读次数:
80
                             
                         
                    
                        
                            
                            
                                    1 HA 概述 1)所谓 HA(High Available),即高可用(7*24 小时不中断服务)。 2)实现高可用最关键的策略是消除单点故障。HA 严格来说应该分成各个组件的 HA 机制: HDFS 的 HA 和 YARN 的 HA。 3)Hadoop2.0 之前,在 HDFS 集群中 Name ...
                            
                            
                                分类:
其他好文   时间:
2020-07-21 13:55:58   
                                阅读次数:
69
                             
                         
                    
                        
                            
                            
                                    jdk的安装 上传jdk的安装包到linux中 解压、更名 [root@qianfeng01 software]# tar -zxvf jdk-8u221-linux-x64.tar.gz -C /usr/local/ [root@qianfeng01 software]# cd /usr/loca ...
                            
                            
                                分类:
其他好文   时间:
2020-07-19 17:54:49   
                                阅读次数:
72
                             
                         
                    
                        
                            
                            
                                    idea 提交远程库冲突解决 github团队协作,正常开发 管理得好的话,不会出现代码冲突问题,项目经理会划分模块,每个小组成员各自开发模块,公共的代码由专门的人负责维护; 但是偶尔管理沟通问题导致出现冲突偶尔也是会出现的; 冲突出现场景过程分析: 同一段代码,A程序员修改提交了。B程序员没有更新 ...
                            
                            
                                分类:
其他好文   时间:
2020-07-19 11:44:30   
                                阅读次数:
80
                             
                         
                    
                        
                            
                            
                                什么是MyCat*一个彻底开源的,面向企业应用开发的大数据库集群*支持事务、ACID、可以替代MySQL的加强版数据库*一个可以视为MySQL集群的企业级数据库,用来替代昂贵的Oracle集群*一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQLServer*结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品*一个新颖的数据库中间件产品为什么使用MyCat如今随着互联网的发展,
                            
                            
                                分类:
数据库   时间:
2020-07-19 11:27:26   
                                阅读次数:
86
                             
                         
                    
                        
                            
                            
                                首先会写出集群的部署规划,然后根据规划编写对应的配置文件 主要包含四个配置文件,包含的,将配置文件改好,然后分发到各个配置文件然后启动集群的时候将会加载配置文件 一、集群的部署规划 hadoop102 hadoop103 hadoop104 HDFS NameNode DataNode DataNo ...
                            
                            
                                分类:
其他好文   时间:
2020-07-19 00:55:10   
                                阅读次数:
85
                             
                         
                    
                        
                            
                            
                                    Flume是一种分布式,可靠且可用的服务,用于有效地收集,聚合和移动大量日志数据 Flume架构和核心组件 Source 收集 Channel 处理 Sink 输出 1.安装java1.8版本 https://www.cnblogs.com/yoyo1216/p/12668926.html 2.创建 ...
                            
                            
                                分类:
Web程序   时间:
2020-07-18 22:50:30   
                                阅读次数:
97
                             
                         
                    
                        
                            
                            
                                    实例1: 监听端口,把输入端口的信息以日志的形式输出到控制台中 cd /usr/local/flume/apache-flume-1.6.0-cdh5.9.0-bin/conf vim example.conf # 命名此代理上的组件 agent.sources = seqGenSrc # sour ...
                            
                            
                                分类:
Web程序   时间:
2020-07-18 22:49:42   
                                阅读次数:
97
                             
                         
                    
                        
                            
                            
                                # Name the components on this agenta1.sources = r1a1.channels = c1 c2a1.sinks = k1 k2 #将数据流复制给所有channel#下边这句是默认的,不配置也可以#a1.sources.r1.selector.type =  ...
                            
                            
                                分类:
Web程序   时间:
2020-07-18 19:54:00   
                                阅读次数:
103
                             
                         
                    
                        
                            
                            
                                日志 boost::log source core sink ACL log golang 参考资料 https://www.boost.org/doc/libs/1_65_1/libs/log/doc/html/index.html boost::log库学习 ...
                            
                            
                                分类:
其他好文   时间:
2020-07-18 15:59:39   
                                阅读次数:
62