一、简介 Apache Flume 是一个分布式,高可用的数据收集系统,可以从不同的数据源收集数据,经过聚合后发送到分布式计算框架或者存储系统中。Spark Straming 提供了以下两种方式用于 Flume 的整合。 二、推送式方法 在推送式方法 (Flume-style Push-based  ...
                            
                            
                                分类:
Web程序   时间:
2020-06-27 00:19:37   
                                阅读次数:
77
                             
                    
                        
                            
                            
                                    需求:采集8类日志数据,并且进入es展示: 方案制定:目前数据采集通用flume+kafka模式,所以采用原有模式,一类服务进入一个topic,然后通过logstash进行数据清洗,最后进入es进行展示。 flume采用tadir 读取数据源,memory 进行缓存,kafka进行sink a1.s ...
                            
                            
                                分类:
Web程序   时间:
2020-06-26 22:29:32   
                                阅读次数:
81
                             
                    
                        
                            
                            
                                    一、简介 1.1 多数据源支持 Spark 支持以下六个核心数据源,同时 Spark 社区还提供了多达上百种数据源的读取方式,能够满足绝大部分使用场景。 CSV JSON Parquet ORC JDBC/ODBC connections Plain-text files 注:以下所有测试文件均可从 ...
                            
                            
                                分类:
数据库   时间:
2020-06-26 18:39:56   
                                阅读次数:
61
                             
                    
                        
                            
                            
                                    导读 随着国家开放二胎政策,婴儿市场规模也在不断的扩大,根据淘宝天猫的婴儿用品购买情况,对产品进行多维度分析,分析市场需求,定位产品方向,从而在满足市场需求的同时,提高销量。 数据 数据源来自阿里天池:https://tianchi.aliyun.com/dataset/dataDetail?dat ...
                            
                            
                                分类:
其他好文   时间:
2020-06-26 18:14:53   
                                阅读次数:
129
                             
                    
                        
                            
                            
                                    我们对这个问题感到很惊讶。Memcached 应该是应用的缓存层。它的设 计本身就不带有任何冗余机制。如果一个 memcached 节点失去了所有数据,您 应该可以从数据源(比如数据库)再次获取到数据。您应该特别注意,您的应用 应该可以容忍节点的失效。不要写一些糟糕的查询代码,寄希望于 memcac ...
                            
                            
                                分类:
系统相关   时间:
2020-06-26 10:57:30   
                                阅读次数:
61
                             
                    
                        
                            
                            
                                    概览 缓存是一个有着更快的查询速度的存储技术,这里的更快是指比起从初始的数据源查询(比如数据库,以下都称作数据库)而言。我们经常会把频繁请求的或是耗时计算的数据缓存起来,在程序收到请求这些数据的时候可以直接从缓存中查询数据返回给客户端来提高系统的吞吐量,现在我们来看看有哪些缓存模式可以考虑。 Cac ...
                            
                            
                                分类:
其他好文   时间:
2020-06-26 01:20:58   
                                阅读次数:
102
                             
                    
                        
                            
                            
                                MySQL 认证 MySQL 认证使用外部 MySQL 数据库作为认证数据源,可以存储大量数据,同时方便与外部设备管理系统集成。 插件:emqx_auth_mysql MySQL ACL MySQL ACL 使用外部 MySQL 数据库存储 ACL 规则,可以存储大量数据、动态管理 ACL,方便与外 ...
                            
                            
                                分类:
数据库   时间:
2020-06-25 11:51:33   
                                阅读次数:
146
                             
                    
                        
                            
                            
                                    数据绑定库和MVVM 文章 官方-数据绑定库 美团-如何构建Android MVVM 应用框架 数据绑定库 数据绑定的作用? 使用DataBinding库就可以把数据源分配到控件上,自动更新UI内容,无需再手动编写设置数据的代码。数据绑定库会自动生成将布局中的视图和数据对象绑定所需的类,也提供了可在 ...
                            
                            
                                分类:
其他好文   时间:
2020-06-24 20:11:08   
                                阅读次数:
60
                             
                    
                        
                            
                            
                                    一,shardingjdbc的用途 1,官方站介绍: Apache ShardingSphere 是一套开源的分布式数据库中间件解决方案组成的生态圈, 它由 JDBC、Proxy 和 Sidecar(规划中)这 3 款相互独立,却又能够混合部署配合使用的产品组成。 它们均提供标准化的数据分片、分布式 ...
                            
                            
                                分类:
数据库   时间:
2020-06-24 20:09:19   
                                阅读次数:
224
                             
                    
                        
                            
                            
                                1.数据源配置 spring: # jdbctemplate 连接多数据源配置 db1: datasource: jdbcurl: jdbc:mysql://127.0.0.1:3306/cloud-main1?useUnicode=true&characterEncoding=utf8&useSS ...
                            
                            
                                分类:
数据库   时间:
2020-06-24 18:04:45   
                                阅读次数:
57