本文源码:GitHub·点这里||GitEE·点这里一、DataX工具简介1、设计理念DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路,DataX作为中间传输载体负责连接各种数据源。当
分类:
其他好文 时间:
2020-05-06 10:30:40
阅读次数:
73
一、TCP/IP协议体系的认知 (1)分层。一部分处于用户态,一部分处于内核态。数据链路层,网络层,传输层封装于操作系统内核态。应用层存在于操作系统的用户空间,包括DNS,FTP,HTTPS,HTTP,工作中接触较多的是应用层的部分。但其它层的原理必须理解,面试考察。 (2)层与层之间下层对上层是透 ...
分类:
其他好文 时间:
2020-05-05 18:25:23
阅读次数:
136
在Linux系统中日志是非常重要的存在,它可以为我们记录系统每天发生的事情,我们还可以利用日志检查错误的发生及发现hk攻击的痕迹, 那么你知道如何使用Linux下的系统日志吗? 现在我们去看看Linux系统日志的使用方法。 在Linux系统中,有三类主要的日志子系统: ● 连接时间日志: 由多个程序 ...
分类:
系统相关 时间:
2020-05-05 11:06:32
阅读次数:
85
背景 在介绍整个原理和代码之前,我们来交代一下整个过程的背景,我们的系统作为一个下游的DMS系统,需要每天定期读取第三方接口传入数据,由于第三方接口每天传入的数据有上百万条主机厂备件库存数据,之前通过Kafka消息接口进行传输的话效率低、速度慢而且容易出错,所以后面和第三方统一意见采用FTP方式进行 ...
分类:
数据库 时间:
2020-05-04 13:23:58
阅读次数:
82
Aria2 是一款轻量级的跨平台的多线程下载工具,支持 Http/Https、Ftp、BitTorrent、Metalink 等主流协议,功能非常全面。和IDM或EagleGet这些下载工具相比,aria2是一款纯命令行工具,没有图形界面,但可以通过rpc的方式提供交互式下载,这个是它的一个缺点,同 ...
分类:
其他好文 时间:
2020-05-03 20:15:51
阅读次数:
96
①、服务器仓库:http:// https:// ftp:// file:// ②、客户端配置:/etc/yum.conf 每个仓库的公共配置 /etc/yum.repos.d 每个仓库自己的配置文件 ③、yum repolist 以启用的仓库 yum repolist all 所有仓库 yum c ...
分类:
其他好文 时间:
2020-05-03 20:12:30
阅读次数:
57
自动化生成poc burpsuite CSRF使用方法 POST Burpsuite生成poc js代码提交 JSON劫持攻击 CSRF蠕虫 flash CSRF csrf+xss组合拳 CSRF绕过referer 1.Refere为空条件下 利用ftp://,http://,https://,fi ...
分类:
其他好文 时间:
2020-05-03 16:57:24
阅读次数:
78
计算机网络中常见的各层协议 应用层: (典型设备:应用程序,如FTP,SMTP ,HTTP) DHCP >动态主机分配协议,使用 UDP 协议工作,主要有两个用途:给网络自动分配 IP 地址。 HTTP > 超文本传输协议 <端口号 80>, 万维网服务器传输超文本到本地浏览器的传送协议。 SMTP ...
分类:
其他好文 时间:
2020-05-03 16:35:46
阅读次数:
69
Apache JMeter是Apache组织开发的基于Java的压力测试工具。用于对软件做压力测试,它最初被设计用于Web应用测试但后来扩展到其他测试领域。 它可以用于测试静态和动态资源例如静态文件、Java小服务程序、CGI脚本、Java 对象、数据库, FTP服务器, 等等。JMeter 可以用 ...
分类:
Web程序 时间:
2020-05-03 14:57:27
阅读次数:
202
1、下载python源码包,最好下载到opt目录 https://www.python.org/ftp/python/3.6.2/Python-3.6.2.tgz 2、安装前先安装依赖,必须安装前装 yum install gcc patch libffi-devel python36-devel. ...
分类:
编程语言 时间:
2020-05-03 00:53:03
阅读次数:
71