高性能异步爬虫 引入 很多同学对于异步这个概念只是停留在了“听说很NB”的认知层面上,很少有人能够在项目中真正的使用异步实现高性能的相关操作。本节课,咱们就一起来学习一下,爬虫中如何使用异步实现高性能的数据爬取操作。 背景 其实爬虫的本质就是client发请求批量获取server的响应数据,如果我们 ...
分类:
其他好文 时间:
2020-07-11 17:07:52
阅读次数:
51
客户端负载均衡 客户端负载均衡,就是相对服务端负载均衡而言的。 服务端负载均衡,就是传统的 Nginx 的方式。用 Nginx 做负载均衡,我们称之为服务端负载均衡。 如下图所示: 这种均衡,称为服务端负载均衡。它的一个特点就是,客户端并不知道此时为它提供服务的 server 到底是哪一个,它也不关 ...
分类:
其他好文 时间:
2020-07-11 16:50:29
阅读次数:
63
仅罗列一些常用基本配置,更多配置请到查看 https://www.orchome.com/472 server.properties配置文件 ###kafka服务和系统相关### #broker id,代表当前主机,集群里唯一 broker.id=1 #监听地址和端口,producter、consu ...
分类:
其他好文 时间:
2020-07-11 13:08:02
阅读次数:
51
1 shell命令的zookeeper命令 启动zookeeper服务 bin/zkServer.sh start 连接zk服务 bin/zkCli.sh -server zk服务IP:Port 2 连接zk服务后的命令 查看连接zk服务器后可以使用的命令 help 2.1 节点的增删改查 创建持久 ...
分类:
其他好文 时间:
2020-07-11 12:30:22
阅读次数:
55
一、jmx 方式 加上如下启动参数,以 tomcat 为例,修改 bin\catalina 文件,在开始位置添加 JAVA_OPTS JAVA_OPTS="-Djava.rmi.server.hostname=192.168.8.229 -Dcom.sun.management.jmxremote. ...
分类:
其他好文 时间:
2020-07-11 09:44:49
阅读次数:
92
直接上代码吧,Eureka Server端的主要依赖的版本: <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-server</artif ...
分类:
编程语言 时间:
2020-07-11 00:14:43
阅读次数:
86
1,Helm 介绍 Helm是一个Kubernetes的包管理工具,就像Linux下的包管理器,如yum/apt等,可以很方便的将之前打包好的yaml文件部署到kubernetes上。 Helm有两个重要概念: helm:一个命令行客户端工具,主要用于Kubernetes应用chart的创建、打包、 ...
分类:
其他好文 时间:
2020-07-11 00:13:51
阅读次数:
70
先上代码 var http = require('http') var server = http.createServer(function (req,res) { console.log(req.headers['x-forwarded-for'] ); // 判断是否有反向代理 console ...
分类:
Web程序 时间:
2020-07-11 00:10:36
阅读次数:
126
1.简介 1.1 概述 Spring Boot makes it easy to create stand-alone, production-grade Spring based Applications that you can "just run". We take an opinionate ...
分类:
编程语言 时间:
2020-07-10 23:50:19
阅读次数:
71
SSRF参考视频 (源自哔哩哔哩): https://www.bilibili.com/video/BV1p4411X7UZ?p=60 参考文章 : https://www.freebuf.com/column/157466.html https://www.sohu.com/a/241307328 ...
分类:
其他好文 时间:
2020-07-10 22:37:59
阅读次数:
64