高性能异步爬虫 目的:在爬虫中使用异步实现高性能的数据爬取操作。 异步爬虫的方式: - 多线程、多进程(不建议): - 好处:可以为相关阻塞的阻塞单独开启线程或者进程,阻塞操作就可以异步执行。 - 弊端:无法无限制的开启多线程或者多进程。 - 线程池、进程池(适当使用): - 好处:可以降系统对进程 ...
分类:
其他好文 时间:
2020-07-28 09:59:36
阅读次数:
66
创建数据库>usetest1>#直接使用use指令切换数据库即可,但是由于库中没有数据,所以并不会显示在数据库列表中。查看当前所在库>dbtest1查看所有库>showdbs#并不会看到刚才所创建的test1库admin0.000GB#类似于mysql中的mysql库config0.000GB#类似于mysql中的local0.000GB#类似于MySQL中的informa
分类:
数据库 时间:
2020-07-27 23:39:26
阅读次数:
76
Redis支持RDB和AOF两种持久化机制,持久化功能有效地避免因进程退出造成的数据丢失问题,当下次重启时利用之前持久化的文件即可实现数据恢复。RDB持久化RDB持久化是把当前进程数据生成快照保存到硬盘的过程,触发RDB持久化过程分为手动触发和自动触发。手动触发数据持久化手动触发分别对应save和bgsave:save指令:阻塞当前redis服务器,直到RDB过程完成为止(线上不建议使用,阻塞时间
分类:
其他好文 时间:
2020-07-27 10:01:33
阅读次数:
97
从jdk1.4开始,java中引入了nio包,提供了非阻塞式的网络编程模型,提供网络性能。nio中核心组件有三个:channel、buffer、selector。这里主要探讨buffer的概念和使用。buffer本质上是数据容器,可以存储java中的各种原始数据类型,并提供了读、写等各种操作。 1. ...
分类:
编程语言 时间:
2020-07-26 15:39:15
阅读次数:
64
配套视频: 教学视频 辅音对元音的连读 什么是元音,辅音? 元音:气流在发出的过程当中,声带振动,口型相对固定,气流冲口而出,饱满而又洪亮。相当于韵母。 例如:[i:]、[i]、[?:]、[?]、[u:]、[u]、[?:]、[?]、[ɑ:]、[?]、[e]、[æ]、[ei]、[ai]、[?i]、[? ...
分类:
其他好文 时间:
2020-07-26 02:02:46
阅读次数:
293
Unix网络编程中的五种IO模型 blocking IO - 阻塞IO nonblocking IO - 非阻塞IO IO multiplexing - IO多路复用 asynchronous IO - 异步IO signal driven IO - 信号驱动IO 网络io基本流程 先说明一下IO发 ...
分类:
其他好文 时间:
2020-07-26 01:43:10
阅读次数:
71
二、重点非阻塞模型:NIO模型1. Channel:和流等级一样,双向的,可读可写 2. Buffer:存数据的地方,可以用来读写 3. Selector:NIO的核心类,可以监听多个channel的时间(连接打开,数据到达)-->使得单线程可以管理多个channel,只有在读写事件发生时才找线程过 ...
分类:
编程语言 时间:
2020-07-26 00:44:25
阅读次数:
69
转自恋恋风辰大并发服务器框架设计 简单谈一谈大并发服务器框架设计的基本思路 基本的服务器框架都是C/S结构的,请求和相应流程是这样的: 这样的框架存在一个很严重的问题,即当并发量过大时,会阻塞很多请求。当客户端大并发请求到来,服务器需要进行大量的数据库操作,假设数据库最大连接数为1000个,此时有1 ...
分类:
其他好文 时间:
2020-07-24 09:51:30
阅读次数:
85
CountDownLatch CountDownLatch闭锁是在java1.5被引入,存在于java.util.cucurrent包下。 CountDownLatch是一个同步辅助类,让一些线程阻塞直到另一些线程完成一系列操作后才被唤醒。CountDownLatch是通过一个计数器来实现的,计数器 ...
分类:
其他好文 时间:
2020-07-24 09:48:14
阅读次数:
77
STP-RSTP-MST 对于生成树的原理就不用过多的介绍了,如果有不明白的,可以回看CISCO部份的STP,除了cost值不同以后,好像没啥不同的 STP,标准生成树,根据交换机生成树,其特点,慢,慢,慢...... 真的很慢 HUAWEI交换机的STP功能默认是关闭的,所以要手动开启 [sw1] ...
分类:
其他好文 时间:
2020-07-22 16:11:43
阅读次数:
77