第一次写一个算是比较完整的爬虫,自我感觉极差啊,代码low,效率差,也没有保存到本地文件或者数据库,强行使用了一波多线程导致数据顺序发生了变化。。。 贴在这里,引以为戒吧。 没有考虑实际生产中突发的状况,比如网速延迟卡顿等问题。 速度是真慢,有时间会分享给大家 selenium + 浏览器 的爬取巨 ...
分类:
编程语言 时间:
2018-07-19 00:14:09
阅读次数:
380
阅读目录 一 引子 二 协程介绍 三 Greenlet 四 Gevent介绍 五 Gevent之同步与异步 六 Gevent之应用举例一 七 Gevent之应用举例二 一 引子 该篇文章主题是:如何基于单线程来实现并发,即只用一个主线程(很明显可利用的cpu只有一个)情况下实现并发,为此我们需要先回 ...
分类:
编程语言 时间:
2018-07-17 21:41:30
阅读次数:
196
访问web提示如下错误:nginx日志报upstream timed out (110: Connection timed out) while reading response header错误。环境:nginx做代理,转给apache解决办法:原因在于nginx proxy的超时时间太短,建议修改如下配置文件。[root@localhost ~]# vi /usr/local/kk-mail/
分类:
Web程序 时间:
2018-07-17 11:41:29
阅读次数:
242
1.创建一个定时调度Quartz类 1 using Quartz; 2 using Quartz.Impl; 3 using System; 4 using System.Collections.Generic; 5 using System.Linq; 6 using System.Text; 7 ...
今日趁周末得空,将近日在学习的MongoDB数据库常用命令作以下整理,方便平常工作中查看MongoDB的逻辑结构主要由文档、集合和数据库三部分组成。其中文档是MongoDB的核心概念,它是MongoDB逻辑存储的最小单元,相当于关系型数据库中的一行记录,多个文档组成集合,集合相当于关系型数据库中的表,多个集合组成数据库。SQL术语说明MongoDB术语说明database数据库database数据
分类:
数据库 时间:
2018-07-15 12:27:10
阅读次数:
373
package java.util;import java.io.Serializable;import java.util.function.Consumer;import java.util.function.Predicate;import jdk.internal.misc.SharedSe ...
分类:
其他好文 时间:
2018-07-15 11:21:50
阅读次数:
166
分组是根据一个特定的值将序列中的元素进行分组。LINQ只包含一个分组操作符:GroupBy。GroupBy操作符类似于T-SQL语言中的Group By语句。来看看GroupBy的方法定义: 从方法定义中可以看出:GroupBy的返回值类型是:IEnumerable<IGrouping<TKey, ...
分类:
其他好文 时间:
2018-07-14 13:01:53
阅读次数:
181
System.IO.Pipelines: .NET上高性能IO 是一个新的库,旨在简化在.NET中执行高性能IO的过程。它是一个依赖.NET Standard的库, 适用于所有.NET实现 。 Pipelines诞生于.NET Core团队,为使Kestrel成为业界最快的Web服务器之一。最初从作 ...
分类:
Web程序 时间:
2018-07-10 21:28:21
阅读次数:
420
Dockerfile reference Docker can build images automatically by reading the instructions from a Dockerfile. A Dockerfile is a text document that contain ...
分类:
其他好文 时间:
2018-07-10 12:51:21
阅读次数:
174
安装flask mail 开启smtp服务 发送邮件 发送附件 异步发送邮件 ...
分类:
其他好文 时间:
2018-07-09 17:55:40
阅读次数:
247