为提高工作效率,让多个爬虫一起工作 需要使用的库是:gevent 方式一 1.使用队列的形式: from gevent import monkey # 从gevent库里导入monkey模块。 monkey.patch_all() # monkey.patch_all()能把程序变成协作式运行,就是 ...
分类:
其他好文 时间:
2020-01-26 23:51:48
阅读次数:
174
拦截器登录验证 1. 配置 2. 拦截器 3. 控制器 4. 主页 5. 登陆页面 ...
分类:
其他好文 时间:
2020-01-26 22:14:01
阅读次数:
76
1.git是什么? git是目前世界上最先进的分布式版本控制系统。 2. git从何而来 众所周知,1991年linus编写并开源了Linux操作系统,一直到2002年,linux的前进发展都是世界各地的志愿者把源代码文件通过diff的方式发给linus,然后linus本人通过手工方式合并代码。 到 ...
分类:
其他好文 时间:
2020-01-26 14:37:11
阅读次数:
69
LIME: Low light Image Enhancement via Illumination Map Estimation [toc] 1. approach Retinex theory In this paper, A method enhancing low light image i ...
分类:
其他好文 时间:
2020-01-25 20:47:44
阅读次数:
157
声明式API 所谓“声明式”,指的就是我只需要提交一个定义好的 API 对象来“声明”,我所期望的状态是什么样子 “声明式 API”允许有多个 API 写端,以 PATCH 的方式对 API 对象进行修改,而无需关心本地原始 YAML 文件的内容 Kubernetes 项目才可以基于对 API 对象 ...
[toc] 1. 正文 1.1. 任务划分 使用高通量计算第一步就是要针对密集运算任务做任务划分。将一个海量的、耗时的、耗资源的任务划分成合适粒度的小任务,需要综合考虑资源、数据等多方面因素。HTCondor并不参与这方面的工作,任务划分需要用户自己实现。 默认情况下,HTCondor会把一个CPU ...
分类:
其他好文 时间:
2020-01-24 20:10:36
阅读次数:
115
一、rbd块存储挂载 1 创建一个OSD pool # ceph osd pool create rbd1 128 查询存储空间使用 # ceph df GLOBAL: SIZE AVAIL RAW USED %RAW USED 480GiB 474GiB 6.12GiB 1.28 POOLS: N ...
分类:
其他好文 时间:
2020-01-23 19:57:48
阅读次数:
487
#!/usr/bin/env python # -*- coding:utf-8 -*- # @Time : 2020/1/23 1:50 # @Author : liuyan # @File : test5_tcp_server_5协程gevent版本.py # @Software: PyChar ...
分类:
其他好文 时间:
2020-01-23 09:52:22
阅读次数:
123
一、程序界面 二、程序代码 (一)、主界面代码 // // 主窗口 // unit Unit1; interface uses Windows, Messages, SysUtils, Variants, Classes, Graphics, Controls, Forms, Dialogs, St ...
推荐阅读: 论主数据的重要性(正确理解元数据、数据元) CDC+ETL实现数据集成方案 Java实现impala操作kudu 实战kudu集成impala impala基本介绍 impala是cloudera提供的一款高效率的sql查询工具,提供实时的查询效果,官方测试性能比hive快10到100倍 ...
分类:
其他好文 时间:
2020-01-21 19:54:21
阅读次数:
198