Scrapy(五):CrawlSpider的使用 说明 :CrawlSpider,就是一个类,是Spider的一个子类,也是一个官方类,因为是子类,所以功能更加的强大,多了一项功能:去指定的页面中来抓取指定的url的功能 比如:很多页码,都需要自己去查找规律,然后写代码实现其它页面的爬取,学完cra ...
分类:
其他好文 时间:
2020-05-26 15:33:56
阅读次数:
60
ClientTools tools = new ClientTools(); ClientContext clientContext= tools.GetContext(OnlineSiteUrl, User, Pass, true); //false 本地 true ONline Web web ...
26个咨询公司常用的分析模型: 安索夫矩阵(Ansoff Matrix) 标杆分析法(benchmarking) 波士顿矩阵(BCG Matrix) 波特价值链分析模型(Michael Porter's Value Chain Model) 波特五力分析模型(Michael Porter's Fiv ...
分类:
其他好文 时间:
2020-05-26 09:19:27
阅读次数:
159
cola扩展点使用和设计初探 封装变化,可灵活应对程序的需求变化。 扩展点使用 步骤: 定义扩展点接口,类型可以是校验器,转换器,实体; 必须以ExtPt结尾,表示一个扩展点。 比如,我定义一个云枢的组织结构的扩展点接口,消息发送扩展点,二开扩展点,webapi的rest接口扩展点点。 定义扩展点接 ...
分类:
其他好文 时间:
2020-05-26 01:17:41
阅读次数:
119
干净的DES加密 /// <summary> /// DES加密字符串 /// </summary> /// <param name="pToEncrypt">待加密的字符串</param> /// <param name="sKey">加密密钥,要求为8位</param> /// <returns ...
分布式缓存 分布式缓存的思想在hadoop和spark中都有体现,Flink 提供的分布式缓存类似 Hadoop,目的是为了在分布式环境中让每一个 TaskManager 节点保存一份相同的数据或者文件,当前计算节点的 task 就像读取本地文件一样拉取这些配置。 比如在进行表与表 Join 操作时 ...
分类:
其他好文 时间:
2020-05-25 19:29:56
阅读次数:
60
select sess.sid, sess.serial#, lo.oracle_username, lo.os_user_name, ao.object_name, lo.locked_mode from v$locked_object lo, dba_objects ao, v$session ...
分类:
数据库 时间:
2020-05-25 19:01:44
阅读次数:
68
源码编译安装PostgreSQL(pg12) 摘要:源码安装PostgreSQL 系统环境: Centos 7.7 PostgreSQL12.21. 安装依赖包# yum -y install readline readline-devel zlib zlib-devel pam pam-devel... ...
分类:
数据库 时间:
2020-05-25 10:53:08
阅读次数:
182
查询长时间不返回。 等MDL锁 有一个线程正在表t上请求或者持有MDL写锁,把select语句堵住了 处理方式: 找到谁持有MDL写锁,然后把它kill掉 查找方式: 1. mysql启动时设置 performance_schema=on 2. 等flush 1. session A,每行都调用一次 ...
分类:
其他好文 时间:
2020-05-24 12:10:32
阅读次数:
84
mkdir 命令 功能说明:创建目录 用法:mkdir [OPTION]... DIRECTORY... | 选项 | 作用 | | | | | p, parents | 自动按需创建父目录 | | v, verbose | 显示详细过程 | | m, mode=MODE | 创建目录时直接设定权限 ...
分类:
系统相关 时间:
2020-05-24 09:36:35
阅读次数:
57