参照着网上的爬虫案例（点我），先做了一个demo，基本的爬虫项目创建，以及数据抽取，数据分析，数据保存等等过程基本上有所掌握。
我的需求是需要检索指定的百度贴吧，根据指定的关键字库，搜索出含有关键字的链接，并抽取出来，用于后续告警。 因此，基于需求，分如下步骤：
第一：基于Scrapy创建爬虫项目；...
分类：
编程语言 时间：
2014-04-28 17:37:30
阅读次数：
707
1、认识需要配置的环境变量 1). PATH:
作用是指定命令搜索路径，打开/etc/environment可以看到PATH变量的值，该变量包含了一系列的路径。那些路径都是一些经常使用的系统命令的目录地址，如：、/sbin、/bin等。在bash终端执行命令时，系统会自动到PATH变量所指定的路.....
分类：
编程语言 时间：
2014-04-28 16:50:25
阅读次数：
659
PHP里做一般的获取内容时，用自带的file_get_contents()函数基本就足够了。当然，这个函数只能抓一些简单的数据，如果是遇到需要登录的页面，就不行了，而且效率及稳定性也不是很强。所以要是有特殊需求的话，还是用curl吧。不仅仅速度快，而且非常稳定，基本上用curl抓取失败的几率很小。而...
分类：
Web程序 时间：
2014-04-28 16:28:42
阅读次数：
763
想写个自动定会议室的程序。1、会议系统登录后，存在session，提交会议室的订单通过httpwatch拼接后获得链接地址，直接访问链接及可以了2、如果没有提前登录，就无法提交链接了。使用python+PAMIE实现了了自动登录的过程（登录的链接一直拼接不出来。。）下面说说这个研究过程。。1、一开始...
分类：
编程语言 时间：
2014-04-28 16:04:47
阅读次数：
848
环境变量分为系统级和用户级。系统级变量设置环境为/etc/environment和/etc/profile等，不要轻易修改，否则可能造成系统错误。用户级变量设置路径为～/.bashrc和~/.profile。.profile负责本用户所有环境变量的设置，而.bashrc只负责控制台调用的环境变量。所...
分类：
其他好文 时间：
2014-04-28 15:48:57
阅读次数：
511
这个天气预报采集是从中国天气网提取广东省内主要城市的天气并回显。本来是打算采集腾讯天气的，但是貌似它的数据是用js写上去还是什么的，得到的html文本中不包含数据，所以就算了爬虫简单说来包括两个步骤：获得网页文本、过滤得到数据。
1、获得html文本。 python在获取html方面十分方便，寥.....
分类：
编程语言 时间：
2014-04-28 15:31:09
阅读次数：
712
sed是一个很好的文件处理工具，本身是一个管道命令，主要是以行为单位进行处理，可以将数据行进行替换、删除、新增、选取等特定工作，下面先了解一下sed的用法sed命令行格式为：sed
[-nefri] ‘command’ 输入文本常用选项：-n∶使用安静(silent)模式。在一般 sed 的用法中，...
分类：
系统相关 时间：
2014-04-28 15:25:18
阅读次数：
578
--->12\n%@", [[NSString
stringWithUTF8String:__FILE__] lastPathComponent],__LINE__,__PRETTY_FUNCTION__ ,
[NSString stringWithFormat:(s), ##__VA_ARGS__...
分类：
移动开发 时间：
2014-04-28 15:19:16
阅读次数：
579
sudo apt-get install
python-software-propertiessudo apt-add-repository ppa:brightbox/ruby-ngsudo
apt-get updatesudo apt-get install ruby2.1ruby2.1 -vr...
分类：
其他好文 时间：
2014-04-28 14:18:29
阅读次数：
445
sudo update-grub运行结果：Generating grub configuration
file ...Warning: Setting GRUB_TIMEOUT to a non-zero value when
GRUB_HIDDEN_TIMEOUT is set is no lon...
分类：
其他好文 时间：
2014-04-28 13:01:32
阅读次数：
1053
