通常而言我们的kafka的配置如下所示： broker.id=0
num.network.threads=2
num.io.threads=8
socket.send.buffer.bytes=1048576
socket.receive.buffer.bytes=1048576
socket.request.max.bytes=1...
分类：
其他好文 时间：
2014-09-12 17:29:24
阅读次数：
215
今天重新调整了下配置文件，之前的apache_errorlog未匹配到clientip。1.首先修改shipper.confinput{
file{
type=>"apache-accesslog"
path=>"/var/log/httpd/access_log"
}
file{
type=>"apache-errorlog"
path=>"/var/log/httpd/error_log"
}
}
filter{
if[type..
分类：
其他好文 时间：
2014-09-12 17:24:04
阅读次数：
786
收集流程1nxlog=>2logstash=>3elasticsearch1.nxlog使用模块im_file收集日志文件，开启位置记录功能2.nxlog使用模块tcp输出日志3.logstash使用input-tcp，收集日志，并格式化，输出至eswindows上面的nxlog配置文件nxlog.conf##Thisisasampleconfigurationfile.Seethenxlo..
分类：
Windows程序 时间：
2014-09-10 19:44:21
阅读次数：
1381
spark自带的example中就有streaming结合kafka使用的案例：$SPARK_HOME/examples/src/main/scala/org/apache/spark/examples/streaming/KafkaWordCount.scala使用方法参见代码描述：Usage: ...
分类：
其他好文 时间：
2014-09-10 17:29:50
阅读次数：
219
使用版本：kafka_2.10-0.8.1.1安装：tar -zxvf kafka_2.10-0.8.1.1.tgz -C ~/app/添加环境变量：.bash_profileexport KAFKA_HOME=/home/spark/app/kafka_2.10-0.8.1.1export PAT...
分类：
其他好文 时间：
2014-09-10 17:18:30
阅读次数：
231
阅读前提： ????????1 ： 您可能需要对 ?logback 日志系统有所了解 ???? ? ?2 ：您可能需要对于?kafka 有初步的了解 ???? ? ?3：请代码查看之前，请您仔细参考系统的业务图解 ? ? ? ? ...
分类：
其他好文 时间：
2014-09-10 16:01:21
阅读次数：
258
一、什么是kafka?kafka是LinkedIn开发并开源的一个分布式MQ系统，现在是Apache的一个孵化项目。在它的主页描述kafka为一个高吞吐量的分布式（能将消息分散到不同的节点上）MQ。Kafka仅仅由7000行Scala编写，据了解，Kafka每秒可以生产约25万消息（50MB），每秒处理55万消息（11..
分类：
其他好文 时间：
2014-09-10 02:50:40
阅读次数：
342
zabbix 监控 logstash安装社区扩展包wget http://download.elasticsearch.org/logstash/logstash/logstash-contrib-1.4.2.tar.gz解压后覆盖 /usr/local/logstash-1.4.2/配置Zabbi...
分类：
其他好文 时间：
2014-09-05 18:00:01
阅读次数：
458
[2014-09-05?10:04:26,551][INFO?][node?????????????????????]?[Yukio]?started
[2014-09-05?10:05:49,076][DEBUG][action.search.type???????]?[Yukio]?[logstash-2014.08...
分类：
其他好文 时间：
2014-09-05 14:36:51
阅读次数：
398
httptest4net是可以自定义HTTP压力测试的工具，用户可以根据自己的情况编写测试用例加载到httptest4net中并运行测试。由于最近需要对elasticsearch搜索集群进行一个不同情况的测试，所以针对这个测试写了个简单的测试用例。代码 1 [Test("ES base"...
分类：
Web程序 时间：
2014-09-05 12:51:31
阅读次数：
387
