自定义Mapper实现 自定义Reducer实现 编写Driver类 本地测试开发 上面使用的都是基于 的,那么如何使用本地呢? 强烈建议 使用 进行测试和开发,非常高效,Debug也很方便。 代码升级 使用代码,删除 的output目录 map端聚合 处理逻辑和Reducer完全一模一样, 即可! ...
分类:
其他好文 时间:
2019-04-03 12:36:05
阅读次数:
167
背景: 最近在筹建一个协同开发的开源项目NWechat,项目开始前,有几样事情要准备。 1)项目管理系统的选定; 2)源码版本控制系统的选定; 3)开发环境的搭建。 4)团队的建设。 开发环境搭建便是项目启动前,要做的几件事情之一。 一、问题是这样的 在微信开发的时候,必须要输入URL,而该URL必 ...
分类:
微信 时间:
2019-04-02 21:31:18
阅读次数:
285
环境说明: 主服务器:CentOS7.5 从服务器:Windows10(本地测试机)1.配置master(主服务器,CentOS7.5)1.1首先查看CentOS上面的MySQL是否启动systemctlstatusmysqld1.2修改MySQL配置文件vi/etc/my.cnf添加以下内容:#服务器唯一id,默认是1(主从都必须不一样)server-id=1000#启动二进制日志名称为my
分类:
数据库 时间:
2019-03-14 16:39:19
阅读次数:
248
使用ajax本地测试传输数据时,遇到的跨域问题,如 是因为,ajax只能用于请求服务器的数据,而在本地测试,打开的文件是以 file:// 的形式, 所以报错 可以通过 nginx 建立反向代理,处理静态文件, 也可以使用 wamp 集成环境进行伪服务器的访问, 通过链接: https://nchc ...
分类:
Web程序 时间:
2019-03-10 17:38:22
阅读次数:
482
maven中配置profile节点: spring boot application.properties文件中引用maven profile节点的值: 1.概述 按照项目开发的流程,项目工程需要经历开发人员本地测试环境(dev),进入测试阶段后有测试环境(test),测试无误后需要将程序发布到生产 ...
分类:
编程语言 时间:
2019-02-27 15:59:18
阅读次数:
168
Spark运行模式 Local 多用于本地测试,如在eclipse,idea中写程序测试等。 Standalone Standalone是Spark自带的一个资源调度框架,它支持完全分布式。 Yarn Hadoop生态圈里面的一个资源调度框架,Spark也是可以基于Yarn来计算的。 Mesos 资 ...
分类:
其他好文 时间:
2019-02-23 01:35:09
阅读次数:
214
今天算是把js跨域请求搞定了,想实现跨越,首先想到的是JSONP,但是具体去做的时候,发现有很多坑。在本地测试好之后又发现目标网站做了https证书认证,也就是实用的jsonp请求地址必须是https请求方式。。。无语。。继续实现https(后续会另开一篇关于lnmp下搭建https并自动续签证书的 ...
分类:
其他好文 时间:
2019-02-19 11:48:30
阅读次数:
170
0x01 php简单的反序列化 这题是在网上看到的,原题连接不太了解,但是源码题目给了出来,稍微下文件名和排版在本地测试 题目的相关魔术方法调用时机 __destruct()类似于c中的析构函数,在对象被销毁时调用 __toString()在这里没啥用 __wakeup()在进行反序列化的时候调用 ...
分类:
Web程序 时间:
2019-02-09 15:11:32
阅读次数:
243
主程序版本:v4.0.23957 网马库版本:2018 07 20 通过本地fuzz,发现 就可以直接过,在我印象中这种方法以前爆出来被杀过,不知道为什么新版本还是可以使用。 测试过程 本地测试 " " " " 安全狗官网 好像更简单,直接 就过了。 " " " " 所以,安全狗也不一定安全,不过它 ...
分类:
其他好文 时间:
2019-02-04 16:43:40
阅读次数:
145
项目中用到python操作hdfs的问题,一般都是使用python的hdfs包,然而这个包初始化起来太麻烦,需要: 可以看到python需要指定master的地址,平时Scala使用的时候不用这样,如下: 如果我们要在本地测试和生产打包发布的时候,python这样需要每次修改master地址的方式很 ...
分类:
编程语言 时间:
2019-01-24 13:21:35
阅读次数:
202