码迷,mamicode.com
首页 >  
搜索关键字:udf    ( 414个结果
【ODPS】UDF基础
?? UDF全称User Defined Function,即用户自定义函数。ODPS提供了很多内建函数来满足用户的计算需求,同时用户还可以通过创建自定义函数来满足 不同的计算需求。 UDF种类: UDF 分类 描述 User Defined Scalar Function,通常也称之为UDF 用户自定义标量值函数(User Defi...
分类:其他好文   时间:2015-08-21 15:44:03    阅读次数:286
hive计算网页停留时长
hive表结构如下:   create table pv_user_info( session_id string, user_id string, url string, starttime bigint ); 主要就是这几个字段有用,省略其他。   实现方式:userid和sessionid分组后并按时间降序排序,降序排序后,第一行就是该用户最后一次浏览的网页。最后一行是第一次...
分类:Web程序   时间:2015-08-21 15:38:04    阅读次数:213
java mysql自定义函数UDF之调用c函数
正如sqlite可以定义自定义函数,它是通过API定义c函数的,不像其他,如这里的mysql。sqlite提供原生接口就可以方便的调用其他语言的方法,同样的mysql也支持调用其它语言的方法。 google "mysql call c function"发现一片文章 MySQL User De...
分类:数据库   时间:2015-08-12 23:20:46    阅读次数:644
hive中udf读写hbase
在大数据开发过程中经常会遇到,将hive中处理后的结果写入hbase中,每次都要写java程序会非常浪费时间,我们就想了一个办法 ,用hive的udf来实现。 只需要调用同一个udf,将表名字段名以及每一个字段的值作为udf的参数,就可以实现写hbase了。 这样大大的节省了开发时间,提升了开发效率。 大家可以按照这种思路写自己需要的功能。这里只简单的列举几个供大家参考,具体操作如下:一、依赖的ja...
分类:其他好文   时间:2015-08-03 19:13:59    阅读次数:256
Pig用户自定义函数(UDF)
我们以气温统计和词频统计为例,讲解以下三种用户自定义函数。用户自定义函数什么时候需要用户自定义函数呢?和其它语言一样,当你希望简化程序结构或者需要重用程序代码时,函数就是你不二选择。Pig的用户自定义函数可以用Java编写,但是也可以用Python或Javascript编写。我们接下来以Java为例...
分类:其他好文   时间:2015-07-30 22:58:20    阅读次数:166
Hive自定义函数(UDF、UDAF)
当Hive提供的内置函数无法满足你的业务处理需要时,此时就可以考虑使用用户自定义函数。UDF用户自定义函数(user defined function)–针对单条记录。 创建函数流程 1、自定义一个Java类 2、继承UDF类 3、重写evaluate方法 4、打成jar包 6、在hive执行add jar方法 7、在hive执行创建模板函数 8、hql中使用Demo01: 自定义...
分类:其他好文   时间:2015-07-22 00:05:25    阅读次数:296
Hive操作符和函数
参考资料 https://cwiki.apache.org/confluence/display/Hive/LanguageManual+UDF#LanguageManualUDF-HiveOperatorsandUserDefinedFunctions%28UDFs%29显示显示函数信息SHOW ...
分类:其他好文   时间:2015-07-08 20:22:25    阅读次数:165
pig询问top k,每个返回hour和ad_network_id最大的两个记录(SUBSTRING,order,COUNT_STAR,limit)
pig里面有一个TOP功能。我不知道为什么用不了。有时间去看看pig源代码。SET job.name 'top_k';SET job.priority HIGH;--REGISTER piggybank.jar;REGISTER wizad-etl-udf-0.1.jar;--DEFINE Sequ...
分类:Web程序   时间:2015-07-08 14:30:14    阅读次数:137
MySQL和MariaDB 备份 主从 读写分离
查询缓存:如何判断是否命中:通过查询语句的哈希值判断:哈希值考虑的因素包括查询本身、要查询的数据库、客户端使用协议版本,...查询语句任何字符上的不同,都会导致缓存不能命中;哪此查询可能不会被缓存?查询中包含UDF、存储函数、用户自定义变量、临时表、mysql库中系统..
分类:数据库   时间:2015-06-23 16:00:01    阅读次数:187
[转]HIVE UDF/UDAF/UDTF的Map Reduce代码框架模板
FROM :http://hugh-wangp.iteye.com/blog/1472371自己写代码时候的利用到的模板UDF步骤:1.必须继承org.apache.hadoop.hive.ql.exec.UDF2.必须实现evaluate函数,evaluate函数支持重载Java代码package...
分类:其他好文   时间:2015-06-18 23:47:50    阅读次数:138
414条   上一页 1 ... 31 32 33 34 35 ... 42 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!