发布时间:2024-09-25 13:01
1、查看系统自带的函数
hive> show functions;
2、显示自带的函数的用法
hive> desc function upper;
3、详细显示自带的函数的用法
hive> desc function extended upper;
当Hive提供的内置函数无法满足你的业务处理需要时,此时就可以考虑使用用户自定义函数。
1、UDF(User-Defined-Function)
一进一出
2、UDAF(User-Defined Aggregation Function)
聚集函数,多进一出
类似于:count/max/min
3、UDTF(User-Defined Table-Generating Functions)
一进多出
如lateral view explore()
继承org.apache.hadoop.hive.ql.UDF
需要实现evaluate函数;evaluate函数支持重载;
cloudera
https://repository.cloudera.com/artifactory/cloudera-repos/
org.apache.hadoop
hadoop-common
2.6.0-cdh5.14.0
org.apache.hive
hive-exec
1.1.0-cdh5.14.0
org.apache.maven.plugins
maven-compiler-plugin
3.0
1.8
UTF-8
org.apache.maven.plugins
maven-shade-plugin
2.2
package
shade
*:*
META-INF/*.SF
META-INF/*.DSA
META-INF/*/RSA
public class ItcastUDF extends UDF {
public Text evaluate(final Text s) {
if (null == s) {
return null;
}
//返回大写字母
return new Text(s.toString().toUpperCase());
}
}
进入hive的shell窗口添加我们的jar包
//add jar jar包所在的绝对路径
add jar /tmp/original-task_20191124_udf-1.0-SNAPSHOT.jar;
<--创建临时函数-->
create temporary function tolowercase as 'com.czxy.udf.ItcastUDF'; //包名.类名
<--删除临时函数-->
drop temporary function tolowercase
<--创建永久函数-->
create function tolowercase1 as 'com.czxy.udf.ItcastUDF';
<--删除永久函数-->
drop function tolowercase1;
select tolowercase('abc');
(1)UDF必须要有返回类型,可以返回null,但是返回类型不能为void;
(2)UDF中常用Text/LongWritable等类型,不推荐使用java类型;
package com.czxy.demo01;
public class custom_function {
public String gettr(String data){
return data+"哈哈哈哈哈";
}
}
add jar jar包在虚拟机上的绝对路径
select reflect('包名.类名','函数名','传递到函数的参数');
hive (default)> add jar /opt/original-task_20191124_udf-1.0-SNAPSHOT.jar;
Added [/opt/original-task_20191124_udf-1.0-SNAPSHOT.jar] to class path
Added resources: [/opt/original-task_20191124_udf-1.0-SNAPSHOT.jar]
hive (default)> select reflect('com.czxy.demo01.custom_function','getStr','chundidecanshu ');
OK
_c0
chundidecanshu aaaaa
Time taken: 12.427 seconds, Fetched: 1 row(s)
hive (default)>