码迷,mamicode.com
首页 > 其他好文 > 详细

《分布式任务调度平台XXL-JOB》

时间:2018-04-23 12:14:43      阅读:467      评论:0      收藏:0      [点我收藏+]

标签:分布式开发   高可用   高并发   

  • 分布式任务调度平台XXL-JOB
    什么是定时任务?
    指定时间去执行任务
    Java实现定时任务方式?
    1.Thread br/>2.timerTask
    3.springboot中@Scheduled注解
    4.线程池中ScheduledExecutorService 定时线程
    5.Quartz
    一.Thread
    public class Demo01 {
    static long count = 0;
    public static void main(String[] args) {
    Runnable runnable = new Runnable() {
    br/>@Override
    public void run() {
    while (true) {
    try {
    Thread.sleep(1000);
    count++;
    System.out.println(count);
    } catch (Exception e) {
    // TODO: handle exception
    }
    }
    }
    };
    Thread thread = new Thread(runnable);
    thread.start();
    }
    }
    二.TimerTask
    /**

    • 使用TimerTask类实现定时任务
      */
      public class Demo02 {
      static long count = 0;

    public static void main(String[] args) {
    TimerTask timerTask = new TimerTask() {

        @Override
        public void run() {
            count++;
            System.out.println(count);
        }
    };
    Timer timer = new Timer();
    // 天数
    long delay = 0;
    // 秒数
    long period = 1000;
    timer.scheduleAtFixedRate(timerTask, delay, period);

    }

  • }
    三.ScheduledExecutorService
    使用ScheduledExecutorService是从Java
    JavaSE5的java.util.concurrent里,做为并发工具类被引进的,这是最理想的定时任务实现方式。
    public class Demo003 {
    public static void main(String[] args) {
    Runnable runnable = new Runnable() {
    public void run() {
    // task to run goes here
    System.out.println("Hello !!");
    }
    };
    ScheduledExecutorService service = Executors.newSingleThreadScheduledExecutor();
    // 第二个参数为首次执行的延时时间,第三个参数为定时执行的间隔时间
    service.scheduleAtFixedRate(runnable, 1, 1, TimeUnit.SECONDS);
    }
    }
    四.Quartz

    创建一个quartz_demo项目

    引入maven依赖

    <dependencies>

    <!-- quartz -->

    <dependency>

    <groupId>org.quartz-scheduler</groupId>

    <artifactId>quartz</artifactId>

    <version>2.2.1</version>

    </dependency>

    <dependency>

    <groupId>org.quartz-scheduler</groupId>

    <artifactId>quartz-jobs</artifactId>

    <version>2.2.1</version>

    </dependency>

    </dependencies>***

    任务调度类
    public class MyJob implements Job {

    public void execute(JobExecutionContext context) throws JobExecutionException {
        System.out.println("quartz MyJob date:" + new Date().getTime());
    }

    }

    启动类

    //1.创建Scheduler的工厂

    SchedulerFactory sf = new StdSchedulerFactory();

    //2.从工厂中获取调度器实例

    Scheduler scheduler = sf.getScheduler();

    //3.创建JobDetail

    JobDetail jb = JobBuilder.newJob(MyJob.class)

    .withDescription("this is a ram job") //job的描述

    .withIdentity("ramJob", "ramGroup") //job 的name和group

    .build();

    //任务运行的时间,SimpleSchedle类型触发器有效

    long time= System.currentTimeMillis() + 3*1000L; //3秒后启动任务

    Date statTime = new Date(time);

    //4.创建Trigger

    //使用SimpleScheduleBuilder或者CronScheduleBuilder

    Trigger t = TriggerBuilder.newTrigger()

    .withDescription("")

    .withIdentity("ramTrigger", "ramTriggerGroup")

    //.withSchedule(SimpleScheduleBuilder.simpleSchedule())

    .startAt(statTime) //默认当前时间启动

    .withSchedule(CronScheduleBuilder.cronSchedule("0/2 ?")) //两秒执行一次

    .build();

    //5.注册任务和定时器

    scheduler.scheduleJob(jb, t);

    //6.启动 调度器

    scheduler.start();

        **  Quartz表达式**

    表达式的网址:http://cron.qqe2.com/
    进去之后
    http://i2.51cto.com/images/blog/201804/23/1bcb54c6e97b1cff8b060fdf183d372f.png
    选择 每5秒执行一次的表达式 ,需要什么自己配

    **分布式情况下定时任务会出现哪些问题?

    分布式集群的情况下,怎么保证定时任务不被重复执行**

    分布式定时任务解决方案:

    # ①使用zookeeper实现分布式锁 缺点(需要创建临时节点、和事件通知不易于扩展)
    # ②使用配置文件做一个开关 缺点发布后,需要重启
    # ③数据库唯一约束,缺点效率低
    **# ④使用分布式任务调度平台 XXLJOB***

    使用 XXLJOB的好处

    使用传统方式解决任务调度的缺点:

    # 1.没有容错机制
    # 2.不能解决高并发
    # 3.资源没有被利用**

    使用分布式任务调度平台:

    # 1.高可用
    # 2.负载均衡
    # 3.容错机制
    # 4.支持集群
    # 5.管理机制 报警方案
    # 6.自动管理
    #7.学习简单等

    XXLJOB介绍

    1、简单:支持通过Web页面对任务进行CRUD操作,操作简单,一分钟上手;

    2、动态:支持动态修改任务状态、暂停/恢复任务,以及终止运行中任务,即时生效;

    3、调度中心HA(中心式):调度采用中心式设计,“调度中心”基于集群Quartz实现,可保证调度中心HA;

    4、执行器HA(分布式):任务分布式执行,任务"执行器"支持集群部署,可保证任务执行HA;

    5、任务Failover:执行器集群部署时,任务路由策略选择"故障转移"情况下调度失败时将会平滑切换执行器进行Failover;

    6、一致性:“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行;

    7、自定义任务参数:支持在线配置调度任务入参,即时生效;

    8、调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞;

    9、弹性扩容缩容:一旦有新执行器机器上线或者下线,下次调度时将会重新分配任务;

    10、邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件;

    11、状态监控:支持实时监控任务进度;

    12、Rolling执行日志:支持在线查看调度结果,并且支持以Rolling方式实时查看执行器输出的完整的执行日志;

    13、GLUE:提供Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持30个版本的历史版本回溯。

    14、数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性;

    15、任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔;

    16、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用;

    17、任务注册: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时,也支持手动录入执行器地址;

    18、路由策略:执行器集群部署时提供丰富的路由策略,包括:第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等;

    19、运行报表:支持实时查看运行数据,如任务数量、调度次数、执行器数量等;以及调度报表,如调度日期分布图,调度成功分布图等;

    20、脚本任务:支持以GLUE模式开发和运行脚本任务,包括Shell、Python等类型脚本;

    21、阻塞处理策略:调度过于密集执行器来不及处理时的处理策略,策略包括:单机串行(默认)、丢弃后续调度、覆盖之前调度;

    22、失败处理策略;调度失败时的处理策略,策略包括:失败告警(默认)、失败重试;

    23、分片广播任务:执行器集群部署时,任务路由策略选择"分片广播"情况下,一次任务调度将会广播触发对应集群中所有执行器执行一次任务,同时传递分片参数;可根据分片参数开发分片任务;

    24、动态分片:分片广播任务以执行器为维度进行分片,支持动态扩容执行器集群从而动态增加分片数量,协同进行业务处理;在进行大数据量业务操作时可显著提升任务处理能力和速度。

    25、事件触发:除了"Cron方式"和"任务依赖方式"触发任务执行之外,支持基于事件的触发任务方式。调度中心提供触发任务单次执行的API服务,可根据业务事件灵活触发。

    XXLJOBGitHub地址
    https://github.com/xuxueli/xxl-job 下载
    目前github排名第一

    文档
    http://www.xuxueli.com/xxl-job/#/?id=_21-%e5%88%9d%e5%a7%8b%e5%8c%96%e8%b0%83%e5%ba%a6%e6%95%b0%e6%8d%ae%e5%ba%93
    步骤:
    ①部署: xxl-job-admin 作为注册中心
    ②创建执行器(具体调度地址) 可以支持集群
    ③配置文件需要填写xxl-job注册中心地址
    ④每个具体执行job服务器需要创建一个netty连接端口号
    ⑤需要执行job的任务类,集成IJobHandler抽象类注册到job容器中
    ⑥Execute方法中编写具体job任务

    下载之后用开发工具导入,这是结构图

    1.http://i2.51cto.com/images/blog/201804/23/433c36714e87458c3d17a029b91037fd.png 找到master doc 把sql在数据库执行一遍

    2.http://i2.51cto.com/images/blog/201804/23/d0a714f93bb5cc60574fe4dc10bd00bc.png 找到 admin 资源 属性文件把数据库链接改一下

    xxl.job.login.username=admin

    xxl.job.login.password=123456 这是配置用户名和密码等会会用到

    3.

    把admin 部署到tomcat启动

    http://i2.51cto.com/images/blog/201804/23/b2fa2768bea97ed037fa3c693e73bc50.png 登录界面 输入刚才配置好的用户名和密码

    http://i2.51cto.com/images/blog/201804/23/fe27dff4215c0e34762b70187044d120.png 登录之后的界面

    我们在springboot工程中service包下建立一个继承IJobHandler的类 ,写一个打印一句话

    System.out.println("===》TestJobHandler正在执行定时任务,端口号是:"+port);

    http://i2.51cto.com/images/blog/201804/23/9f022076b9cb5cf3564f0bfb1c6d2f79.png

    在配置文件里面配置 xxl的地址就是你tomcat部署的那个地址

    http://i2.51cto.com/images/blog/201804/23/fc044cff9c7bec56d81261dda28c7715.png

    配置执行的地址名称 端口号 等会在admin管理中心会用到

    进入执行器管理 新增执行器

    http://i2.51cto.com/images/blog/201804/23/235c4e2f33620912cb5b7bfacc298f26.png 机器地址就是你在springboot项目中配置文件配置的

    进入任务管理选择你刚才新增的执行器

    http://i2.51cto.com/images/blog/201804/23/aff4f39e98d7119074973aa7fdf04b63.png

    再选择新增任务

    http://i2.51cto.com/images/blog/201804/23/d6ac6abbacff7e85d9de8a1a7894a9df.png

    那个表达式可以自己配置,jobHandler就是你在@JobHander("testJobHandler")注解配置的名称

    点击 执行

    http://i2.51cto.com/images/blog/201804/23/330df85c6eb46a5b6b58b50c14a91d48.png

    结果

    http://i2.51cto.com/images/blog/201804/23/26a51ac70b38b4d2d06b7f3a70e9b780.png

    5秒执行一次 ,还可以支持集群

    http://i2.51cto.com/images/blog/201804/23/fb287e37bc6478c7d1d8c8d7bc0db0e5.png路由策源选择轮询,在执行器管理,配置机器地址,用逗号隔开

    http://i2.51cto.com/images/blog/201804/23/4011b77b48a96d873ae28db3b702f3fc.png

    运行

    最后介绍完毕 ,有时间再更新 ,第一次写。

    《分布式任务调度平台XXL-JOB》

    标签:分布式开发   高可用   高并发   

    原文地址:http://blog.51cto.com/13627920/2106670

    (0)
    (0)
       
    举报
    评论 一句话评论(0
    登录后才能评论!
    © 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
    迷上了代码!