多线程之Master-Worker工作模式学习_小博的博客-程序员秘密

技术标签: JAVA  设计模式  

Master-Worker设计模式介绍
Master-Worker模式是常用的并行设计模式。核心思想是,系统由两个角色组成,Master和Worker,Master负责接收和分配任务,Worker负责处理子任务。任务处理过程中,Master还负责监督任务进展和Worker的健康状态;Master将接收Client提交的任务,并将任务的进展汇总反馈给Client。各角色关系如下图

Master-Worker模式满足于可以将大任务划分为小任务的场景,是一种分而治之的设计理念。通过多线程或者多进程多机器的模式,可以将小任务处理分发给更多的CPU处理,降低单个CPU的计算量,通过并发/并行提高任务的完成速度,提高系统的性能。 

具体细节如上图,Master对任务进行切分,并放入任务队列;然后,触发Worker处理任务。实际操作中,任务的分配有多种形式,如Master主动拉起Workder进程池或线程池,并将任务分配给Worker;或者由Worker主动领取任务,这样的Worker一般是常驻进程;还有一种解耦的方式,即Master指做任务的接收、切分和结果统计,指定Worker的数量和性能指标,但不参与Worker的实际管理,而是交由第三方调度监控和调度Worker。
1.Master类的编写
public class Master {
 
    // 1.应该有一个装任务的集合ConcurrentLinkedQueue
    private ConcurrentLinkedQueue<Object> workQueue = new ConcurrentLinkedQueue<Object>();
 
    // 2.使用普通的HashMap去承装所有的Worker对象
    private Map<String, Thread> workers = new HashMap<String, Thread>();
 
    // 3.要用一个ConcurrentHashMap去承装每一个Worker执行任务的结果集合,并发执行
    private ConcurrentHashMap<String, Object> resultMap = new ConcurrentHashMap<String, Object>();
 
    // 4.要有一个构造方法
    public Master(Worker worker, Integer workerCount) {
        // 创建worker对Maset中任务队列的引用,用于任务的领取
        worker.setWorkerQueue(this.workQueue);
        // 创建worker对Maset中结果集合的引用,用于任务的提交
        worker.setResultMap(this.resultMap);
        // 循环为多个worker创建线程
        for (int i = 0; i < workerCount; i++) {
            workers.put("W" + String.valueOf(i), new Thread(worker));
        }
    }
 
    // 5.提交方法
    public void Submit(Object obj) {
        this.workQueue.add(obj);
    }
 
    // 6.启动应用程序,让所有的worker开始工作
    public void execute() {
        // 启动每个worker线程开始工作
        for (Map.Entry<String, Thread> me : workers.entrySet()) {
            me.getValue().start();
        }
    }
 
    // 7.判断线程是否执行完毕
    public boolean isComplete() {
        // 判断当所有的worker是否都停止
        for (Map.Entry<String, Thread> me : workers.entrySet()) {
            if (me.getValue().getState() != Thread.State.TERMINATED) {
                return false;
            }
        }
        return true;
    }
 
    // 8.获取worker的计算结果
    public int getResult() {
        int sum = 0;
        for (Map.Entry<String, Object> me : resultMap.entrySet()) {
            sum += (int) me.getValue();
        }
        return sum;
    }
}
1.首先我们需要在Master中定义一个承装任务的集合,那这里的集合我们选择什么好呢?这里不涉及到阻塞,所以我们选择ConcurrentLinkedQueue就好。
2.我们还要选择一个普通的HashMap来装worker,因为他不涉及到高并发。
3.要选择一个容器来承装worker计算的结果集,这个结果集涉及到多线程操作,那么我们选择使用ConcurrentHashMap
4.要创建一个构造方法,把任务集合和结果集合的队列和ConcurrentHashMap传入到每一个worker作为引用!因为每个worker都要从队列中拿取任务然后再把结果集都存放在ConcurrentHashMap这个结果集中,在这个构造方法中要把每一个workr实例对象装到Master的hashMap中。
5.要有一个提交任务的方法Submit,把任务装到队列中。
6.要有个执行的方法execute,让每一个worker线程都启动start方法。
7.创建一个判断线程是否结束的方法isComplete,如果结束就获取结果集计算,在这个方法中写一个while循环去判断是否线程都已经结束,如果都结束就代表所有任务都已经计算完成。
8.创建一个方法获取ConcurrentHashMap中的所有结果集并且计算,上面这个例子中我们计算了Task中的price的和。
2.Worker类的编写如下
public class Worker implements Runnable{
    //定义每一个ConcurrentLinkedQueue队列去引用Master中的ConcurrentLinkedQueue
    private ConcurrentLinkedQueue<Object> workQueue;
    
    //定义一个ConcurrentHashMap去引用Master中的ConcurrentHashMap承装计算的结果集
    private ConcurrentHashMap<String,Object> resultMap; 
 
    //创建ConcurrentLinkedQueue引用
    public void setResultMap(ConcurrentHashMap<String, Object> resultMap) {
        this.resultMap = resultMap;
    }
    //创建ConcurrentHashMap引用
    public void setWorkerQueue(ConcurrentLinkedQueue<Object> workQueue) {
        this.workQueue = workQueue;
    }
    
    //真正执行业务的方法
    public static Object handle(Object input) {
        Object output=null;
        return output;
    }
    
    //run方法中放计算逻辑
    @Override
    public void run() {
        while(true){
            //从队列中取出任务并删除
            Object input = workQueue.poll();
            //当队列中无元素退出循环
            if(null==input) 
                break;
            Object output = Data.handle(input);
             this.resultMap.put(Integer.toString(input.hashCode()),output);
        }
    }
    
}
1.定义每一个ConcurrentLinkedQueue队列去引用Master中的ConcurrentLinkedQueue。
2.定义一个ConcurrentHashMap去引用Master中的ConcurrentHashMap承装计算的结果集。
3.创建ConcurrentLinkedQueue和ConcurrentHashMap的引用。
4.run方法中放计算逻辑。
5.真正执行业务的方法,此处handle方法中只做了定义,这样当我们有任务要执行时可以创建一个类去继承Worker类,这样就可以更加的灵活,也体现了面向对象的继承。
3.创建Data类去阶乘Worker,重写handle方法
public class Data extends Worker{
    
    public static Object handle(Object input) {
        try {
            Thread.sleep(500);
        } catch (InterruptedException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
        Task task = (Task) input;
        Object output = task.getPrice();
        return output;
    }
}
4.创建一个Task类对象
public class Task {
private int id;
private String name;
private int price;
public int getId() {
    return id;
}
public void setId(int id) {
    this.id = id;
}
public String getName() {
    return name;
}
public void setName(String name) {
    this.name = name;
}
public int getPrice() {
    return price;
}
public void setPrice(int price) {
    this.price = price;
}
 
}
5.创建一个Client端去测试Master-Worker方法
public class Client {
 
    public static void main(String[] args) {
        System.out.println(Runtime.getRuntime().availableProcessors());//获取机器的可用线程
        Master master = new Master(new Data(),Runtime.getRuntime().availableProcessors());
        //提交任务
        Random random = new Random();
        for(int i=1;i<=100;i++){
            Task task = new Task();
            task.setId(i);
            task.setName("name"+i);
            task.setPrice(random.nextInt(1000));
            master.Submit(task);
        }
        //开始执行
        master.execute();
        //执行开始时间
        long start = System.currentTimeMillis();
        while (true) {
            //判断当所有线程都结束后打印结果
            if (master.isComplete()) {
                long end = System.currentTimeMillis()-start;//看执行耗时
                int result = master.getResult();
                System.out.println("执行结果  "+ result + " 执行时间   " + end);
                break;
            }
        }
        
    }
}
6.打印结果
4
执行结果  54205 执行时间   12503

我们发现java.lang.Runtime.availableProcessors() 方法返回到Java虚拟机的可用的处理器数量。此值可能会改变在一个特定的虚拟机调用。应用程序可用处理器的数量是敏感的,因此偶尔查询该属性,并适当地调整自己的资源使用情况.我的机器是4,每个人的结果可能不同,我们用4个worker去执行大概需要12S,可以改变上面Client中Worker的数量测试结果。发现,开的Worker数量越大,计算所用时间就越短!

总结:
    Master-Worker模式是一种将串行任务并行化的方案,被分解的子任务在系统中可以被并行处理,同时,如果有需要,Master进程不需要等待所有子任务都完成计算,就可以根据已有的部分结果集计算最终结果集。
--------------------- 
作者:荒野的尘埃 
来源:CSDN 
原文:https://blog.csdn.net/a347911/article/details/53421102 
版权声明:本文为博主原创文章,转载请附上博文链接!

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/fyqcdbdx/article/details/86290868

智能推荐

2021-01-06_2021-06-21原文:lename:_weixin_46315812的博客-程序员秘密

BytecodeInjectPlugin -- 一个支持自定义注入 Java 代码的库 JackWaiting 2021-01-05 12:09...

专治 MySQL 乱码, 再也不想看到 � �!!_架构文摘的博客-程序员秘密

点击蓝色“架构文摘”关注我哟加个“星标”,每天上午 09:25,干货推送!作者:spermwhale0简书:https://www.jianshu.com/p/94d6b75bdf...

第七周周任务——树状数组_Backdiy的博客-程序员秘密

前言第七周周任务,树状数组之前学习过一些基础的,所以借着这次周任务,我正好可以掌握树状数组的高级操作,比如二维树状数组啥的。ps:本文章是解题文章而不是学习文章,如需学习请移步。周任务如下目录敌兵布阵2019牛客暑期多校训练营(第七场)E-Find the median2019牛客暑期多校训练营(第七场)F-Energy stones开始敌兵布阵#include&lt;i...

ACM题目分类——北京大学(POJ)篇_poj2792_huangruhuan的博客-程序员秘密

北大ACM基本题练习      (*  *二者必选一) 1  1000 1047 1068 2  1125 1131 1164 3  1218 1298 1250 4  1316 1321 1331 5  1401 1455 1491 6  1517 1543 1565 7  1681 1691 1658  8  1663 1664 1742 9  1835 1862 1833 1844 10

‘numpy.float64‘ object cannot be interpreted as an integer_AI视觉网奇的博客-程序员秘密

解决ok可以的代码:import numpy as npaaa=np.linspace(0.2, 1, 9)print(aaa)报错的代码:import numpy as npccc=np.round((0.95 - .5) / .05)print(ccc)iouThrs = np.linspace(0.5, 0.95, ccc + 1, endpoint=True)print(iouThrs)原因:ccc+1这个参数需要是int类型,不能是flo..

IN和EXISTS、not in 和not exists的效率详解_weixin_30326745的博客-程序员秘密

从效率来看:1) select * from T1 where exists(select 1 from T2 where T1.a=T2.a) ;T1数据量小而T2数据量非常大时,T1&lt;&lt;T2 时,1) 的查询效率高。2) select * from T1 where T1.a in (select T2.a from T2) ;T1数据量非常大而T2数...

随便推点

深圳核芯物联国产蓝牙AOA高精度融合定位生态伙伴合能培训第11场杭州站将于2021年7月14日全天在杭州任联科技有限公司进行_岳毅恒18918935218的博客-程序员秘密

深圳核芯物联国产蓝牙AOA高精度融合定位生态伙伴合能培训第11场杭州站将于2021年7月14日全天在杭州任联科技有限公司进行国产化蓝牙AOA高精度融合定位生态伙伴合能培训第10场,2021年7月9日北京站刚结束,我们的第11场,杭州站就启动了。为我们提供场地的合作伙伴杭州任联公司,专注于物联网新基建,已在32个县市落地运营。 创新驱动 万物任联。本次培训的地点:杭州市滨江区长河路475号和瑞科技广场S2-1105 【报名后需要联系我们,楼宇有门禁需要注册进入】欢迎大家联系我们报名参

A程序后台启动的B的Activity后,A程序后台又启动了A的Activity,如何在A的Activity中按返回不显示B的Activity_zuitamin2508的博客-程序员秘密

A程序是我自己的程序B程序是其他人的程序我在A程序的后台通过StartActivity的方式启动了B程序的一个Activity。过一段时间后,A程序的后台又通过 am start 命令方式启动了 A程序的一个Activity(此时用StartActivity的形式无法调用起来,原因未知)。现在在A的Activity中按返回会退回到B的Activity,我想要实现的功能是在退

SaltStack常用模块_小、阿杰的博客-程序员秘密

SaltStack常用模块SaltStack模块介绍环境说明角色主机名IP地址salt-mastermaster192.168.47.115salt-minionminion192.168.47.120官方文档:https://docs.saltproject.io/en/latest/Module是日常使用SaltStack接触最多的一个组件,其用于管理对象操作,这也是SaltStack通过Push的方式进行管理的入口,比如我们日常简单的执行命令、查看包安

步进电机编写单4拍或4-8拍方式的汇编或c语言控制程序.,基于SCM和PLC的两种步进电机控制方法..._爱吃考拉的小粽子的博客-程序员秘密

引 言步进电机位移与输入脉冲信号数相对应,精度高、响应特性好、可靠性高、速度可在较宽范围内平滑调节,是控制系统中一种重要的自动化执行元件。SCM(Single Chip Microcomputer,单片机)是把组成微型计算机的中央处理器、存储器、输入输出接口电路、定时器/计数器等制作在一块集成电路芯片中,它具有小巧、低功耗、指令系统丰富等优点,成为工业控制的主角。PLC(Programmable ...

坚持#第235天~哎呀,最近培训云计算忙得都把写博客的大事给忘了,赶快捡起来_2013年沈阳尚观培训有云计算吗_libanxian9527的博客-程序员秘密

培训云计算从2017年11月14日开始,我就在尚观培训云计算啦大半个月的概括、总结、学习体会、知识点(很杂,因为刚想起来要写博客,就把上课做过的笔记全写上去了,没整理):慕课学习方式!在尚观这里的生活每天都过得很充实很开心很快乐linux桌面上的home是里面的root文件夹云计算结束进程的时候要慎重,不然就会导致浪费很多时间  虚拟机里面和魔兽一样不能宽屏

最全Anaconda 安装obspy踩过的坑以及解决办法_qq_20331559的博客-程序员秘密

总结:Anaconda 安装obspy踩过的坑以及解决办法最近需要处理一些地震数据,下载安装了obspy. 谁又想到,这么简单的一个module,安装过程中真的有很多坑呀。为了避免大家在使用过程中遇到相同的坑,我简要分享一下我安装obspy的过程。win10 系统,Anaconda3采用官网给的安装方法:https://github.com/obspy/obspy/wiki/Installation-via-Anaconda在这里你会找到obspy非常简单的安装过程。如果你觉得事情这么简单的话,那你