码迷,mamicode.com
首页 > 其他好文 > 详细

rabbitmq--消息队列

时间:2019-04-23 21:13:23      阅读:193      评论:0      收藏:0      [点我收藏+]

标签:数据丢失   listen   模型   不同   linux   其它   默认   bsp   规则   

Message Queue

  概念:

 

  MQ 全称为 Message Queue, 消息队列( MQ )


  是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息(针 对应用程序的数据)来通信,而无需专用连接来链接它们。
消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用 彼此来通信,直接调用通常是用于诸如远程过程调用的技术。排队指的是应用程 序通过队列来通信。队列的使用除去了接收和发送应用程序同时执行的要求。
  排队指的是应用程序通过 队列来通信。队列的使用除去了接收和发送应用程序同 时执行的要求。

  •  属于一个流行的开源消息队列系统。属于AMQP( 高级消息队列协议 ) 标准的一个 实现。是应    用层协议的一个开放标准,为面向消息的中间件设计。用于在分布式系统中存储转发消息,在     易用性、扩展性、高可用性等方面表现不俗。
  • 消息中间件主要用于组件之间的解耦,消息的发送者无需知道消息使用者的存在,反之亦然。 
  • AMQP 的主要特征是面向消息、队列、路由(包括点对点和发布 / 订阅)、可靠性、安全。

 RabbitMQ特点:

  •   使用Relang编写
  • 支持持久化
  • 支持HA
  • 提供C# , erlang,java,perl,python,ruby等的client开发端 

RabbitMQ中的概念名词

  Broker:简单来说就是消息队列服务器实体。

  Exchange:消息交换机,它指定消息按什么规则,路由到哪个队列。

  Queue:消息队列载体,每个消息都会被投入到一个或多个队列。

  Binding:绑定,它的作用就是把exchange和queue按照路由规则绑定起来。

  Routing Key:路由关键字, exchange根据这个关键字进行消息投递。

  vhost:虚拟主机,一个broker里可以开设多个vhost,用作不同用户的权限分离。

   producer:消息生产者,就是投递消息的程序。

  consumer:消息消费者,就是接受消息的程序。

  channel:消息通道,在客户端的每个连接里,可建立多个channel,每个 channel代表一个会话任务。

RabbitMQ工作原理

   MQ 是消费 - 生产者模型的一个典型的代表,一端往消息队列中不断写入消息, 而另一端则可以读取或者订阅队列中的消息。 MQ 则是遵循了 AMQP协议的具体 实现和产品。在项目中,将一些无需即时返回且耗时的操作提取出来,进行了异步 处理,而这种异步处理的方式大大的节省了服务器的请求响应时间,从而提高了系 统的吞吐量。

技术图片

    ( 1)客户端连接到消息队列服务器,打开一个channel。

    ( 2)客户端声明一个exchange,并设置相关属性。

    ( 3)客户端声明一个queue,并设置相关属性。

    ( 4)客户端使用routing key,在exchange和queue之间建立好绑定关系。

    ( 5)客户端投递消息到exchange。

    ( 6) exchange接收到消息后,就根据消息的key和已经设置的binding,进 行消息路由,将消息投递到一个或多个队列里 

 技术图片

 

Rabbitmq 的 metadata

     元数据可以持久化在 RAM 或 Disc. 从这个角度可以把 RabbitMQ 集群中的节 点分成两种 :RAM Node和 Disk Node. 

    RAM Node 只会将元数据存放在RAM Disk   node 会将元数据持久化到磁盘。

    单节点系统就没有什么选择了 , 只允许 disk node, 否则由于没有数据冗余一旦 重启就会丢掉所有的配置信息 . 但在集群环境中可以选择哪些节点是 RAM node. 在集群中声明 (declare) 创建 exchange queue binding, 这类操作要等到所有的节 点都完成创建才会返回 :

    如果是内存节点就要修改内存数据 , 如果是 disk node 就要等待写磁盘 , 节点过多这里的速度就会被大大的拖慢 .

    

    有些场景 exchang queue 相当固定 , 变动很少 ,那即使全都是 disc node, 也没有 什么影响 . 如果使用 Rabbitmq 做 RPC( RPC :Remote Procedure Call—远程过程 调用), RPC 或者类似 RPC 的场景这个问题就严重了 , 频繁创建销毁临时队列 , 磁盘 读写能力就很快成为性能瓶颈了。所以 , 大多数情况下 , 我们尽量把 Node 创建为 RAM Node. 这里就有一个问题了 , 要想集群重启后元数据可以恢复就需要把集群元 数据持久化到磁盘 , 那需要规划 RabbitMQ 集群中的 RAM Node 和 Disc Node 。
    只要有一个节点是 Disc Node 就能提供条件把集群元数据写到磁盘 ,RabbitMQ 的确 也是这样要求的 : 集群中只要有一个 disk node 就可以 , 其它的都可以是 RAM node. 节点加入或退出集群一定至少要通知集群中的一个 disk node 。

    如果集群中 disk node 都宕掉 , 就不要变动集群的元数据 . 声明 exchange queue 修改用户权限 , 添加用户等等这些变动在节点重启之后无法恢复 。

    有一种情况要求所有的 disk node 都要在线情况在才能操作 , 那就是增加或者移除节 点 .RAM node 启动的时候会连接到预设的 disk node 下载最新的集群元数据 . 如果 你有两个 disk node(d1 d2), 一个 RAM node 加入的时候你只告诉 d1, 而恰好这个 RAM node 重启的时候 d1 并没有启动 , 重启就会失败 . 所以加入 RAM 节点的时候 , 把所有的disk node 信息都告诉它 ,RAM node 会把 disk node 的信息持久化到磁盘 以便后续启动可以按图索骥 .

rabbitmq的搭建

   一、前期准备

    1. 准备三台linux系统,搭配好相同的yum源。
    2. DNS能够解析此三台主机
    3. 三台系统都设置好ssh免秘钥登录       

  二、搭建过程   

      (1)所有node安装rabbtimq和erlang软件包:
yum install -y erlang rabbitmq-server.noarch
systemctl enable rabbitmq-server.service
systemctl start rabbitmq-server.service
systemctl status rabbitmq-server.service

      (2)查看监听端口:

        netstat -lantp | grep 5672
       
      (3)node1:修改guest密码为admin(默认用户为:guest 密码为:guest)
        rabbitmqctl change_password guest admin
      
      (4)node1:添加一个openstack的用户,并设密码为admin。并设置权限和成为管理员(为搭建OpenStack做准备)
        node1:
          rabbitmqctl add_user openstack admin
          rabbitmqctl set_permissions openstack ".*" ".*" ".*"
          rabbitmqctl set_user_tags openstack administrator
 
      (5)node1:编辑rabbittmq变量文件
        vim /etc/rabbitmq/rabbitmq-env.conf
          RABBITMQ_NODE_PORT=5672
          ulimit -S -n 4096
          RABBITMQ_SERVER_ERL_ARGS="+K true +A30 +P 1048576 -kernel inet_default_connect_options [{nodelay,true},{raw,6,18,<<5000:64/native>>}] -kernel inet_default_listen_options           [{raw,6,18,<<5000:64/native>>}]"
          RABBITMQ_NODE_IP_ADDRESS=192.168.112.139
        注意:换上自己的ip
      (6)node1:将rabbittmq变量文件拷贝到其他两节点,之后并修改相应节点的ip
        scp /etc/rabbitmq/rabbitmq-env.conf con2:/etc/rabbitmq/
        scp /etc/rabbitmq/rabbitmq-env.conf con3:/etc/rabbitmq/
        注意:其中的con2和con3为主机名
 
      查看rabbitmq插件
        /usr/lib/rabbitmq/bin/rabbitmq-plugins list
 
      (7)所有node 开启rabbitmq的web管理页面
        /usr/lib/rabbitmq/bin/rabbitmq-plugins enable rabbitmq_management mochiweb webmachine rabbitmq_web_dispatch amqp_client rabbitmq_management_agent
        或者:rabbitmq-plugins enable rabbitmq_management
        注意:7.3版本之前的用第一条命令,7.3或之后的用第二条命令
        
        systemctl restart rabbitmq-server.service
        systemctl status rabbitmq-server.service
      重启服务后在查询一下rabbitmq插件,会发现不同哦^_^
 
      (8)node1发送erlang.cookie到其他节点配置集群
        rabbitmqctl status
        scp /var/lib/rabbitmq/.erlang.cookie con2:/var/lib/rabbitmq/.erlang.cookie
        scp /var/lib/rabbitmq/.erlang.cookie con3:/var/lib/rabbitmq/.erlang.cookie
 
      (9)node2和node3停止应用,并以ram的方式加入node1节点,之后重启应用
        systemctl restart rabbitmq-server.service
        rabbitmqctl stop_app
        rabbitmqctl join_cluster --ram rabbit@con1
        rabbitmqctl start_app
 
      (10)node1检查集群状态
技术图片

      (11)登陆验证:http://192.168.112.139:15672/#/             guest/admin

 

 
其他命令:
(1)添加管理员:
rabbitmqctl add_user mqadmin mqadmin
rabbitmqctl set_user_tags mqadmin administrator
rabbitmqctl set_permissions -p / mqadmin ".*" ".*" ".*"
 
(2)更改节点类型(内存型或磁盘型)
rabbitmqctl stop_app
rabbitmqctl change_cluster_node_type disc 或 rabbitmqctl change_cluster_node_type ram
rabbitmqctl start_app
 
(3)从集群移除节点(或者重置节点)
rabbitmqctl stop_app
rabbitmqctl reset
rabbitmqctl start_app
rabbitmqctl cluster_status
 
(4)从某个节点移除集群中其他节点
rabbitmqctl forget_cluster_node rabbit@node3
rabbitmqctl reset
rabbitmqctl start_app
rabbitmqctl cluster_status
 
1. 保证集群中至少有一个磁盘类型的节点以防数据丢失,在更改节点类型时尤其要注意。
2. 若整个集群被停掉了,应保证最后一个 down 掉的节点被最先启动,若不能则要使用 forget_cluster_node 命令将其移出集群
3. 若集群中节点几乎同时以不可控的方式 down 了此时在其中一个节点使用 force_boot 命令重启节点

 

 
 
 
        

 

rabbitmq--消息队列

标签:数据丢失   listen   模型   不同   linux   其它   默认   bsp   规则   

原文地址:https://www.cnblogs.com/cxhh/p/10758630.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!