参考
官网:https://www.rabbitmq.com/tutorials/tutorial-one-javascript.html
B站:https://www.bilibili.com/video/BV1dE411K7MG
CSDN:https://blog.csdn.net/kavito/article/details/91403659
安装
https://blog.csdn.net/qq_44767162/article/details/114531509
简介
消息 指的是两个应用间传递的数据。数据的类型有很多种形式,可能只包含文本字符串,也可能包含嵌入对象。
“消息队列(Message
Queue)”是在消息的传输过程中保存消息的容器 。在消息队列中,通常有生产者和消费者两个角色。生产者只负责发送数据到消息队列,谁从消息队列中取出数据处理,他不管。消费者只负责从消息队列中取出数据处理,他不管这是谁发送的数据。
生产者-消息队列-消费者简图
主要有三个作用:
解耦 。如图所示。假设有系统B、C、D都需要系统A的数据,于是系统A调用三个方法发送数据到B、C、D。这时,系统D不需要了,那就需要在系统A把相关的代码删掉。假设这时有个新的系统E需要数据,这时系统A又要增加调用系统E的代码。为了降低这种强耦合,就可以使用MQ,系统A只需要把数据发送到MQ,其他系统如果需要数据,则从MQ中获取即可 。
消息队列-解耦
异步。如图所示。一个客户端请求发送进来,系统A会调用系统B、C、D三个系统,同步请求的话,响应时间就是系统A、B、C、D的总和,也就是800ms。如果使用MQ,系统A发送数据到MQ,然后就可以返回响应给客户端,不需要再等待系统B、C、D的响应,可以大大地提高性能 。对于一些非必要的业务,比如发送短信,发送邮件等等,就可以采用MQ。
消息队列-异步
削峰。如图所示。这其实是MQ一个很重要的应用。假设系统A在某一段时间请求数暴增,有5000个请求发送过来,系统A这时就会发送5000条SQL进入MySQL进行执行,MySQL对于如此庞大的请求当然处理不过来,MySQL就会崩溃,导致系统瘫痪。如果使用MQ,系统A不再是直接发送SQL到数据库,而是把数据发送到MQ,MQ短时间积压数据是可以接受的,然后由消费者每次拉取2000条进行处理,防止在请求峰值时期大量的请求直接发送到MySQL导致系统崩溃 。
消息队列-削峰
RabbitMQ的特点
RabbitMQ是一款使用Erlang语言开发的,实现AMQP(高级消息队列协议)的开源消息中间件。首先要知道一些RabbitMQ的特点,官网 可查:
可靠性。支持持久化,传输确认,发布确认等保证了MQ的可靠性。
灵活的分发消息策略。这应该是RabbitMQ的一大特点。在消息进入MQ前由Exchange(交换机)进行路由消息。分发消息策略有:简单模式、工作队列模式、发布订阅模式、路由模式、通配符模式。
支持集群。多台RabbitMQ服务器可以组成一个集群,形成一个逻辑Broker。
多种协议。RabbitMQ支持多种消息队列协议,比如 STOMP、MQTT 等等。
支持多种语言客户端。RabbitMQ几乎支持所有常用编程语言,包括
Java、.NET、Ruby 等等。
可视化管理界面。RabbitMQ提供了一个易用的用户界面,使得用户可以监控和管理消息
Broker。
插件机制。RabbitMQ提供了许多插件,可以通过插件进行扩展,也可以编写自己的插件。
准备
maven依赖
1 2 3 4 5 6 <dependency > <groupId > com.rabbitmq</groupId > <artifactId > amqp-client</artifactId > <version > 5.9.0</version > </dependency >
RabbitMQUtils
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 public class RabbitMQUtils { private static ConnectionFactory factory; static { factory = new ConnectionFactory (); factory.setHost("192.168.1.107" ); factory.setPort(5672 ); factory.setVirtualHost("/ems" ); factory.setUsername("ems" ); factory.setPassword("123" ); } public static Connection getConnection () { try { return factory.newConnection(); } catch (Exception e) { e.printStackTrace(); } return null ; } public static void close (Channel channel, Connection connection) { try { if (channel != null ) { channel.close(); } if (connection != null ) { connection.close(); } } catch (Exception e) { e.printStackTrace(); } } }
细节
生产者消费者队列要严格对应,消费者退出自动删除才生效
①基本消息模型:
基本消息模型
在上图的模型中,有以下概念:
P:生产者,也就是要发送消息的程序
C:消费者:消息的接受者,会一直等待消息到来。
queue:消息队列,图中红色部分。可以缓存消息;生产者向其中投递消息,消费者从其中取出消息。
生产者
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 public class Send { private final static String QUEUE_NAME = "simple_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, false , false , false , null ); String message = "Hello World!" ; channel.basicPublish("" , QUEUE_NAME, null , message.getBytes()); System.out.println("Send '" + message + "'" ); RabbitMQUtils.close(channel, connection); } }
消费者
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 public class Recv { private final static String QUEUE_NAME = "simple_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, false , false , false , null ); channel.basicConsume(QUEUE_NAME, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Recv '" + new String (body) + "'" ); } }); } }
②work消息模型
工作队列或者竞争消费者 模式
work消息模型
work
queues与入门程序相比,多了一个消费端,两个消费端共同消费同一个队列中的消息,但是一个消息只能被一个消费者获取。
这个消息模型在Web应用程序中特别有用,可以处理短的HTTP请求窗口中无法处理复杂的任务。
生产者
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 public class provider { private final static String QUEUE_NAME = "work_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, true , false , false , null ); for (int i = 0 ; i < 10 ; i++) { channel.basicPublish("" , QUEUE_NAME, null , ("你好hello work queue " +i).getBytes()); } RabbitMQUtils.close(channel, connection); } }
消费者1
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 public class Customer1 { private final static String QUEUE_NAME = "work_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, true , false , false , null ); channel.basicConsume(QUEUE_NAME, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { try { Thread.sleep(1000 ); } catch (Exception e) { e.printStackTrace(); } System.out.println("Customer1:" + new String (body)); } }); } }
消费者2
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 public class Customer2 { private final static String QUEUE_NAME = "work_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, true , false , false , null ); channel.basicConsume(QUEUE_NAME, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer2:" + new String (body)); } }); } }
能者多劳
需要了解确认机制
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 public class Customer1 { private final static String QUEUE_NAME = "work_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, true , false , false , null ); channel.basicQos(1 ); channel.basicConsume(QUEUE_NAME, false , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer1:" + new String (body)); try { Thread.sleep(1000 ); } catch (Exception e) { e.printStackTrace(); } channel.basicAck(envelope.getDeliveryTag(),false ); } }); } }
Customer1 处理得慢设置为手动确认,Customer2
处理的快设置为自动确认
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 public class Customer2 { private final static String QUEUE_NAME = "work_queue" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.queueDeclare(QUEUE_NAME, true , false , false , null ); channel.basicQos(1 ); channel.basicConsume(QUEUE_NAME, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer2:" + new String (body)); } }); } }
③Publish/subscribe(交换机类型: Fanout,也称为广播
)
Publish/subscribe模型示意图 :
广播模型
生产者
1 2 3 4 5 6 7 8 9 10 11 public class Provider { private final static String EXCHANGE_NAME = "fanout_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, "fanout" ); channel.basicPublish(EXCHANGE_NAME, "" , null , "fanout type message" .getBytes()); RabbitMQUtils.close(channel, connection); } }
消费者(三个)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 public class Customer1 { private final static String EXCHANGE_NAME = "fanout_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, "fanout" ); String queueName = channel.queueDeclare().getQueue(); channel.queueBind(queueName, EXCHANGE_NAME, "" ); channel.basicConsume(queueName, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer1:" + new String (body)); } }); } }
Customer1,Customer2,Customer3几乎相同
④Routing
路由模型(交换机类型:direct)
Routing模型示意图:
路由模型
P:生产者,向Exchange发送消息,发送消息时,会指定一个routing
key。
X:Exchange(交换机),接收生产者的消息,然后把消息递交给 与routing
key完全匹配的队列
C1:消费者,其所在队列指定了需要routing key 为 error 的消息
C2:消费者,其所在队列指定了需要routing key 为 info、error、warning
的消息
生产者
1 2 3 4 5 6 7 8 9 10 11 12 13 public class Provider { private final static String EXCHANGE_NAME = "direct_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, "direct" ); String routingKey = "error" ; channel.basicPublish(EXCHANGE_NAME, routingKey, null , ("direct type 基于routingKey:[" + routingKey + "] message " ).getBytes()); RabbitMQUtils.close(channel, connection); } }
消费者1
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 public class Customer1 { private final static String EXCHANGE_NAME = "direct_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, "direct" ); String queue = channel.queueDeclare().getQueue(); channel.queueBind(queue, EXCHANGE_NAME, "error" ); channel.basicConsume(queue, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer1:" + new String (body)); } }); } }
消费者2
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 public class Customer2 { private final static String EXCHANGE_NAME = "direct_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, "direct" ); String queue = channel.queueDeclare().getQueue(); channel.queueBind(queue, EXCHANGE_NAME, "info" ); channel.queueBind(queue, EXCHANGE_NAME, "warning" ); channel.queueBind(queue, EXCHANGE_NAME, "error" ); channel.basicConsume(queue, true , new DefaultConsumer (channel) { @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer2:" + new String (body)); } }); } }
direct 下
Customer1 直接收 error
Customer2 接收 info、warning、error
⑤Topics
通配符模式(交换机类型:topics)
Topics模型示意图:
Topic模型
每个消费者监听自己的队列,并且设置带统配符的routingkey,生产者将消息发给broker,由交换机根据routingkey来转发消息到指定的队列。
Routingkey一般都是有一个或者多个单词组成,多个单词之间以“.”分割,例如:inform.sms
通配符规则:
#:匹配一个或多个词
*:匹配不多不少恰好1个词
生产者
1 public class Provider { private final static String EXCHANGE_NAME = "topic_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, BuiltinExchangeType.TOPIC);
消费者1
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 public class Customer1 { private final static String EXCHANGE_NAME = "topic_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME,BuiltinExchangeType.TOPIC); String queue = channel.queueDeclare().getQueue(); channel.queueBind(queue,EXCHANGE_NAME,"user.*" ); channel.basicConsume(queue,true ,new DefaultConsumer (channel){ @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer1:" +new String (body)); } }); } }
消费者4
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 public class Customer2 { private final static String EXCHANGE_NAME = "topic_exchange" ; public static void main (String[] args) throws IOException { Connection connection = RabbitMQUtils.getConnection(); Channel channel = connection.createChannel(); channel.exchangeDeclare(EXCHANGE_NAME, BuiltinExchangeType.TOPIC); String queue = channel.queueDeclare().getQueue(); channel.queueBind(queue,EXCHANGE_NAME,"user.#" ); channel.basicConsume(queue,true ,new DefaultConsumer (channel){ @Override public void handleDelivery (String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte [] body) throws IOException { System.out.println("Customer1:" +new String (body)); } }); } }
⑥RPC
RPC模型示意图:
RPC模型
基本概念:
Callback queue
回调队列,客户端向服务器发送请求,服务器端处理请求后,将其处理结果保存在一个存储体中。而客户端为了获得处理结果,那么客户在向服务器发送请求时,同时发送一个回调队列地址reply_to。
Correlation id
关联标识,客户端可能会发送多个请求给服务器,当服务器处理完后,客户端无法辨别在回调队列中的响应具体和那个请求时对应的。为了处理这种情况,客户端在发送每个请求时,同时会附带一个独有correlation_id属性,这样客户端在回调队列中根据correlation_id字段的值就可以分辨此响应属于哪个请求。
流程说明:
当客户端启动的时候,它创建一个匿名独享的回调队列。 在 RPC
请求中,客户端发送带有两个属性的消息:一个是设置回调队列的 reply_to
属性,另一个是设置唯一值的 correlation_id 属性。 将请求发送到一个
rpc_queue 队列中。
服务器等待请求发送到这个队列中来。当请求出现的时候,它执行他的工作并且将带有执行结果的消息发送给
reply_to 字段指定的队列。
客户端等待回调队列里的数据。当有消息出现的时候,它会检查 correlation_id
属性。如果此属性的值与请求匹配,将它返回给应用 分享两道面试题:
面试题:
避免消息堆积?
1) 采用workqueue,多个消费者监听同一队列。
2)接收到消息以后,而是通过线程池,异步消费。
如何避免消息丢失?
1) 消费者的ACK机制。可以防止消费者丢失消息。
但是,如果在消费者消费之前,MQ就宕机了,消息就没了?
2)可以将消息进行持久化。要将消息持久化,前提是:队列、Exchange都持久化
Spring整合RibbitMQ
依赖
1 2 3 4 <dependency > <groupId > org.springframework.boot</groupId > <artifactId > spring-boot-starter-amqp</artifactId > </dependency >
application
1 2 3 4 5 6 7 8 9 spring: application: name: rabbitmq-springboot rabbitmq: host: 192.168 .1 .107 port: 5672 username: ems password: 123 virtual-host: /ems
RabbitTemplate
Simple
生产者
1 2 3 4 5 6 7 8 9 10 11 12 @SpringBootTest class RabbitmqStringbootApplicationTests { @Autowired RabbitTemplate rabbitTemplate; @Test void testHello () { rabbitTemplate.convertAndSend("hello" , "hello world" ); } }
消费者
1 2 3 4 5 6 7 8 @Component @RabbitListener(queuesToDeclare = @Queue(value = "hello",declare = "true")) public class HelloCustomer { @RabbitHandler public void receive (String message) { System.out.println("message = " + message); } }
Work
生产者
1 2 3 4 5 6 7 @Test void testWork () { for (int i = 0 ; i < 10 ; i++) { rabbitTemplate.convertAndSend("work" , "work模型" ); } }
消费者
1 2 3 4 5 6 7 8 9 10 11 12 @Component public class WorkCustomer { @RabbitListener(queuesToDeclare = @Queue("work")) public void receive1 (String message) { System.out.println("message1 = " + message); } @RabbitListener(queuesToDeclare = @Queue("work")) public void receive2 (String message) { System.out.println("message2 = " + message); } }
Fanout
生产者
1 2 3 4 5 @Test void testFanout () { rabbitTemplate.convertAndSend("logs" , "" , "Fanout的模型发送消息" ); }
消费者
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 @Component public class FanoutCustomer { @RabbitListener(bindings = { @QueueBinding(value = @Queue, exchange = @Exchange(value = "logs", type = "fanout")) }) public void receive1 (String message) { System.out.println("message1 = " + message); } @RabbitListener(bindings = { @QueueBinding(value = @Queue, exchange = @Exchange(value = "logs", type = "fanout")) }) public void receive2 (String message) { System.out.println("message2 = " + message); } }
Direct
生产者
1 2 3 4 5 6 @Test void testDirect () { rabbitTemplate.convertAndSend("direct" , "error" , "Direct的模型发送info消息" ); }
消费者
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 @Component public class DirectCustomer { @RabbitListener(bindings = { @QueueBinding(value = @Queue, exchange = @Exchange(value = "direct", type = "direct"), key = {"info", "warn", "error"}) }) public void receive1 (String message) { System.out.println("message1 = " + message); } @RabbitListener(bindings = { @QueueBinding(value = @Queue, exchange = @Exchange(value = "direct", type = "direct"), key = {"error"}) }) public void receive2 (String message) { System.out.println("message2 = " + message); } }
Topic
生产者
1 2 3 4 5 6 @Test void testTopic () { rabbitTemplate.convertAndSend("topic" , "product.save" , "Topic的模型发送product.save消息" ); rabbitTemplate.convertAndSend("topic" , "user.save" , "Topic的模型发送user.save消息" ); }
消费者
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 @Component public class TopicCustomer { @RabbitListener(bindings = { @QueueBinding(value = @Queue, exchange = @Exchange(value = "topic", type = "topic"), key = {"user.save", "user.*"}) }) public void receive1 (String message) { System.out.println("message1 = " + message); } @RabbitListener(bindings = { @QueueBinding(value = @Queue, exchange = @Exchange(value = "topic", type = "topic"), key = {"user.#","product.#"}) }) public void receive2 (String message) { System.out.println("message2 = " + message); } }
应用场景
异步处理
场景说明:用户注册后,需要发注册邮件和注册短信,传统的做法有两种 1.串行的方式 2.并行的方式
串行方式:
将注册信息写入数据库后,发送注册邮件,再发送注册短信,以上三个任务全部完成后才返回给客户端。
这有一个问题是,邮件,短信并不是必须的,它只是一个通知,而这种做法让客户端等待没有必要等待的东西.
串行方式
并行方式:
将注册信息写入数据库后,发送邮件的同时,发送短信,以上三个任务完成后,返回给客户端,并行的方式能提高处理的时间。
并行方式
消息队列:
假设三个业务节点分别使用50ms,串行方式使用时间150ms,并行使用时间100ms。虽然并行已经提高的处理时间,但是,前面说过,邮件和短信对我正常的使用网站没有任何影响,客户端没有必要等着其发送完成才显示注册成功,应该是写入数据库后就返回.
消息队列: 引入消息队列后,把发送邮件,短信不是必须的业务逻辑异步处理
消息队列
由此可以看出,引入消息队列后,用户的响应时间就等于写入数据库的时间+写入消息队列的时间(可以忽略不计),引入消息队列后处理后,响应时间是串行的3倍,是并行的2倍。
应用解耦
场景:双11是购物狂节,用户下单后,订单系统需要通知库存系统,传统的做法就是订单系统调用库存系统的接口.
未接入消息队列
这种做法有一个缺点: 当库存系统出现故障时,订单就会失败。
订单系统和库存系统高耦合. 引入消息队列
接入消息队列
订单系统:
用户下单后,订单系统完成持久化处理,将消息写入消息队列,返回用户订单下单成功。
库存系统:
订阅下单的消息,获取下单消息,进行库操作。
就算库存系统出现故障,消息队列也能保证消息的可靠投递,不会导致消息丢失.
流量削峰
场景: 秒杀活动,一般会因为流量过大,导致应用挂掉,为了解决这个问题,一般在应用前端加入消息队列。
作用:
1.可以控制活动人数,超过此一定阀值的订单直接丢弃(我为什么秒杀一次都没有成功过呢^^)
2.可以缓解短时间的高流量压垮应用(应用程序按自己的最大处理能力获取订单)
秒杀削峰
1.用户的请求,服务器收到之后,首先写入消息队列,加入消息队列长度超过最大值,则直接抛弃用户请求或跳转到错误页面.
2.秒杀业务根据消息队列中的请求信息,再做后续处理.
RabbitMQ集群
普通集群(副本集群)
All data/state required for the operation of a RabbitMQ broker is
replicated across all nodes. An exception to this are message queues,
which by default reside on one node, though they are visible and
reachable from all nodes. To replicate queues across nodes in a cluster
--摘自官网
默认情况下:RabbitMQ代理操作所需的所有数据/状态都将跨所有节点复制。这方面的一个例外是消息队列,默认情况下,消息队列位于一个节点上,尽管它们可以从所有节点看到和访问
架构图
架构图
核心解决问题:
当集群中某一时刻master节点宕机,可以对Quene中信息,进行备份
集群搭建
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 # 0.集群规划 node1: 10.15.0.3 mq1 master 主节点 node2: 10.15.0.4 mq2 repl1 副本节点 node3: 10.15.0.5 mq3 repl2 副本节点 # 1.克隆三台机器主机名和ip映射 vim /etc/hosts加入: 10.15.0.3 mq1 10.15.0.4 mq2 10.15.0.5 mq3 node1: vim /etc/hostname 加入: mq1 node2: vim /etc/hostname 加入: mq2 node3: vim /etc/hostname 加入: mq3 # 2.三个机器安装rabbitmq,并同步cookie文件,在node1上执行: scp /var/lib/rabbitmq/.erlang.cookie root@mq2:/var/lib/rabbitmq/ scp /var/lib/rabbitmq/.erlang.cookie root@mq3:/var/lib/rabbitmq/ # 3.查看cookie是否一致: node1: cat /var/lib/rabbitmq/.erlang.cookie node2: cat /var/lib/rabbitmq/.erlang.cookie node3: cat /var/lib/rabbitmq/.erlang.cookie # 4.后台启动rabbitmq所有节点执行如下命令,启动成功访问管理界面: rabbitmq-server -detached # 5.在node2和node3执行加入集群命令: 1.关闭 rabbitmqctl stop_app 2.加入集群 rabbitmqctl join_cluster rabbit@mq1 3.启动服务 rabbitmqctl start_app # 6.查看集群状态,任意节点执行: rabbitmqctl cluster_status # 7.如果出现如下显示,集群搭建成功: Cluster status of node rabbit@mq3 ... [{nodes,[{disc,[rabbit@mq1,rabbit@mq2,rabbit@mq3]}]}, {running_nodes,[rabbit@mq1,rabbit@mq2,rabbit@mq3]}, {cluster_name,<<"rabbit@mq1">>}, {partitions,[]}, {alarms,[{rabbit@mq1,[]},{rabbit@mq2,[]},{rabbit@mq3,[]}]}] # 8.登录管理界面,展示如下状态:
管理界面
Queues
Queues
1 2 3 # 11.关闭node1节点,执行如下命令,查看node2和node3: rabbitmqctl stop_app
镜像集群
This guide covers mirroring (queue contents replication) of classic
queues --摘自官网
By default, contents of a queue within a RabbitMQ cluster are located
on a single node (the node on which the queue was declared). This is in
contrast to exchanges and bindings, which can always be considered to be
on all nodes. Queues can optionally be made mirrored across
multiple nodes. --摘自官网
镜像队列机制就是将队列在三个节点之间设置主从关系,消息会在三个节点之间进行自动同步,且如果其中一个节点不可用,并不会导致消息丢失或服务不可用的情况,提升MQ集群的整体高可用性。
集群架构图
集群架构图
配置集群架构
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 # 0.策略说明 rabbitmqctl set_policy [-p <vhost>] [--priority <priority>] [--apply-to <apply-to>] <name> <pattern> <definition> -p Vhost: 可选参数,针对指定vhost下的queue进行设置 Name: policy的名称 Pattern: queue的匹配模式(正则表达式) Definition:镜像定义,包括三个部分ha-mode, ha-params, ha-sync-mode ha-mode:指明镜像队列的模式,有效值为 all/exactly/nodes all:表示在集群中所有的节点上进行镜像 exactly:表示在指定个数的节点上进行镜像,节点的个数由ha-params指定 nodes:表示在指定的节点上进行镜像,节点名称通过ha-params指定 ha-params:ha-mode模式需要用到的参数 ha-sync-mode:进行队列中消息的同步方式,有效值为automatic和manual priority:可选参数,policy的优先级 # 1.查看当前策略 rabbitmqctl list_policies # 2.添加策略 rabbitmqctl set_policy ha-all '^hello' '{"ha-mode":"all","ha-sync-mode":"automatic"}' 说明:策略正则表达式为 “^” 表示所有匹配所有队列名称 ^hello:匹配hello开头队列 # 3.删除策略 rabbitmqctl clear_policy ha-all # 4.测试集群
总结
前面的除了集群部分没有完全实际操作外,其他的都是实际操作过的目前中间件消息队列部分只了解了这一个RabbitMQ,还是希望能学到更多,更重要的是实际操作应用