zoukankan      html  css  js  c++  java
  • 第二百九十二节,RabbitMQ多设备消息队列-Python开发

    RabbitMQ多设备消息队列-Python开发

    首先安装Python开发连接RabbitMQ的API,pika模块

    pika模块为第三方模块

     对于RabbitMQ来说,生产和消费不再针对内存里的一个Queue对象,而是某台服务器上的RabbitMQ Server实现的消息队列。


    生产者消费者一对一

    不使用交换机

     

    生产者主机

    pika.PlainCredentials()设置RabbitMQ Server用户名和密码
    ConnectionParameters()设置ip和端口
    BlockingConnection()创建连接,自带了socket逻辑部分
    channel()获取连接句柄
    queue_declare(queue='队列名称')向RabbitMQ Server创建一个消息队列,如果此队列存在则不创建
    basic_publish(exchange='交换机状态',routing_key='队列名称',body='数据类容')向指定队列里写入数据
    close()关闭连接

    #!/usr/bin/env python
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 生产者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.queue_declare(queue='hello')                    #向RabbitMQ Server创建一个消息队列,queue='hello'设置队列名称,如果此队列存在则不创建
    
    #向指定队列里写入数据
    channel.basic_publish(exchange='',                      #exchange路由交换机,参数为空,路由交换机不工作
                          routing_key='hello',              #routing_key设置数据放到指定名称的消息队列里,参数是队列名称
                          body='123')                       #body设置数据内容,参数是要写入指定队列的数据
    
    connection.close()                                                  #关闭连接

    生产者执行了7次,可以看到hello队列里有7条数据

    消费者主机

    callback(ch, method, properties, (body接收队列里的数据))自定义获取队列数据后的回调函数

    basic_consume(回调函数名称,queue='队列名称',no_ack=True)在指定队列里获取数据,no_ack=True设置获取到数据后,是否删除队列里对应的数据
    start_consuming()等待获取队列数据

    #!/usr/bin/env python
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 消费者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.queue_declare(queue='hello')                    #向RabbitMQ Server创建一个消息队列,queue='hello'设置队列名称,如果此队列存在则不创建
    
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print(" 你好 %r" % body)
    
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue='hello',                    #指定获取数据的队列名称
                          no_ack=True)                     #设置获取到数据后,是否删除队列里对应的数据,如果回调函数处理数据异常时会都丢失数据
                                                            #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    
    channel.start_consuming()                               #等待获取队列数据

    执行后循环获取了7次,将hello队列里的7条数据拿了出来

    可以看到hello队列里已经没有了数据


    保证数据不丢失介绍

    保证消费者数据不丢失

    当消费者主机从队列里拿出数据时basic_consume()方法参数no_ack=True,表示拿出数据后立即删除队列里对应的数据,

    如果消费者主机拿出数据,队列也删除了对应的数据,还没来得及处理数据,消费者主机死机了,这样数据就丢了

    解决方法:

    当消费者主机从队列里拿出数据时basic_consume()方法参数no_ack=False,表示拿出数据后不删除队列里对应的数据

    在消费者回调函数里处理数据,当数据处理完成后写上ch.basic_ack(delivery_tag = method.delivery_tag),表示执行这串代码后才删除队列里对应的数据

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 消费者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.queue_declare(queue='helloa',durable=True)         #向RabbitMQ Server创建一个消息队列,queue='hello'设置队列名称,如果此队列存在则不创建
    
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print(" 你好 %r" % body)
        ch.basic_ack(delivery_tag=method.delivery_tag)      #执行这串代码后才删除队列里对应的数据
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue='helloa',                    #指定获取数据的队列名称
                          no_ack=False)                     #设置获取到数据后,是否删除队列里对应的数据,如果回调函数处理数据异常时会都丢失数据
                                                            #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    
    channel.start_consuming()                               #等待获取队列数据

    保证生产者数据不丢失

    如果RabbitMQ Server主机队列里有很多数据,此时RabbitMQ Server主机死机了,那么队列里的数据也就丢了

    解决方法:

    当生产者向RabbitMQ Server主机队列投递数据时,数据同时也在RabbitMQ Server主机硬盘保存一份,那么即使死机重启后数据也存在

    basic_publish(properties=pika.BasicProperties(delivery_mode=2))投递模式默认为1,修改成2表示投递的数据在RabbitMQ Server主机硬盘上保存一份,当消费者操作后删除队列数据时,也跟随删除
    queue_declare(durable=True)表示队列里的数据开启硬盘保存,注意:如果生产者设置了那么消费者也要设置

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 生产者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.queue_declare(queue='helloa',durable=True)       #durable=True,表示队列里的数据开启硬盘保存
    
    #向指定队列里写入数据
    channel.basic_publish(exchange='',                      #exchange路由交换机,参数为空,路由交换机不工作
                          routing_key='helloa',              #routing_key设置数据放到指定名称的消息队列里,参数是队列名称
                          body='123',                       #body设置数据内容,参数是要写入指定队列的数据
                          properties=pika.BasicProperties(delivery_mode=2))   # 投递模式默认为1,修改成2表示投递的数据在RabbitMQ Server主机硬盘上保存一份,当消费者操作后删除队列数据时,也跟随删除
    
    
    connection.close()                                                  #关闭连接

    消息获取顺序

    默认消息队列里的数据是按照顺序被消费者拿走,例如:消费者1 去队列中获取 奇数 序列的任务,消费者2去队列中获取 偶数 序列的任务。

    谁来谁取,不再按照奇偶数排列

    在消费者获取队列数据方法basic_consume()之前写一个channel.basic_qos(prefetch_count=1)表示谁来谁取,不再按照奇偶数排列

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 消费者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.queue_declare(queue='helloa',durable=True)         #向RabbitMQ Server创建一个消息队列,queue='hello'设置队列名称,如果此队列存在则不创建
    
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print(" 你好 %r" % body)
        ch.basic_ack(delivery_tag=method.delivery_tag)      #执行这串代码后才删除队列里对应的数据
    
    channel.basic_qos(prefetch_count=1)                     #表示谁来谁取,不再按照奇偶数排列
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue='helloa',                    #指定获取数据的队列名称
                          no_ack=False)                     #设置获取到数据后,是否删除队列里对应的数据,如果回调函数处理数据异常时会都丢失数据
                                                            #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    
    channel.start_consuming()                               #等待获取队列数据

    exchange交换机工作模型(fanout发布订阅,direct关键字发送,topic模糊匹配

    fanout交换机,发布订阅模式

    发布者发布数据到交换机,交换机将数据分发到所有订阅者创建的队列里,每个订阅者主机都获取一份数据

    列队只能由订阅者创建,订阅者创建的列队只要绑定了交换机都会获取到,交换机分发的数据

    发布订阅和简单的消息队列区别在于,发布订阅会将消息发送给所有的订阅者,而消息队列中的数据被消费一次便消失。所以,RabbitMQ实现发布和订阅时,会为每一个订阅者创建一个队列,而发布者发布消息时,交换机会将消息放置在所有相关队列中。

    exchange type = fanout

     发布者

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    import sys
    
    # ######################### 发布者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='fanout'交互机工作模式fanout为订阅模式
                             type='fanout')
    
    message = ' '.join(sys.argv[1:]) or "info: Hello World!"    #设置向交换机发布的数据内容
    
    #向交换机发布内容
    channel.basic_publish(exchange='logs',     #设置要发布的交换机名称
                          routing_key='',      #队列名称为空,因为数据是发布到交换机而不是队列,所以为空
                          body=message)        #设置要发布的数据内容
    print("数据内容以发布到交换机")
    
    connection.close()                                                 #关闭连接

    订阅者

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 订阅者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='fanout'交互机工作模式fanout为订阅模式
                             type='fanout')
    
    result = channel.queue_declare(exclusive=True)          #创建专一订阅消息队列,
    queue_name = result.method.queue                        #随机生成队列名称
    
    #将订阅队列绑定交换机
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name)                    #queue=要绑定交换机的队列名称
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print("%r" % body)
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue=queue_name,                 #指定获取数据的队列名称
                          no_ack=True)                      #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    channel.start_consuming()                               #等待获取队列数据
    

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 订阅者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='fanout'交互机工作模式fanout为订阅模式
                             type='fanout')
    
    result = channel.queue_declare(exclusive=True)          #创建专一订阅消息队列,
    queue_name = result.method.queue                        #随机生成队列名称
    
    #将订阅队列绑定交换机
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name)                    #queue=要绑定交换机的队列名称
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print("%r" % body)
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue=queue_name,                 #指定获取数据的队列名称
                          no_ack=True)                      #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    channel.start_consuming()                               #等待获取队列数据

     

    direct交换机,关键字发送模式

    exchange type = direct

    也叫做完全匹配模式

    RabbitMQ还支持根据关键字发送,即:队列绑定关键字,生产者设置关键字将数据发送到exchange交换机,exchange交换机根据 消费者列队设置的关键字 判定应该将数据发送至指定队列。

    也就是说消费者列队设置的关键字,和生产者发送数据设置的关键字两者只要是一样关键字的,消费者主机都会获取到一份数据

    【重点】消费者可以设置多个关键字

    生产者

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    import sys
    
    # ######################### 生产者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='direct'交互机工作模式direct为关键字发送模式
                             type='direct')
    
    message = ' '.join(sys.argv[1:]) or "info: Hello World!"    #设置向交换机发布的数据内容
    
    #向交换机发布内容
    channel.basic_publish(exchange='logs',          #设置要发布的交换机名称
                          routing_key='severity',   #设置信道关键字
                          body=message)             #设置要发布的数据内容
    print("数据内容以发布到交换机")
    
    connection.close()                                                 #关闭连接

    消费者,设置一个信道关键字

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 消费者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='direct'交互机工作模式direct为关键字发送模式
                             type='direct')
    
    result = channel.queue_declare(exclusive=True)          #创建专一消息队列,
    queue_name = result.method.queue                        #随机生成队列名称
    
    #将队列绑定交换机
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name,                    #queue=要绑定交换机的队列名称
                       routing_key='severity',)             #设置信道关键字
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print("%r" % body)
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue=queue_name,                 #指定获取数据的队列名称
                          no_ack=True)                      #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    channel.start_consuming()                               #等待获取队列数据

    消费者,设置多个信道关键字

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 消费者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='direct'交互机工作模式direct为关键字发送模式
                             type='direct')
    
    result = channel.queue_declare(exclusive=True)          #创建专一消息队列,
    queue_name = result.method.queue                        #随机生成队列名称
    
    #将队列绑定交换机
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name,                    #queue=要绑定交换机的队列名称
                       routing_key='severity',)             #设置信道关键字
    
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name,                    #queue=要绑定交换机的队列名称
                       routing_key='severity2',)             #设置信道关键字
    
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name,                    #queue=要绑定交换机的队列名称
                       routing_key='severity3',)             #设置信道关键字
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print("%r" % body)
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue=queue_name,                 #指定获取数据的队列名称
                          no_ack=True)                      #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    channel.start_consuming()                               #等待获取队列数据

     topic交换机,模糊匹配发送模式

    exchange type = topic

    在topic类型下,可以让队列绑定几个模糊的关键字,之后发送者将数据发送到exchange交换机,exchange交换机将传入的”列队关键字“和 ”生产者关键字“进行匹配,匹配成功,则将数据发送到指定队列。

    • # 表示可以匹配 0 个 或 多个 单词
    • *  表示只能匹配 一个 单词

    例如:

    发送者关键字               生产者匹配
    old.boy.python          old.*  -- 不匹配
    old.boy.python          old.#  -- 匹配

    生产者

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    import sys
    
    # ######################### 生产者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='topic'交互机工作模式topic为模糊匹配发送模式
                             type='topic')
    
    routing_key = sys.argv[1] if len(sys.argv) > 1 else 'anonymous.info'  #设置发送关键字
    message = ' '.join(sys.argv[2:]) or 'Hello World!'                    #设置发送内容
    
    #向交换机发送内容
    channel.basic_publish(exchange='logs',              #设置要发布的交换机名称
                          routing_key=routing_key,      #设置信道关键字:anonymous.info
                          body=message)                 #设置要发布的数据内容:Hello World!
    
    print(" [x] Sent %r:%r" % (routing_key, message))   #打印出相关内容
    
    connection.close()          #关闭连接

    消费者

    #!/usr/bin/env python
    # -*- coding:utf8 -*-
    
    import pika  #导入连接操作RabbitMQ Server主机的模块
    
    # ######################### 消费者 #########################
    
    credentials = pika.PlainCredentials('guest', 'guest')                      #设置RabbitMQ Server用户名和密码
    parameters = pika.ConnectionParameters('localhost', 5672,'/',credentials)  #设置ip和端口
    
    connection = pika.BlockingConnection(parameters)        #创建连接,自带了socket逻辑部分
    channel = connection.channel()                          #获取连接句柄
    
    
    channel.exchange_declare(exchange='logs',               #创建交换机,exchange='交换机名称',type='topic'交互机工作模式topic为模糊匹配发送模式
                             type='topic')
    
    result = channel.queue_declare(exclusive=True)          #创建专一消息队列,
    queue_name = result.method.queue                        #随机生成队列名称
    
    #将队列绑定交换机
    channel.queue_bind(exchange='logs',                     #exchange='要绑定的交换机名称'
                       queue=queue_name,                    #queue=要绑定交换机的队列名称
                       routing_key='anonymous.*',)             #设置信道关键字匹配
    
    def callback(ch, method, properties, body):             #定义获取队列数据后的回调函数,body接收队列里的数据内容
        print("%r" % body)
    
    #在指定队列里获取数据
    channel.basic_consume(callback,                         #获取到数据后执行回调函数
                          queue=queue_name,                 #指定获取数据的队列名称
                          no_ack=True)                      #如果要保证数据必须不丢失设置为False不删除数据,当接执行回调函数里ch.basic_ack(delivery_tag=method.delivery_tag)时才删除,但是效率不高
    
    channel.start_consuming()                               #等待获取队列数据

    更多教程,可以查看官方教程

    http://www.rabbitmq.com/getstarted.html

  • 相关阅读:
    windows上phpstudy配置memcache
    获取全站详情链接,并输出为txt文本
    Linux 宝塔面板免费版开启 waf 防火墙的方法
    where条件多种情况
    网站加https
    git常用命令
    缓存
    Stream转换成byte[] 、将 byte[] 转成 Stream 、Stream和文件的转换、从文件读取 Stream
    C#发送邮件
    Ref和Out的区别
  • 原文地址:https://www.cnblogs.com/adc8868/p/7064389.html
Copyright © 2011-2022 走看看