具有不同消息类型的Google Cloud Pub / Sub

如何解决具有不同消息类型的Google Cloud Pub / Sub

在同一应用程序中,我发送格式完全不同且完全不相关的不同消息类型。解决此问题的最佳实践是什么?

我在这里看到两种不同的方法:

  1. 应用程序级别的过滤器,这意味着我在同一个合并器(相同订阅)上收到所有消息
  2. 创建一个新的订阅,这意味着该应用程序将有两个正在运行的Puller(每种消息类型一个)

解决方法

您以2.点回答了您的问题。如果消息格式具有完全不同的格式并且完全不相关,则意味着应将它们分开。在应用程序层对其进行过滤没有任何优势。 Topics/subscriptions模型正是为此目的而制作的。

主题和订阅之间的区别可能令人困惑。因此,我也要描述一下。

第一个概念Pub Sub:

  • 主题:发布者向其发送消息的命名资源。在发布/订阅模型中,发布到该主题的任何消息都会立即被该主题的所有订阅者接收。
  • 订阅:一种命名的资源,代表单个特定主题中要传递给订阅应用程序的消息流。
  • 消息:发布者发送到主题并最终传递给订阅者的数据和(可选)属性的组合。
  • 消息属性:发布者可以为消息定义的键/值对。

此图演示了Pub / Sub模型 Pub/Sub diagram

“发布订阅”模型允许将消息异步广播到系统的不同部分。消息主题是消息队列的兄弟姐妹,它提供了一种广播异步事件通知的机制,以及允许软件组件连接到主题以便发送和接收那些消息的端点。要广播消息,称为发布者的组件只需将消息推送到主题即可。现在,主题和订阅之间的区别在于,一个主题可以有多个订阅,但是给定的订阅属于一个主题。

总结:

  • 要发布消息时使用主题。
  • 要使用邮件时使用订阅。
,

这取决于!!与往常一样,但这取决于消息的使用方式。

  • 如果它们被同一应用程序使用,请使用相同的订阅。
  • 如果消息是由其他应用程序使用的(因为消息不相关且结构不同),请使用2个订阅。

使用message属性来区分消息类型。由于有了此属性,您可以创建仅接受这些类型的消息的订阅。这样,您可以保留相同的主题,然后自定义调度。我wrote an article on this

,

有三种方法可以解决此问题:

  1. 将不同类型的消息发布到不同的主题,然后为每个主题创建订阅,并使用每个订阅中的消息。
  2. 将不同类型的消息发布到同一主题,创建一个订阅,并使用该订阅中的所有消息。
  3. 将不同类型的消息发布到同一主题,创建两个订阅,并针对每个订阅在订阅者上按类型过滤消息。

这三个选项之间需要权衡。如果您拥有对发布者的控制权,并且可以为不同的消息类型创建完全独立的主题,那么这将是一个很好的方法,因为它可以在完全独立的渠道上保留不同类型的消息。可以将其视为具有指定了更具体类型的数据结构。例如,在Java中,通常首选List<String>List<Integer>而不是同时包含两者的List<Object>

但是,如果发布者由其他人拥有,则此方法可能不可行。如果订户无法知道可能有必要从中吸收的所有主题,那么这也不可行。假设您添加另一种消息并创建一个新主题。处理它需要创建另一个订户。如果消息的类型数量增加很多,那么您可以在一个任务中发现有很多订阅者客户端。

如果在第二个和第三个选项之间进行选择,则决定取决于您的消费方式。是需要处理两种类型消息的同一个应用程序,还是将其拆分为单独的应用程序有意义?如果拥有单独的应用程序有意义,那么单独的订阅是一个不错的选择。如果发布的消息具有在属性中区分其类型的方式,则可以潜在地使用Pub/Sub filtering来确保每个订阅的订阅者仅收到相关的消息。

如果所有消息总是要由同一应用程序使用,则单个订阅可能最有意义。造成这种情况的最大原因是成本:如果您有两个订阅和两个订阅者,则意味着所有消息将被发送并支付两次。通过单次订阅并区分在应用程序级别完成的消息,消息仅发送一次(模数Cloud Pub / Sub的至少一次发送保证)。如果订户不知道消息类型集并且消息类型会随着时间增长,则最后一个选项特别有用。

因此,如果您可以控制发布者,并且可以提前知道消息集,那么最好使用每种消息类型的单独主题。如果不是这种情况,并且消息的处理可以由不同的应用程序完成,那么使用过滤器进行不同的订阅是最好的选择。如果所有消息类型的处理总是由同一应用程序完成,或者类型的数量可能会增加,则最好使用单个订阅。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


使用本地python环境可以成功执行 import pandas as pd import matplotlib.pyplot as plt # 设置字体 plt.rcParams[&#39;font.sans-serif&#39;] = [&#39;SimHei&#39;] # 能正确显示负号 p
错误1:Request method ‘DELETE‘ not supported 错误还原:controller层有一个接口,访问该接口时报错:Request method ‘DELETE‘ not supported 错误原因:没有接收到前端传入的参数,修改为如下 参考 错误2:cannot r
错误1:启动docker镜像时报错:Error response from daemon: driver failed programming external connectivity on endpoint quirky_allen 解决方法:重启docker -&gt; systemctl r
错误1:private field ‘xxx‘ is never assigned 按Altʾnter快捷键,选择第2项 参考:https://blog.csdn.net/shi_hong_fei_hei/article/details/88814070 错误2:启动时报错,不能找到主启动类 #
报错如下,通过源不能下载,最后警告pip需升级版本 Requirement already satisfied: pip in c:\users\ychen\appdata\local\programs\python\python310\lib\site-packages (22.0.4) Coll
错误1:maven打包报错 错误还原:使用maven打包项目时报错如下 [ERROR] Failed to execute goal org.apache.maven.plugins:maven-resources-plugin:3.2.0:resources (default-resources)
错误1:服务调用时报错 服务消费者模块assess通过openFeign调用服务提供者模块hires 如下为服务提供者模块hires的控制层接口 @RestController @RequestMapping(&quot;/hires&quot;) public class FeignControl
错误1:运行项目后报如下错误 解决方案 报错2:Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.1:compile (default-compile) on project sb 解决方案:在pom.
参考 错误原因 过滤器或拦截器在生效时,redisTemplate还没有注入 解决方案:在注入容器时就生效 @Component //项目运行时就注入Spring容器 public class RedisBean { @Resource private RedisTemplate&lt;String
使用vite构建项目报错 C:\Users\ychen\work&gt;npm init @vitejs/app @vitejs/create-app is deprecated, use npm init vite instead C:\Users\ychen\AppData\Local\npm-
参考1 参考2 解决方案 # 点击安装源 协议选择 http:// 路径填写 mirrors.aliyun.com/centos/8.3.2011/BaseOS/x86_64/os URL类型 软件库URL 其他路径 # 版本 7 mirrors.aliyun.com/centos/7/os/x86
报错1 [root@slave1 data_mocker]# kafka-console-consumer.sh --bootstrap-server slave1:9092 --topic topic_db [2023-12-19 18:31:12,770] WARN [Consumer clie
错误1 # 重写数据 hive (edu)&gt; insert overwrite table dwd_trade_cart_add_inc &gt; select data.id, &gt; data.user_id, &gt; data.course_id, &gt; date_format(
错误1 hive (edu)&gt; insert into huanhuan values(1,&#39;haoge&#39;); Query ID = root_20240110071417_fe1517ad-3607-41f4-bdcf-d00b98ac443e Total jobs = 1
报错1:执行到如下就不执行了,没有显示Successfully registered new MBean. [root@slave1 bin]# /usr/local/software/flume-1.9.0/bin/flume-ng agent -n a1 -c /usr/local/softwa
虚拟及没有启动任何服务器查看jps会显示jps,如果没有显示任何东西 [root@slave2 ~]# jps 9647 Jps 解决方案 # 进入/tmp查看 [root@slave1 dfs]# cd /tmp [root@slave1 tmp]# ll 总用量 48 drwxr-xr-x. 2
报错1 hive&gt; show databases; OK Failed with exception java.io.IOException:java.lang.RuntimeException: Error in configuring object Time taken: 0.474 se
报错1 [root@localhost ~]# vim -bash: vim: 未找到命令 安装vim yum -y install vim* # 查看是否安装成功 [root@hadoop01 hadoop]# rpm -qa |grep vim vim-X11-7.4.629-8.el7_9.x
修改hadoop配置 vi /usr/local/software/hadoop-2.9.2/etc/hadoop/yarn-site.xml # 添加如下 &lt;configuration&gt; &lt;property&gt; &lt;name&gt;yarn.nodemanager.res