使用内存对象时的系统架构？

如何解决使用内存对象时的系统架构？

我使用 .net core、jquery 和 signalR 创建了一个陌生人聊天 Web 应用程序。目前我正在使用字典来存储用户的连接 ID 和消息。我正在使用内存对象字典，而不是使用任何数据库。为了测试的角度，我已经将它部署在 azure 上，它对 3-4 个用户来说工作正常。我的问题是

1.假设我的应用程序一次有 3000 个用户聊天，托管应用程序的最佳解决方案是什么？我的想法是我可以使用多个系统并使用负载均衡器，我可以将它们重定向到不同的系统。例如，假设有 1500 个用户，那么每个服务器在内存对象中可以有 500 个用户，这 500 个用户可以互相聊天。我可以看到一个限制，即每个用户只能与那 500 个用户而不是 1500 个用户聊天。这个方案可行吗？

2.同时处理3000个用户需要多少内存/CPU核心/存储？

3.我是否需要使用弹性搜索数据库而不是内存对象来存储消息。？我不需要存储消息，但弹性搜索数据库对分布式系统有帮助吗？。

4.负载均衡器的最佳使用方法是什么？以及我需要多少分布式系统？

我的应用支持与陌生人聊天、上传图片、视频。

我知道这可能会有所不同，我们无法准确说出，但我想知道我的网络应用程序的最佳系统架构。

解决方法

为了扩大规模，我会寻找一个 PubSub/实时数据库。 例如：Firebase 实时数据库、Kafka Streams、Redis。

有了这个，您可能根本不需要任何自定义后端。

如果您选择自己的服务器作为发布订阅的中间件，一切都会变得更加复杂。您必须找到一种方法来管理您的基础架构（例如使用 Kubernetes）并设置一个负载均衡器（例如 HAProxy）来在服务器之间分配请求。

有像 codesphere.com 或 heroku.com 这样的提供商可以让您更轻松地完成此过程。

除此之外，您还可以通过 cloudflare.com、netlify 或 vercel 等 CDN 以可扩展且简单的方式为您的前端提供服务。

,

据我所知，当前的解决方案是前端使用 SignalR 与后端通信，然后后端与另一个用户的前端通信？

目前主要关注的是存储，因此您需要将其提取到一个单独的地方。由于它是一种用于存储连接详细信息的缓存，因此 Redis 或其他缓存机制将是完美的选择。然后后端会在需要一些信息时与 Redis 通信。

第二个问题是连接数，因为您会有更多用户。您需要扩展后端以支持它。我不确定 Azure 如何使用它，但我确定它确实支持它，我假设有某种设置来扩展服务并使用某种负载平衡策略，例如循环。由于我们不必记住用户连接到哪个服务，所以这应该可行。

关于消息历史记录，您提到您不存储它，用户每次重新加载应用程序时都会丢失它。如果您需要某种轻量级的消息存储，您可以考虑在 Web 浏览器上进行本地存储。消息可以存储在本地，您无需在后端担心。否则，如果您需要存储消息，那么我认为 nosql DB 会对此有好处，因为您只需存储带有用户 ID 和消息 ID 的 blob。正如您所说，Elastic 非常适合这种情况。

回答您的问题：

1. 通过将存储提取到缓存来解决。
2. 很难说，您只需要监控 Azure 服务。但是，由于您可以使应用具有可扩展性，因此一旦达到限制，您就应该能够对其采取行动。
3. 如前所述，由您决定应用的行为方式，但如果您需要某种存储，客户端的 localstorage 或某种 nosql 数据库都适合此目的。
4. 负载平衡应该在 Azure 中可用，您只需要选择某种策略来平衡负载。