微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Fastapi API 调用阻塞了多个请求,因为对 API 的这种并行调用不起作用

如何解决Fastapi API 调用阻塞了多个请求,因为对 API 的这种并行调用不起作用

我构建了一个需要大量并行 cpu 计算的 API,我已部署到开发环境中。

ENTRYPOINT /usr/local/bin/gunicorn \
    -b 0.0.0.0:8001 \
    -w 1 \
    -k uvicorn.workers.UvicornWorker app.main:app \
    --timeout 1200 \
    --chdir /app \
    --log-level 'info' \
    --error-logfile '-'\
    --access-logfile '-'

一切正常,API 运行良好。

我有两个桌面,同时从不同的机器向部署的 API 并行发出请求。但发生的情况是,只有一个请求被处理并返回,然后在第一个请求完成后第二个请求开始处理并返回。

因此,第二个桌面大约需要 1 分钟才能获取结果,而第一个桌面大约需要 20-25 秒。

这背后的原因是什么?有没有人遇到过这种行为?

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。