如何解决我可以在哪里部署机器学习算法而不会超时?
我使用 Heroku 用 Pytorch 部署机器学习算法,但是当我向应用程序发送请求以训练 100 个时期的模型时,我得到了这个 error
at=error code=H12 desc="Request Timeout" method=POST path="/train"
我搜索了请求超时,我发现请求时间的限制
来自 Heroku 是 30 秒
超时问题的解决方法是什么,是否有没有超时的训练模型的平台?
解决方法
模型训练可能是一项昂贵且冗长的操作,可能需要几分钟到几小时的时间(取决于上下文和数据量),因此您可能也会对其他提供程序的请求超时。
解决办法是让模型训练成为后台任务:
- 创建一个
worker
Dyno,用于安排模型训练(即每天 11:00)
或
- 保留
web
Dyno,但确保/train
请求产生一个后台线程(因此网络请求快速完成并且训练在后台进行)
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。