微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Triton 进入 Gitlab CI

如何解决Triton 进入 Gitlab CI

在将 triton 服务实施到 gitlab CI 时遇到问题。正如我在 triton github https://github.com/triton-inference-server/server 中注意到的那样,认情况下,它们在 Dockerfile 中没有任何暴露的端口,而且我真的无法以任何方式访问该服务?是否有访问 Triton 服务的解决方法

谢谢!

.triton_service: &triton_service
  name: nvcr.io/nvidia/tritonserver:21.06-py3
  command: ['tritonserver','--model-repository=$(S3_TRITON_BUCKET)','--model-control-mode=explicit','--allow-http=true','--allow-metrics=false','--allow-gpu-metrics=false','--log-verbose=true','--log-info=true','--log-warning=true','--log-error=true']
  alias: triton
services:
  - *triton_service

script:
  - curl -v http://triton:8000/v2/health/ready

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。