未分類
14 5 月 2020

请教 docker TensorFlow/Saving，部署模型的时候怎样配置或者判断显存应该是多少。

请教 docker TensorFlow/Saving，部署模型的时候怎样配置或者判断显存应该是多少。

資深大佬 : naldo0193 8

学习使用 docker TensorFlow/Saving 部署，显存满了，实际上应该用不了这么多显存（猜的）。使用 docker TensorFlow/Saving 可以配置显存大小吗？有没有方法去预估部署的模型应该是多少显存呢？

大佬有話說 (3)

  • 資深大佬 : c0xt30a

    TF 默认占用所有显存。

    如果运行时不足，可以试着
    1. 修改 batch size
    2. 如果是图片之类的数据，divide and conquer

  • 資深大佬 : joyme

    你想打的是 tensorflow serving 吗？有个这个参数可以试试：–per_process_gpu_memory_fraction=0.5

  • 主 資深大佬 : naldo0193

    @c0xt30a
    @joyme
    感谢