BentoML – 基于 Python 的机器学习模型生产部署框架
資深大佬 : parano 8
hi 大家好，分享我最近在做的一个开源项目 BentoML，一个基于 Python 的 machine learning model serving 框架： https://github.com/bentoml/BentoML
BentoML 是一个用于将机器学习模型生产化和部署的工具。数据科学家可以通过 BentoML，来将训练好的机器学习模型，开发成适用于生产环境的 API 服务器(mode server)。BentoML 支持绝大多数主流的机器学习框架，包括 Tensorflow, Keras, PyTorch, XGBoost, scikit-learn, fastai, 等等。
BentoML 自带一个 基于 aiohttp 和 asyncio 开发的高性能模型服务器。它支持 micro-batching，可以在做实时请求的时候，更高效地利用机器学习框架和底层硬件在处理 batch 数据时的优势，从而达到更大的 throughput 和更小的 latency 。它同时也提供离线的 batch serving 、模型管理、和自动化部署等功能。
希望对在做机器学习的朋友有帮助，有什么问题或建议欢迎指出，感谢！
相关链接：
- BentoML 简明教程： https://docs.bentoml.org/en/latest/quickstart.html
- 在线文档： http://docs.bentoml.org/
- Github Repo: https://github.com/bentoml/BentoML
- 推特：@BentoMLai
大佬有話說 (6)