Reduzca los costos de inferencia de aprendizaje automático en PyTorch con Amazon Elastic Inference

Reduzca los costos de inferencia de aprendizaje automático en PyTorch con Amazon Elastic Inference

Ahora puede usar Amazon Elastic Inference para acelerar la inferencia y reducir los costos de inferencia para los modelos PyTorch en Amazon SageMaker, Amazon EC2 y Amazon ECS. Las bibliotecas PyTorch mejoradas para EI están disponibles automáticamente en Amazon SageMaker, las AMI de AWS Deep Learning y AWS Deep Learning Containers, para que pueda implementar sus modelos PyTorch en producción con cambios mínimos de código. Elastic Inference admite modelos compilados de TorchScript en PyTorch. Para usar Elastic Inference con PyTorch, debe convertir sus modelos de PyTorch en TorchScript y usar la API Elastic Inference para inferencia. Hoy, PyTorch se une a TensorFlow y Apache MXNet como un marco de aprendizaje profundo que es compatible con Elastic Inference.

About The Author

No Comments

Leave a Reply