Anunciamos compatibilidad con varios contenedores en puntos de enlace de inferencia de Amazon SageMaker, lo que conlleva un ahorro de costos de hasta el 80 %

Anunciamos compatibilidad con varios contenedores en puntos de enlace de inferencia de Amazon SageMaker, lo que conlleva un ahorro de costos de hasta el 80 %

Amazon SageMaker es compatible a partir de ahora con la implementación de varios contenedores en puntos de enlace en tiempo real para disponer de inferencias con baja latencia e invocarlas de manera independiente para cada solicitud. Esta nueva capacidad le permite ejecutar hasta cinco modelos de machine learning (ML) y marcos diferentes en un único punto de enlace para ahorrar hasta un 80 % en costos. Esta opción es ideal cuando tiene varios modelos de ML con necesidades de recursos similares, o en el caso de modelos individuales que no tienen suficiente tráfico para utilizar la capacidad completa de las instancias de punto de enlace. Por ejemplo, puede beneficiarse de esta opción si dispone de un conjunto de modelos de ML que se invocan de manera poco frecuente o en momentos diferentes, o si tiene puntos de enlace de desarrollo o prueba.

About The Author

No Comments

Leave a Reply