En un movimiento hacia la mejora de las operaciones empresariales a través de la inteligencia artificial (IA), AWS ha presentado una nueva solución basada en los Modelos Específicos de Tareas (TSM) de AI21 Labs. Estos modelos, diseñados específicamente para responder preguntas, resumir textos, corregir errores gramaticales y parafrasear, están ahora disponibles en Amazon SageMaker JumpStart.
La integración de los TSM de AI21 en AWS permite a las empresas acceder fácilmente a estos modelos, suscribiéndose a ellos a través de AWS Marketplace y configurando su entorno en Amazon SageMaker. Según AI21 Labs, sus modelos ofrecen una tasa de rechazo mejorada para garantizar que no se proporcionen respuestas a menos que estén basadas en contenido documentado real. Este enfoque se traduce en mayores tasas de precisión y ahorro de costos, haciendo que los TSM de AI21 sean una solución eficaz para tareas comerciales comunes.
Uno de los principales beneficios de los TSM es que, a diferencia de los modelos base o Foundation Models (FM), estos están entrenados específicamente para ejecutar tareas únicas y especializadas, como la creación de versiones variadas de textos manteniendo un tono consistente o la condensación de textos extensos en resúmenes concisos. Ejemplos de TSM mencionados son AI21 Contextual Answers, AI21 Summarize y AI21 Paraphrase.
El proceso para empezar a utilizar estos modelos es relativamente sencillo y está bien documentado. Las empresas deben configurar una cuenta de AWS y un entorno de SageMaker, suscribirse a los TSM en AWS Marketplace y luego implementar los puntos finales de SageMaker. Además, se requiere ajustar las limitaciones de cuota de servicio para utilizar las GPU necesarias.
Los costes estimados para ejecutar estos modelos varían. Por ejemplo, utilizar el modelo de Respuestas Contextuales en un GPU ml.g5.48xlarge durante aproximadamente 15 minutos tiene un costo de $20.41, mientras que el uso del modelo de Resumir y Parafrasear en un GPU ml.g4dn.12xlarge durante 10 minutos cada uno cuesta alrededor de $4.94.
Además de ser más fáciles de implementar y gestionar, los TSM de AI21 ofrecen beneficios significativos en términos de precisión y costos. En comparación con los FM, que requieren una ingeniería de prompt más elaborada y pueden generar respuestas inexactas o irrelevantes, los TSM proporcionan respuestas más precisas dentro de su ámbito específico. Esto los hace especialmente adecuados para aplicaciones en sectores como el servicio al cliente, legal, financiero y educativo.
El uso de los TSM de AI21 en AWS demuestra ser una herramienta eficaz para mejorar y optimizar diversas operaciones empresariales, reduciendo la necesidad de una extensa ingeniería de prompt y ofreciendo beneficios tangibles en términos de desempeño y costos.
vía: AWS machine learning blog
