En el ámbito de la inteligencia artificial generativa, la implementación de características que faciliten el uso de herramientas externas es cada vez más esencial. Amazon ha lanzado una nueva funcionalidad para su modelo de lenguaje, Amazon Nova, que permite a los desarrolladores controlar de manera precisa cuándo y cómo se utilizan estas herramientas. En lugar de depender de la ingeniería de prompts, la elección de herramientas garantiza que el modelo siga las configuraciones establecidas.
La función de tool choice permite a Amazon Nova seleccionar automáticamente la herramienta adecuada para responder a las consultas de los usuarios. Por ejemplo, si un usuario pregunta sobre el clima en Seattle, el modelo elegirá el API del clima para proporcionar la respuesta más precisa. Este enfoque se centra en la selección de la herramienta y sus parámetros, dejando la ejecución de funciones externas a la aplicación o al desarrollador.
La nueva API incluye tres opciones para la elección de herramientas: «Any», que asegura que al menos una herramienta disponible será seleccionada; «Tool», que obliga al modelo a utilizar una herramienta específica solicitada, y «Auto», que permite al modelo decidir cuándo utilizar una herramienta, con la posibilidad de incorporar un proceso de razonamiento en la respuesta.
Un caso de uso destacado es la generación de salidas estructuradas, donde se requiere que Amazon Nova utilice un tool específico para garantizar que las respuestas cumplan con esquemas JSON predefinidos. Esto es crucial, ya que permite que aplicaciones posteriores procesen eficazmente las salidas generadas. Por ejemplo, en un sitio web de recetas, Amazon Nova podría extraer de manera estructurada información sobre ingredientes, tiempos de cocción y pasos de preparación.
Otro escenario común es la selección de endpoints de API, donde se permite que el modelo elija una herramienta de entre varias opciones disponibles, garantizando así que, sin importar la consulta del usuario, se utilice la herramienta más adecuada. Esto es especialmente útil para obtener productos disponibles o clarificar dudas a través de consultas adicionales.
La opción de herramienta «auto», que es la predeterminada, permite que el modelo responda texto directamente al usuario si considera que no necesita una herramienta. Si selecciona una herramienta, devolverá tanto el bloque de la herramienta como un bloque de texto explicativo.
Para optimizar estas interacciones, es importante seguir buenas prácticas, como el uso de parámetros de decodificación ávida y asegurar que la descripción y el nombre de las herramientas sean claros y precisos. Con estas nuevas funcionalidades, Amazon Nova busca mejorar la eficacia y versatilidad de las aplicaciones alimentadas por inteligencia artificial generativa.
vía: AWS machine learning blog
