¿Qué es LLM Tool Calling y cómo funciona?

Los grandes modelos lingüísticos (LLM) han cambiado la forma en que utilizamos la IA, pasando de ser simples generadores de texto a potentes agentes que pueden gestionar tareas complejas. Esto es posible gracias a las llamadas a herramientas (o llamadas a funciones), que permiten a los LLM acceder a datos en tiempo real, realizar acciones e interactuar con sistemas externos.

La llamada a herramientas elimina los límites de los datos de entrenamiento estáticos, lo que convierte a los LLM en participantes activos en los flujos de trabajo en lugar de solo en herramientas de conversación.

Esta guía explica qué es la llamada a una herramienta de LLM, cómo funciona, por qué es importante y qué buscar al implementarla en producción.

¿Qué es LLM Tool Calling?

La llamada a la herramienta LLM es la capacidad de un modelo de lenguaje grande para reconocer cuándo se necesita una acción externa, crear una solicitud estructurada (normalmente en JSON) y permitir que un sistema externo la ejecute. Esto amplía las capacidades del LLM más allá de sus datos de entrenamiento, lo que le permite interactuar con el mundo real.

En los sistemas de producción, estas solicitudes suelen enviarse a través de un Puerta de enlace de IA, que se encarga de la orquestación, la autenticación y la comunicación con los servicios externos.

Qué se considera una «herramienta»

Una herramienta es cualquier función externa, API, base de datos o entorno de código que el LLM puede usar para obtener o procesar información. Entre los ejemplos se incluyen:

• APIs: Acceda a servicios web, datos en tiempo real o plataformas como Salesforce o GitHub.
• Bases de datos: Consulte o actualice datos estructurados (SQL/NoSQL) o no estructurados (vectoriales).
• Ejecución de código: Ejecute scripts para cálculos, análisis o transformaciones.
• Plugins/extensiones: Módulos prediseñados para tareas como la generación de imágenes o el procesamiento de documentos.
• Automatizaciones: Activa flujos de trabajo o interactúa con dispositivos inteligentes.

Qué no es la llamada a herramientas

• La utilización de herramientas es más que una ingeniería rápida: El LLM genera una llamada real a una función externa, no solo una sugerencia de texto.
• La llamada a herramientas es distinta de la recuperación simple: A diferencia de un modelo que simplemente busca y lee el contenido, las llamadas a herramientas construyen argumentos precisos y estructurados que pueden desencadenar acciones reales.

¿Cómo funciona LLM Tool Calling?

La llamada a herramientas de LLM funciona a través de un flujo de trabajo estructurado que permite que el modelo interactúe con sistemas externos, a menudo en entornos de producción dinámicos. Este proceso se puede entender como un ciclo agencial de seis pasos:

Paso 1: Reconocer la necesidad de una herramienta

Cuando un usuario envía una solicitud, el LLM determina si puede responder utilizando su conocimiento interno o si se necesita una herramienta externa. El modelo interpreta la intención del usuario de decidir cuándo se requieren datos o acciones externas. Por ejemplo, «¿Qué tiempo hace en Londres en este momento?» señala la necesidad de una API meteorológica.

Paso 2: Selección de la herramienta

Tras identificar la necesidad, el LLM evalúa las herramientas disponibles basándose en descripciones y esquemas de entrada para seleccionar la más adecuada. En los sistemas con muchas herramientas, un paso preliminar denominado «descubrimiento de herramientas» filtra las herramientas pertinentes para evitar sobrecargar el LLM y optimizar su ventana contextual.

Paso 3: Creación y envío de una consulta

Una vez que se elige una herramienta, el LLM genera una llamada estructurada, normalmente en formato JSON, que contiene el nombre de la herramienta y los parámetros necesarios. A continuación, la capa de orquestación recoge este resultado y lo envía al sistema externo apropiado para su ejecución. Por ejemplo, {"name»: «get_weather», «arguments»: {"city»: «London"}}. Esta carga útil se envía a una capa de ejecución o aplicación externa para su procesamiento.

Paso 4: Recibir y procesar la respuesta

La capa de aplicación o middleware ejecuta la llamada a la herramienta, gestionando la autenticación, la gestión de errores y las transformaciones de datos, antes de devolver un resultado limpio al LLM. El resultado se captura y se prepara para el LLM, lo que garantiza su fiabilidad y exactitud antes de que se devuelva.

Paso 5: Presentar la información o tomar medidas

El LLM recibe el resultado y lo incorpora a la conversación. Para la recuperación de la información, genera una respuesta legible para los humanos. En el caso de acciones, como enviar un correo electrónico, puede confirmar que la tarea se completó correctamente, lo que proporciona una experiencia de usuario perfecta.

Paso 6: Refinar el proceso

En tareas complejas o de varios pasos, el LLM puede volver a evaluar la conversación utilizando el resultado de la herramienta. Puede optar por recurrir a herramientas adicionales, refinar su razonamiento con nuevos datos o solicitar una aclaración al usuario para garantizar resultados precisos, completos y apropiados desde el punto de vista del contexto.

Por qué es importante Tool Calling

Las llamadas a herramientas de LLM amplían fundamentalmente lo que pueden hacer los modelos de IA: pasan de ser generadores de texto pasivos a agentes que pueden tomar medidas en el mundo real.

• Transforma los LLM en agentes activos: Lleva los LLM más allá de la generación de texto, permitiéndoles realizar tareas del mundo real y resolver problemas de forma autónoma.
• Supera las limitaciones de LLM: Permite el acceso a información en tiempo real, bases de datos propietarias y sistemas privados, lo que mejora la precisión, la relevancia y la frescura de las respuestas.
• Mejora la confiabilidad: Las salidas estructuradas, como JSON, proporcionan instrucciones predecibles y legibles por máquina, lo que reduce los errores de formato y la ambigüedad del análisis. Además, dado que las respuestas del LLM se basan en datos reales devueltos por las herramientas, y no únicamente en los datos de entrenamiento, las alucinaciones basadas en hechos reales también disminuyen.
• Permite acciones prácticas: Los LLM pueden ejecutar tareas como enviar correos electrónicos, consultar bases de datos, actualizar registros o activar flujos de trabajo complejos, lo que los hace verdaderamente productivos.
• Ofrece valor empresarial: Acelera las operaciones, reduce los costos, automatiza los procesos repetitivos y libera recursos humanos para un trabajo estratégico de mayor valor, lo que mejora la eficiencia general.

¿Cuáles son los tipos de Tool Calling?

Las llamadas a las herramientas LLM se pueden clasificar según el tipo de interacción externa y los problemas que resuelve. Los tipos principales incluyen:

1. Búsqueda y recuperación de información

Estas herramientas permiten a los LLM obtener y procesar datos de fuentes externas. Entre los ejemplos se incluyen:

• APIs externas: Acceda a información en tiempo real, como previsiones meteorológicas, actualizaciones del mercado de valores, artículos de noticias o resultados de motores de búsqueda.
• Bases de datos (SQL/NoSQL): Consulta datos estructurados como registros de clientes, historiales de pedidos o catálogos de productos.

Bases de datos vectoriales: Realice búsquedas semánticas en colecciones de documentos grandes y no estructurados. Se suelen usar en arquitecturas de generación aumentada (RAG), en las que los fragmentos recuperados se pasan como contexto al LLM junto con la consulta del usuario.

2. Ejecución de código

Las herramientas de ejecución de código permiten a los LLM realizar cálculos, análisis de datos y otras transformaciones más allá de sus capacidades integradas:

• Lenguajes de programación (por ejemplo, Python): Ejecute scripts para cálculos complejos, análisis estadísticos o manipulación de datos.
• Herramientas matemáticas especializadas (p. ej., Wolfram Alpha): Maneje matemáticas avanzadas, computación simbólica o resolución de problemas científicos.

3. Automatización de procesos

Estas herramientas permiten a los LLM activar flujos de trabajo o interactuar con otros sistemas de software:

• Plataformas de automatización del flujo de trabajo: Inicie tareas en herramientas de gestión de proyectos como Jira, active canalizaciones de CI/CD o gestione los procesos de aprobación.
• Herramientas de comunicación: Envía correos electrónicos, mensajes de Slack, notificaciones por SMS o crea eventos en el calendario.
• Sistemas CRM/ERP: Gestione clientes potenciales, actualice los perfiles de los clientes o gestione el inventario en plataformas como Salesforce o HubSpot.

4. Dispositivos inteligentes y monitoreo de IoT

Estas herramientas permiten a los LLM interactuar y controlar los dispositivos físicos:

• API de dispositivos de IoT: Encienda y apague los dispositivos, ajuste los termostatos o consulte los datos de los sensores de los dispositivos conectados.
• Sistemas de automatización del hogar: Intégralo con centros domésticos inteligentes para ejecutar comandos o recuperar los estados de los dispositivos.

¿Cuáles son los ejemplos más comunes de Tool Calling?

La llamada a herramientas de LLM se puede ver en acción en una variedad de escenarios prácticos. Estos ejemplos ilustran cómo los LLM van más allá de la generación de texto para realizar tareas del mundo real:

1. Recuperación de información en tiempo real

Los LLM pueden obtener datos en vivo de fuentes externas para proporcionar respuestas actualizadas.

Por ejemplo:

• Cuando un usuario pregunta: «¿Cuál es el precio de las acciones de Tesla en este momento?» , el LLM llama a la API get_stock_price (Symbol="TSLA»).
• Para una pregunta como: «¿Cuáles son los titulares más importantes de la tecnología en la actualidad?» , el LLM consulta una API get_news_headlines (category="technology»).

2. Ejecución matemática y de código

Los LLM pueden realizar cálculos complejos o ejecutar código para tareas analíticas.

Por ejemplo:

• Si un usuario pregunta: «Calcula la raíz cuadrada de 12345», se activa una llamada a calculate_math (expression="sqrt (12345)»).
• Para solicitudes como «Analice este conjunto de datos para conocer las tendencias de ventas», el LLM genera y ejecuta un script de Python para realizar análisis estadísticos y crear visualizaciones.

3. Acciones de base de datos

Los LLM pueden consultar o actualizar datos estructurados en bases de datos.

Por ejemplo:

• Si un agente de soporte pregunta: «Busque todos los tickets de soporte abiertos para John Doe», el LLM ejecuta find_tickets (CUSTOMER_NAME="John Doe») en una base de datos de CRM.
• Si un representante de ventas solicita: «Actualice el estado de cliente potencial de 'Project Phoenix' a 'Calificado'», hace que el LLM llame a update_crm_lead (project="Project Phoenix», status="qualified»).

4. Automatización de acciones

Los LLM pueden activar flujos de trabajo o interactuar con las aplicaciones para realizar tareas.

Por ejemplo:

• Si un usuario dice: «Envía un correo electrónico a mi equipo resumiendo nuestra última reunión», lleva al LLM a redactar el correo electrónico y a llamar a send_email (destinatarios, asunto, cuerpo).
• Para una solicitud como «Reserva un vuelo de Londres a Nueva York el mes que viene», el LLM utiliza una API book_flight (origen, destino, fecha), posiblemente después de confirmar las fechas con el usuario.

Llamada de herramientas frente a búsqueda de herramientas frente a MCP

Si bien se usa con frecuencia en contextos relacionados, es crucial comprender las distintas funciones de Tool Calling, Tool Search y Model Context Protocol (MCP):

Llamada de herramientas: Este es el mecanismo principal, la capacidad fundamental de un LLM para generar resultados estructurados (como JSON) para invocar una función o API externa. Es la «mano» que permite al «cerebro» del LLM manipular objetos externos.

Búsqueda de herramientas: Esta es la capa de descubrimiento. A medida que aumenta la cantidad de herramientas disponibles (potencialmente a cientos o miles), proporcionar todas las definiciones de las herramientas a la ventana contextual del LLM se vuelve ineficiente y costoso. La búsqueda de herramientas permite al LLM recuperar de forma dinámica las definiciones de herramientas más relevantes de un catálogo grande, normalmente mediante una búsqueda semántica sobre las descripciones de las herramientas, en función de la intención del usuario, de modo que solo se cargan las herramientas relevantes en la ventana contextual.

Protocolo de contexto modelo (MCP): Se trata de un estándar de interfaz. Protocolo de contexto modelo (MCP) proporciona una forma estandarizada de definir y conectar las herramientas a los LLM, al igual que un «puerto USB-C» estandariza la forma en que los periféricos se conectan a una computadora. Su objetivo es simplificar el proceso de integración ofreciendo un protocolo uniforme (p. ej., herramientas o listas para descubrir, herramientas o llamadas para ejecutar) para la comunicación, independientemente de la herramienta subyacente o del proveedor de LLM.

Seguridad y gobernanza para Tool Calling

La implementación segura de las llamadas con herramientas de LLM requiere prácticas sólidas de seguridad y gobierno, tales como:

• Autenticación y autorización: Usa OAuth, claves de API o cuentas de servicio para proteger el acceso a las herramientas. Aplica los principios de privilegios mínimos y administra los tokens por usuario.
• Prevención de la inyección inmediata: Protéjase contra la inyección inmediata, incluida la inyección indirecta a través de las salidas de las herramientas, validando las entradas comparándolas con esquemas estrictos, ajustando la ejecución de las herramientas y restringiendo las herramientas que se pueden invocar en función del contexto y el rol del usuario.
• Seguridad de entrada y salida: Valide las entradas comparándolas con los esquemas y desinfecte las salidas. Utilice las listas de permisos para las herramientas y los parámetros permitidos.
• Privacidad de datos y cumplimiento: Siga las normas como el RGPD o la HIPAA. Registre todas las llamadas a las herramientas y defina políticas claras de retención de datos.
• Ser humano al día con las acciones críticas: En el caso de operaciones delicadas o irreversibles, interrumpa el ciclo de agencia para solicitar la aprobación humana explícita antes de ejecutar la llamada a la herramienta.

¿Qué hace que un modelo sea bueno para Tool Calling?

La eficacia de un LLM en la búsqueda de herramientas depende de varias características clave, como:

1. Alta adherencia a la salida estructurada (JSON/sintaxis): Un buen modelo de invocación de herramientas genera de forma coherente y precisa el formato JSON estructurado requerido, incluidos los nombres correctos de las herramientas y los argumentos bien formados, sin desviaciones ni sintaxis «alucinada».
2. Sólidas capacidades de razonamiento y toma de decisiones: El modelo debe comprender de manera efectiva la intención del usuario, discernir cuándo es necesaria una herramienta y seleccionar lógicamente la más adecuada de la lista de herramientas disponibles. También debería poder encadenar múltiples llamadas a herramientas si una tarea compleja lo requiere.
3. Capacitación nativa sobre llamadas de herramientas: Los modelos ajustados de forma explícita o previamente entrenados con conjuntos de datos de llamadas a herramientas funcionan significativamente mejor. Aprenden los patrones para identificar el uso de las herramientas, extraer los parámetros y formatear los resultados, lo que se traduce en una mayor confiabilidad que los modelos reacondicionados con ingeniería rápida solo.
4. Alta confiabilidad y baja «alucinación con herramientas»: El modelo rara vez debe «alucinar» o inventar nombres de herramientas o parámetros que no existen. Necesita asignar con precisión las solicitudes de los usuarios a las herramientas disponibles y sus esquemas.
5. Gestión eficaz del contexto y los parámetros: La capacidad de gestionar el historial de conversaciones, integrar los resultados de las herramientas y extraer parámetros precisos de diversas entradas de lenguaje natural es crucial. En escenarios complejos, el modelo debe gestionar un mayor número de herramientas de manera eficiente, a menudo junto con estrategias como la búsqueda de herramientas para gestionar las limitaciones de las ventanas contextuales.

Conclusión

La llamada a herramientas LLM convierte los modelos lingüísticos de gran tamaño de generadores de texto básicos en dinámicos e interactivos Agentes de IA. Les permite acceder a API, bases de datos y códigos externos para recuperar información en tiempo real, realizar cálculos complejos y ejecutar acciones prácticas.

Para implementar esto de manera eficaz, necesita la infraestructura adecuada que gestione la complejidad sin ralentizarlo.

TrueFoundry le permite implementar, proteger y escalar sistemas de IA con soporte integrado para la integración de herramientas, los controles de acceso y la supervisión. Esto facilita la gestión del comportamiento de los modelos y la creación de aplicaciones de IA fiables y de nivel de producción que van más allá de las simples conversaciones.