Uw Agno Agent Implementeren op TrueFoundry

In deze gids laten we u zien hoe u een Agno agent implementeert op TrueFoundry, een platform dat is ontworpen om AI-deployment te vereenvoudigen met minimale DevOps- of MLOps-expertise. TrueFoundry automatiseert het beheer van infrastructuur, schalen en monitoring, zodat u zich kunt richten op het verkrijgen van inzichten in plaats van het afhandelen van complexe deployment-taken. Met slechts enkele kliks kunt u verzoeken in natuurlijke taal omzetten in SQL-query's en dynamische grafieken, wat verkennende data-analyse naadloos en intelligent maakt. Handmatig query's schrijven is niet meer nodig!

Als u dit rechtstreeks wilt uitproberen, bezoek dan het TrueFoundry-platform en navigeer naar Live Demos en agno-Streamlit: Live demo van onze agent-workflow

Overzicht van de Architectuur

Dit project bestaat uit verschillende sleutelcomponenten die samenwerken:

Query Agent

• Gebruikt GPT-4o voor het begrijpen van natuurlijke taal
• Genereert geschikte SQL-query's voor ClickHouse
• Voert de SQL-query uit op een vooraf geconfigureerde SQL database
• Retourneert de gegevens in tabelvorm als invoer voor de visualisatie-agent

Visualization Agent: Een tweede AI-agent die

• Het meest geschikte visualisatietype bepaalt op basis van de gegevens
• Plots genereert met behulp van matplotlib/seaborn
• De opmaak en styling van visualisaties afhandelt

FastAPI Backend: RESTful API die

• Coördineert tussen agenten met behulp van agno
• Asynchrone taakverwerking beheert
• Plot-afbeeldingen en resultaten serveert

Streamlit Frontend: Gebruikersinterface die

• Biedt een intuïtieve query-interface
• Toont de realtime verwerkingsstatus
• Toont interactieve visualisaties

Dataflow

Gebruiker dient een verzoek in natuurlijke taal in via Streamlit.

• Query Agent gebruikt agno met GPT-4o om SQL-query's te genereren voor ClickHouse
• Voert de SQL-query uit op de ClickHouse-database
• Resultaten worden geretourneerd in tabelvorm als invoer voor de Visualization Agent
• Visualization Agent genereert visualisaties en retourneert afbeeldingen voor weergave

Aan de Slag

Kloon de Repository

Navigeer eerst naar de TrueFoundry Getting Started Examples repository en kloon deze:

Navigeer naar de agno Plot Agent-directory:

Omgevingsinstelling

Maak en activeer een virtuele omgeving:

Installeer afhankelijkheden:

Omgevingsvariabelen Configureren

Maak een .env-bestand:

‍
Opmerking: Bij het gebruik van de TrueFoundry LLM Gateway moet het model-ID-formaat provider-name/model-name zijn (bijv. openai-main/gpt-4o). Zorg ervoor dat uw .env-bestand de juiste LLM Gateway-inloggegevens bevat zoals getoond in het gedeelte Omgevingsconfiguratie.

Om ClickHouse-inloggegevens te verkrijgen, maakt u een account aan op clickhouse, meldt u zich aan en maakt u een service aan. Nadat u op de service hebt geklikt, ziet u een connect-knop in het midden van de linkerzijbalk, waarop u kunt klikken om de inloggegevens te bekijken zoals hieronder getoond. U kunt een database maken door uw bestanden te uploaden of een vooraf gedefinieerde database gebruiken.

Agno Agent-implementatie

De Services Uitvoeren

Start agno Workflow

Start FastAPI Backend:

Start Streamlit UI (nieuwe terminal):

Deployment op TrueFoundry

Vereisten

Installeer TrueFoundry CLI:

Log in op TrueFoundry:

Stappen voor Deployment

1. Navigeer naar het gedeelte Deployments in TrueFoundry.

2. Klik onderaan op Service.
3. Selecteer uw cluster-workspace.
4. U kunt implementeren vanaf uw laptop, GitHub of Docker. Als u vanaf uw laptop implementeert, zorg er dan voor dat u aan de bovenstaande vereisten hebt voldaan.
5. Het TrueFoundry-platform genereert een deploy.py-bestand en voegt dit toe aan uw project. U moet dit bestand bewerken om uw omgevingsvariabelen toe te voegen. Zoek het gedeelte env in het gegenereerde bestand en voeg uw inloggegevens toe:
6. Gebruik het gegenereerde deploy.py en bewerk het gedeelte env:

Deployment Testen

Stuur een test-query:

Voorbeeld van een succesvolle respons:

API-endpoints

• Een Query Indienen:

• Query-status Controleren:

• Plot-afbeelding Ophalen:

Frontend en CORS

Configureer CORS in FastAPI:

Definieer Omgevingsvariabele in Streamlit:

Opmerkingen na Deployment

• Test API-connectiviteit van Streamlit naar FastAPI.
• Werk het .env-bestand van Streamlit bij met het FastAPI-endpoint.
• Bevestig dat de CORS-instellingen Streamlit-verzoeken toestaan.

Bewaak en beheer uw deployment via TrueFoundry door:

• Logs te bekijken
• Het gebruik van bronnen te monitoren
• Regels voor automatisch schalen in te stellen
• De status van de backend (/health), API-documentatie (/docs) en metrieken te controleren op /metrics

Traces toevoegen aan uw agent

Tracing helpt u te begrijpen wat er onder de motorkap gebeurt wanneer een agent-run wordt aangeroepen. U krijgt inzicht in het pad, de aangeroepen tools, de gebruikte context en de opgelopen latentie wanneer u uw agent uitvoert met de tracing-functionaliteit van TrueFoundry door slechts enkele regels code toe te voegen.

U dient het volgende te installeren

En voeg vervolgens de benodigde omgevingsvariabelen toe om tracing in te schakelen

In uw codebase waar u uw agent definieert, hebt u alleen deze regels nodig om tracing in te schakelen

Voeg vervolgens een decorator toe aan de agent en workflows zoals hieronder

Met deze stappen is uw agno agent-workflow succesvol geïmplementeerd op TrueFoundry!