Intégration de Palo Alto Prisma à la passerelle IA de TrueFoundry

Construire avec l'IA aujourd'hui est passionnant, mais cela comporte également des risques. Les modèles peuvent être amenés à faire des choses dangereuses, à divulguer des données sensibles ou à produire des résultats qui nuisent aux utilisateurs. C'est là que Palo Alto Prisma AIRS intervient pour protéger votre IA lors de l'exécution, et que TrueFoundry Gateway facilite la configuration, l'application et la gestion de cette protection.

Lorsque ces deux éléments fonctionnent ensemble, vous bénéficiez d'une sécurité de niveau professionnel pour chaque demande d'IA sans effort d'ingénierie intensif. Cela ressemble moins à un verrouillage de sécurité qu'à un interrupteur.

Ce que Palo Alto Prisma AIRS apporte

Palo Alto Prisma AIRS (AI Runtime Security) est conçu pour détecter et prévenir les menaces en temps réel dans les applications d'IA. Il peut être placé en ligne entre votre application et les modèles d'IA pour détecter les instructions ou les sorties dangereuses avant qu'elles ne causent des dommages.

Voici quelques fonctionnalités puissantes que Prisma AIRS peut faire pour vous :

1. Détectez instantanément une injection rapide — Empêchez les attaquants de tromper votre IA pour qu'elle révèle des instructions cachées ou contourne les contrôles de sécurité.
2. Bloquez les fuites de données avant qu'elles ne se produisent : la protection intégrée contre la perte de données signale et bloque l'exposition accidentelle d'informations confidentielles.
3. Bloquez les sorties non sécurisées — Qu'il s'agisse d'extraits de code malveillants ou de liens inappropriés, Prisma AIRS empêche l'envoi de mauvais contenus aux utilisateurs.
4. Ajustez la détection à l'aide de profils : ajustez la sensibilité et les catégories en fonction des applications, des modèles ou des environnements.
5. Commande centralisée dans Strata Cloud Manager : consultez tous les journaux d'analyse, les verdicts et les alertes depuis un seul endroit.

Par exemple, si Prisma AIRS détecte quelque chose de dangereux, il peut renvoyer un verdict du type action : block avec une catégorie telle que malicious_code, et la requête sera stoppée.

Key Metrics for Evaluating Gateway

Criteria	What should you evaluate ?	Priority	TrueFoundry
Latency	Adds <10ms p95 overhead for time-to-first-token?	Must Have	✅ Supported
Data Residency	Keeps logs within your region (EU/US)?	Depends on use case	✅ Supported
Latency-Based Routing	Automatically reroutes based on real-time latency/failures?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported

Evaluating an AI Gateway?

A practical guide used by platform & infra teams

Ajout de l'intégration Palo Alto Prisma AIRS

Pour ajouter Palo Alto Prisma AIRS à votre configuration TrueFoundry, procédez comme suit :

Remplissez le formulaire du groupe Guardrails

• Nom: Entrez un nom pour votre groupe de garde-corps.
• Collaborateurs: Ajoutez des collaborateurs qui auront accès à ce groupe.
• Configuration AIRS Palo Alto Prisma:
  • Nom: Entrez un nom pour la configuration Palo Alto Prisma AIRS.
  • Nom du profil: nom unique de votre profil Palo Alto Prisma AIRS. Vous pouvez créer un nouveau profil sur le portail AIRS de Palo Alto Prisma et obtenir le nom à partir de là.
• Données d'authentification AIRS de Palo Alto Prisma:
  • Clé API: clé API pour le Palo Alto Prisma AIRS.
    Cette clé est requise pour authentifier les demandes adressées à Palo Alto Prisma AIRS. Vous pouvez l'obtenir sur le portail Palo Alto Prisma AIRS en accédant à votre ressource Palo Alto Prisma AIRS, puis en sélectionnant « Clés et point de terminaison » dans le menu des ressources. Assurez-vous de sécuriser cette clé, car elle donne accès à votre ressource Palo Alto Prisma AIRS.

Structure de réponse

L'API AIRS de Palo Alto Prisma renvoie une réponse dont la structure est la suivante :

Exemple de réponse : injection détectée

Il s'agit d'un exemple de réponse de Palo Alto Prisma AIRS, où l'injection est détectée. Cela sera bloqué et une erreur 400 sera renvoyée.

{
    "report_id": "R82f1e879-0000-49af-9345-da907431c08f",
    "scan_id": "82f1e879-0000-49af-9345-da907431c08f",
    "tr_id": 1234,
    "profile_id": "12345678-0000-1234-1234-123456789012",
    "profile_name": "ai-dummy-profile",
    "category": "malicious",
    "action": "block",
    "prompt_detected": {
      "url_cats": true,
      "dlp": true,
      "injection": true,
      "toxic_content": true,
      "malicious_code": true,
      "agent": true,
      "topic_violation": true
    },
    "response_detected": {
      "url_cats": true,
      "dlp": true,
      "db_security": true,
      "toxic_content": true,
      "malicious_code": true,
      "agent": true,
      "ungrounded": true,
      "topic_violation": true
    },
    "prompt_detection_details": {
      "topic_guardrails_details": {
        "allowed_topics": [
          "string"
        ],
        "blocked_topics": [
          "string"
        ]
      }
    },
    "response_detection_details": {
      "topic_guardrails_details": {
        "allowed_topics": [
          "string"
        ],
        "blocked_topics": [
          "string"
        ]
      }
    },
    "created_at": "2024-07-29T15:51:28.071Z",
    "completed_at": "2024-07-29T15:51:28.071Z"
  }

Logique de validation

TrueFoundry utilise la réponse AIRS Palo Alto Prisma pour déterminer la sécurité et la conformité du contenu :

• Si le réponse.action est bloc, la demande sera bloquée et une erreur 400 sera renvoyée.
• Si le réponse.action est permettre, la demande sera autorisée à être traitée.

Pourquoi TrueFoundry Gateway facilite l'intégration

En connectant Prisma AIRS à la passerelle, vous obtenez :

• Une intégration unique pour tous les modèles et fournisseurs : pas de jonglage avec le SDK ni de modifications de code éparpillées.
• Politiques ciblées : appliquez des garde-fous uniquement à des utilisateurs, à des modèles ou à des environnements spécifiques.
• Application sans incohérences — The Gateway écoute les verdicts de Prisma AIRS et agit de la même manière à chaque fois.
• Sécurité intégrée pour les secrets : stockez les clés d'API Prisma en toute sécurité sous forme de TrueFoundry Secrets sans les exposer dans le code.

Fonctionnalités auxquelles vous pouvez accéder immédiatement avec TrueFoundry + Prisma AIRS

Lorsque cette intégration est en ligne, vous pouvez :

• Utilisez la clé API et l'analyse des profils de Prisma directement à partir des configurations Gateway Guardrail.
• Scannez les entrées avant qu'elles n'atteignent votre modèle d'IA et bloquez instantanément celles qui ne sont pas sûres.
• Scannez les sorties des modèles pour détecter tout contenu dangereux et bloquez-les avant qu'un utilisateur ne les voie.
• Définissez différentes règles de sécurité pour différentes équipes ou modèles, le tout géré dans un seul tableau de bord.
• Combinez les journaux des menaces Prisma dans Strata Cloud Manager avec le suivi de chaque demande d'IA par TrueFoundry.

Comment fonctionne le flux

Voici le parcours simplifié d'une demande :

1. Votre application envoie une demande d'IA via la passerelle TrueFoundry.
2. La passerelle envoie la demande à Prisma AIRS pour un scan des entrées.
3. Si Prisma indique autoriser, le modèle s'exécute. S'il est indiqué bloquer, la demande est arrêtée et renvoyée avec un message sécurisé.
4. Une fois que le modèle répond, la passerelle peut exécuter un scan de sortie avant de le renvoyer à l'application.

Chaque scan est lié à des journaux afin que vous puissiez procéder à un audit ou à une enquête ultérieurement.

Pour plus d'informations, vous pouvez consulter notre documentation sur Palo Alto Prisma AIRS

Les avantages supplémentaires de TrueFoundry Gateway

Voici pourquoi les équipes adorent utiliser TrueFoundry Gateway avec Prisma AIRS :

• Des garde-corps que vous pouvez viser n'importe où : protégez uniquement ce que vous voulez (modèles de production ou outils à haut risque, par exemple).
• Contrôle d'accès : déterminez quelles équipes ou personnes peuvent utiliser certains modèles ou certaines intégrations.
• Déploiement progressif : commencez à petite échelle, testez, puis étendez la couverture sans interruption.
• Plusieurs garde-corps à la fois — Exécutez Prisma AIRS en même temps que les couches de sécurité Azure ou Bedrock pour une sécurité multicouche.
• Configuration centralisée et piste d'audit : restez en conformité sans devoir fouiller manuellement dans les journaux.

Le plat à emporter

La sécurité de l'IA ne doit pas vous ralentir. Prisma AIRS offre une protection de premier ordre, et TrueFoundry Gateway permet de mettre cette protection en toute simplicité sur chaque demande d'IA : aucune réécriture, aucun code personnalisé, aucun casse-tête. Ensemble, ils vous permettent de vous déplacer rapidement tout en restant en sécurité.