Integration von Palo Alto Prisma mit dem AI Gateway von TrueFoundry

Das Bauen mit KI ist heute aufregend — birgt aber auch Risiken. Modelle können dazu verleitet werden, unsichere Dinge zu tun, sensible Daten durchsickern zu lassen oder Ergebnisse zu produzieren, die den Benutzern schaden. Hier kommt Palo Alto Prisma AIRS ins Spiel, um Ihre KI während der Laufzeit zu schützen, und mit dem TrueFoundry Gateway lässt sich dieser Schutz einfach einrichten, anwenden und verwalten.

Wenn diese beiden zusammenarbeiten, erhalten Sie Sicherheit auf Unternehmensebene für jede KI-Anfrage ohne großen technischen Aufwand. Es fühlt sich weniger an, als würde man die Sicherheit anschrauben, sondern eher so, als würde man einen Schalter umlegen.

Was Palo Alto Prisma AIRS auf den Tisch bringt

Palo Alto Prisma AIRS (AI Runtime Security) wurde für die Erkennung und Verhinderung von Bedrohungen in Echtzeit in KI-Anwendungen entwickelt. Es kann zwischen Ihrer Anwendung und Ihren KI-Modellen integriert werden, um unsichere Eingabeaufforderungen oder gefährliche Ausgaben zu erkennen, bevor sie Schaden anrichten.

Hier sind einige leistungsstarke Dinge, die Prisma AIRS für Sie tun kann:

1. Sofortige Injection erkennen — Verhindern Sie, dass Angreifer Ihre KI dazu verleiten, versteckte Anweisungen aufzudecken oder Sicherheitskontrollen zu umgehen.
2. Stoppen Sie Datenlecks, bevor sie passieren — Der integrierte Schutz vor Datenverlust markiert und verhindert die versehentliche Offenlegung vertraulicher Informationen.
3. Unsichere Ausgaben blockieren — Von Schnipseln mit bösartigem Code bis hin zu unangemessenen Links verhindert Prisma AIRS, dass schlechte Inhalte an Benutzer gesendet werden.
4. Feinabstimmung der Erkennung mit Profilen — Passen Sie Empfindlichkeit und Kategorien für verschiedene Apps, Modelle oder Umgebungen an.
5. Zentraler Befehl in Strata Cloud Manager — Sehen Sie sich alle Scanprotokolle, Urteile und Warnungen von einem Ort aus an.

Wenn Prisma AIRS beispielsweise etwas Gefährliches sieht, sendet es möglicherweise ein Urteil wie action: block mit einer Kategorie wie malicious_code zurück, und die Anfrage wird sofort gestoppt.

Key Metrics for Evaluating Gateway

Criteria	What should you evaluate ?	Priority	TrueFoundry
Latency	Adds <10ms p95 overhead for time-to-first-token?	Must Have	✅ Supported
Data Residency	Keeps logs within your region (EU/US)?	Depends on use case	✅ Supported
Latency-Based Routing	Automatically reroutes based on real-time latency/failures?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported

Evaluating an AI Gateway?

A practical guide used by platform & infra teams

Hinzufügen der Palo Alto Prisma AIRS-Integration

Gehen Sie wie folgt vor, um Palo Alto Prisma AIRS zu Ihrem TrueFoundry-Setup hinzuzufügen:

Füllen Sie das Guardrails-Gruppenformular aus

• Name: Geben Sie einen Namen für Ihre Leitplankengruppe ein.
• Kollaborateure: Fügen Sie Mitarbeiter hinzu, die Zugriff auf diese Gruppe haben werden.
• Palo Alto Prisma AIRS-Konfiguration:
  • Name: Geben Sie einen Namen für die Palo Alto Prisma AIRS-Konfiguration ein.
  • Name des Profils: Der eindeutige Name Ihres Palo Alto Prisma AIRS-Profils. Sie können im Palo Alto Prisma AIRS-Portal ein neues Profil erstellen und den Namen von dort abrufen.
• Palo Alto Prisma AIRS-Authentifizierungsdaten:
  • API-Schlüssel: Der API-Schlüssel für die Palo Alto Prisma AIRS.
    Dieser Schlüssel ist erforderlich, um Anfragen an Palo Alto Prisma AIRS zu authentifizieren. Sie erhalten ihn im Palo Alto Prisma AIRS-Portal, indem Sie zu Ihrer Palo Alto Prisma AIRS-Ressource navigieren und dann im Ressourcenmenü „Schlüssel und Endpunkt“ auswählen. Stellen Sie sicher, dass Sie diesen Schlüssel sicher aufbewahren, da er den Zugriff auf Ihre Palo Alto Prisma AIRS-Ressource gewährt.

Struktur der Antwort

Die Palo Alto Prisma AIRS API gibt eine Antwort mit der folgenden Struktur zurück:

Beispielantwort: Injektion erkannt

Dies ist ein Beispiel für eine Reaktion von Palo Alto Prisma AIRS, bei der eine Injektion erkannt wird. Dies wird blockiert und ein 400-Fehler wird zurückgegeben.

{
    "report_id": "R82f1e879-0000-49af-9345-da907431c08f",
    "scan_id": "82f1e879-0000-49af-9345-da907431c08f",
    "tr_id": 1234,
    "profile_id": "12345678-0000-1234-1234-123456789012",
    "profile_name": "ai-dummy-profile",
    "category": "malicious",
    "action": "block",
    "prompt_detected": {
      "url_cats": true,
      "dlp": true,
      "injection": true,
      "toxic_content": true,
      "malicious_code": true,
      "agent": true,
      "topic_violation": true
    },
    "response_detected": {
      "url_cats": true,
      "dlp": true,
      "db_security": true,
      "toxic_content": true,
      "malicious_code": true,
      "agent": true,
      "ungrounded": true,
      "topic_violation": true
    },
    "prompt_detection_details": {
      "topic_guardrails_details": {
        "allowed_topics": [
          "string"
        ],
        "blocked_topics": [
          "string"
        ]
      }
    },
    "response_detection_details": {
      "topic_guardrails_details": {
        "allowed_topics": [
          "string"
        ],
        "blocked_topics": [
          "string"
        ]
      }
    },
    "created_at": "2024-07-29T15:51:28.071Z",
    "completed_at": "2024-07-29T15:51:28.071Z"
  }

Validierungslogik

TrueFoundry verwendet die Airs-Antwort von Palo Alto Prisma, um die Sicherheit und Konformität von Inhalten zu ermitteln:

• Wenn der antwort.aktion ist Block, die Anfrage wird blockiert und ein 400-Fehler wird zurückgegeben.
• Wenn der antwort.aktion ist ermöglichen, die Anfrage kann bearbeitet werden.

Warum TrueFoundry Gateway die Integration mühelos macht

Wenn Prisma AIRS an das Gateway angeschlossen ist, erhalten Sie:

• Eine Integration für alle Modelle und Anbieter — kein Jonglieren mit dem SDK oder vereinzelte Codeänderungen.
• Gezielte Richtlinien — Wenden Sie Schutzmaßnahmen nur für bestimmte Benutzer, Modelle oder Umgebungen an.
• Durchsetzung ohne Widersprüche — The Gateway hört sich die Urteile von Prisma AIRS an und handelt jedes Mal auf die gleiche Weise.
• Integrierte Sicherheit für Geheimnisse — Speichern Sie Prisma-API-Schlüssel sicher als TrueFoundry Secrets, ohne sie im Code preiszugeben.

Funktionen, auf die Sie mit TrueFoundry + Prisma AIRS sofort zugreifen können

Wenn diese Integration live ist, können Sie:

• Verwenden Sie den API-Schlüssel und das Profilscannen von Prisma direkt aus den Gateway-Guardrail-Konfigurationen.
• Scannen Sie Eingaben, bevor sie Ihr KI-Modell erreichen, und blockieren Sie unsichere Eingaben sofort.
• Scannen Sie die Modellausgaben nach schädlichen Inhalten und stoppen Sie sie, bevor ein Benutzer sie sieht.
• Legen Sie unterschiedliche Sicherheitsregeln für verschiedene Teams oder Modelle fest, die alle in einem Dashboard verwaltet werden.
• Kombinieren Sie Prisma-Bedrohungsprotokolle im Strata Cloud Manager mit der Verfolgung jeder KI-Anfrage durch TrueFoundry.

So funktioniert der Flow

Hier ist der vereinfachte Ablauf einer Anfrage:

1. Ihre App sendet eine KI-Anfrage über das TrueFoundry Gateway.
2. Das Gateway sendet die Anfrage für einen Eingabescan an Prisma AIRS.
3. Wenn Prisma erlaubt sagt, läuft das Modell. Wenn Block steht, wird die Anfrage gestoppt und mit einer sicheren Nachricht zurückgegeben.
4. Sobald das Modell reagiert, kann das Gateway einen Ausgabescan ausführen, bevor es ihn an die App zurücksendet.

Jeder Scan ist mit Protokollen verknüpft, sodass Sie ihn später überprüfen oder untersuchen können.

Weitere Informationen finden Sie in unseren Dokumenten unter Palo Alto Prisma AIRS

Die zusätzlichen Vorteile, die TrueFoundry Gateway bietet

Hier ist der Grund, warum Teams TrueFoundry Gateway gerne mit Prisma AIRS verwenden:

• Leitplanken, auf die Sie überall zielen können — Schützen Sie nur, was Sie wollen (z. B. Serienmodelle oder Werkzeuge mit hohem Risiko).
• Zugriffskontrolle — Entscheiden Sie, welche Teams oder Einzelpersonen bestimmte Modelle oder Integrationen verwenden können.
• Progressiver Rollout — Fangen Sie klein an, testen Sie und erweitern Sie dann die Abdeckung ohne Ausfallzeiten.
• Mehrere Leitplanken gleichzeitig — Führen Sie Prisma AIRS zusammen mit Azure- oder Bedrock-Sicherheitsebenen aus, um mehrstufige Sicherheit zu gewährleisten.
• Zentralisierte Konfiguration und Audit-Trail — Bleiben Sie konform, ohne dass Sie manuell nach Protokollen suchen müssen.

Das Essen zum Mitnehmen

KI-Sicherheit muss Sie nicht bremsen. Prisma AIRS bietet erstklassigen Schutz, und mit dem TrueFoundry Gateway ist es unglaublich einfach, diesen Schutz auf jede KI-Anfrage anzuwenden — ohne Umschreiben, ohne benutzerdefinierten Code, ohne Kopfschmerzen. Zusammen ermöglichen sie es Ihnen, schnell zu handeln und gleichzeitig sicher zu sein.