KI-Leitplanken in Unternehmen: Gewährleistung sicherer Innovationen

Leitplanken zur Erkennung und Transformation von PII

Die PII-Leitplanken von TrueFoundry identifizieren und verarbeiten automatisch personenbezogene Daten sowohl bei eingehenden Eingabeaufforderungen als auch bei ausgehenden Antworten und schützen so sensible Daten vor Offenlegung. Durch die Konfiguration von input_guardrails und output_guardrails mit dem Typ PII können Sie wählen, ob Sie erkannte Entitäten je nach Ihren Compliance-Anforderungen validieren oder transformieren möchten.

Unterstützte PII-Typen

Die Guardrail-Engine erkennt eine umfassende Reihe von PII-Kategorien, einschließlich, aber nicht beschränkt auf E-Mail-Adressen, Telefonnummern, Sozialversicherungsnummern, Kreditkartendaten, Postanschriften und von der Regierung ausgestellte Identifikatoren (Reisepässe, Führerscheine, Steuernummern). TrueFoundry unterstützt auch regionale Varianten wie britische NHS-Nummern, indische Aadhaar-ID und australische TFNs und gewährleistet so eine breite Abdeckung bei globalen Bereitstellungen.

Optionen für die Konfiguration

Innerhalb jeder PII-Leitplankenregel gibt der Optionsblock an, auf welche Entitätstypen abgezielt werden soll.

input_guardrails:
- Typ: pii
Aktion: transformieren
Optionen:
Entitätstypen:
- E-Mail
- Telefon
- ssn

Aktion einrichten: transform ersetzt erkannte Entitäten durch anonymisierte Platzhalter, bevor sie das Modell erreichen. Alternativ lehnt action: validate Anfragen ab, die unzulässige personenbezogene Daten enthalten, und gibt einen Fehler zurück, anstatt die Aufforderung weiterzuleiten.

Vorteile der Transformation

• Gewährleistung des Datenschutzes: Die personenbezogenen Daten der Nutzer werden niemals im Klartext gespeichert oder verarbeitet, wodurch das Risiko von Datenschutzverletzungen verringert wird.
  
• Einhaltung gesetzlicher Vorschriften: Die automatische Redaktion hilft dabei, die DSGVO, HIPAA und andere Datenschutzbestimmungen ohne manuelles Eingreifen einzuhalten.
  
• Überprüfbarkeit: Jede Bearbeitung wird protokolliert und bietet eine klare Aufzeichnung darüber, welche Anfragen geändert wurden und warum.

Durch die Nutzung personenbezogener Daten können Unternehmen LLMs ohne Bedenken in kundenorientierten Anwendungen, internen Analysen und kollaborativen Workflows einsetzen, da sie wissen, dass vertrauliche Informationen konsistent erkannt und gemäß den Richtlinien behandelt werden.

Thema Filterleitlinien für die Einhaltung von Inhaltsrichtlinien

Leitplanken zur Themenfilterung setzen semantische Regeln durch, die verhindern, dass eine KI über unzulässige Themen spricht. Indem Unternehmen sowohl eingehende als auch ausgehende Antworten anhand einer konfigurierbaren Liste verbotener Themen überprüfen, können Unternehmen sicherstellen, dass jede Interaktion innerhalb definierter Inhaltsgrenzen bleibt, wodurch der Ruf der Marke geschützt und die Einhaltung gesetzlicher Vorschriften gewährleistet wird.

Sie entscheiden, welche Themenbereiche gesperrt werden sollen. Zu den häufigsten Anwendungsfällen gehören:

• Ärztliche Beratung
• Juristischer Berater
• Obszönität
• Hassreden
• Gewalt
• Sensible politische oder finanzielle Leitlinien
  

Optionen für die Konfiguration

Unter der Leitplanke jedes Themas geben Sie im Optionsblock zwei Hauptparameter an:

• verweigerte_Themen: eine Reihe von Themenzeichenfolgen, die Sie verbieten möchten.
  
• Schwellenwert: eine Gleitkommazahl zwischen 0,0 und 1,0, die die Klassifikatorsensitivität festlegt. Ein höherer Wert bedeutet, dass nur hochrelevante Inhalte gekennzeichnet werden; ein niedrigerer Wert erweitert das Netz, um grenzübergreifende Erwähnungen abzufangen.
  

Beispiel für eine Konfiguration

input_guardrails:
- Typ: Themen
Aktion: validieren
Optionen:
Schwellenwert: 0,75
verweigerte_Themen:
- medizinischer Rat
- Obszönität

output_guardrails:
- Typ: Themen
Aktion: validieren
Optionen:
Schwellenwert: 0,85
verweigerte_Themen:
- medizinischer Rat
- Obszönität

Leistungen

• Fail-Fast-Schutz: Anfragen oder Antworten, die den Schwellenwert überschreiten, werden sofort blockiert, sodass unzulässige Inhalte die Benutzer nicht erreichen.
  
• Zentralisierte Verwaltung: Wenden Sie konsistente Themenrichtlinien für alle LLM-Bereitstellungen an, ohne den Anwendungscode zu ändern.
  
• Anpassbare Sensitivität: Passen Sie die Schwellenwerte so an, dass falsch positive und falsch negative Ergebnisse auf der Grundlage von Risikoprofilen ausgeglichen werden.
  
• Überprüfbarkeit: Jedes Blockereignis wird protokolliert, sodass eine klare Spur für Audits, Konformitätsprüfungen und Richtlinienanpassungen entsteht.
  

Durch die Einbettung von Themenfiltern auf der Gateway-Ebene macht es TrueFoundry einfach, strenge Inhaltsstandards durchzusetzen und gleichzeitig ein nahtloses Benutzererlebnis zu gewährleisten.

Governing Enterprise AI at Scale: The MCP Gateway Blueprint

$2 Million

The

Wake-Up Call

Your integration architecture determines whether AI becomes a competitive advantage or unmanageable risk.

A Fortune 500 Spent $2M Fixing Ungoverned AI

Don't let this be you, get the complete Al governance blueprint.

Thank you! Your submission has been received!

Oops! Something went wrong while submitting the form.

Leitplanken zur Wortfilterung für benutzerdefinierte Blocklisten

Mit den Wortfilter-Leitplanken von TrueFoundry haben Sie präzise Kontrolle über jedes Wort oder jede Phrase, die Ihr KI-Gateway durchläuft. Indem Sie eine benutzerdefinierte Blockliste definieren, können Sie geschützte Begriffe, Obszönitäten oder jede sensible Sprache erkennen und behandeln, sowohl bevor sie das Modell erreichen als auch nachdem sie generiert wurde. Dadurch wird sichergestellt, dass Ihre LLM-gesteuerte Anwendungen Enthüllen Sie niemals unautorisierte Begriffe und rutschen Sie niemals in eine markenfremde Sprache ab.

Unter jeder word_filter-Leitplanke geben Sie die Optionen word_list, case_sensitive, whole_words_only und replacement an, um das Filterverhalten anzupassen. Die Wortliste ist eine Reihe von Begriffen oder Ausdrücken, die Sie erkennen möchten. Bei der Einstellung case_sensitive: false wird beim Matching die Groß- und Kleinschreibung ignoriert, wohingegen whole_words_only: true sicherstellt, dass nur eigenständige Wörter gekennzeichnet werden, sodass unbeabsichtigte Treffer innerhalb längerer Wörter vermieden werden. Das Ersatzfeld definiert den Platzhaltertext, zum Beispiel „[REMOVED]“, der verwendet wird, wenn „action: transform“ ausgewählt ist. Alternativ lehnt die Auswahl von action: validate jede Anfrage ab, die Wörter auf der Blockliste enthält, und gibt einen Fehler zurück, anstatt den Inhalt an das Modell weiterzuleiten.

Hier ist eine Beispielkonfiguration, die Wortfilterung sowohl auf Eingaben als auch auf Ausgaben anwendet und GPT-4-Bereitstellungen mit einer proprietären Begriffsblockliste ins Visier nimmt:

Name: Wortfilter-Leitplanken
Typ: word-filter-guardrails-config
guardrails_service_url: https://word-filter-service.company.com
Regeln:
- id: Block-Proprietary-Terms
wann:
Modelle:
- openai/gpt-4
input_guardrails:
- Typ: word_filter
Aktion: transformieren
Optionen:
Wortliste:
- „Geheimes Projekt“
- „Beta-Funktion“
Groß- und Kleinschreibung beachten: falsch
whole_words_only: wahr
Ersatz: „[ENTFERNT]“
output_guardrails:
- Typ: word_filter
Aktion: transformieren
Optionen:
Wortliste:
- „Geheimes Projekt“
- „Beta-Funktion“
Groß- und Kleinschreibung beachten: falsch
whole_words_only: wahr
Ersatz: „[ENTFERNT]“

Jedes Mal, wenn ein Wortfilter ausgelöst wird, protokolliert TrueFoundry das Ereignis mit Details darüber, welche Regel ausgelöst wurde, dem ursprünglichen und transformierten Text und dem Benutzer- oder Dienstkontext. Diese Auditprotokolle helfen Sicherheits- und Compliance-Teams dabei, Vorfälle zu überprüfen, Blocklisten zu optimieren und die Einhaltung interner Richtlinien oder Branchenvorschriften nachzuweisen. Durch die Zentralisierung der Wortfilterung am Gateway müssen Entwickler den Anwendungscode nie mit Ad-hoc-Prüfungen überfluten. Ihre Richtlinien befinden sich an einem Ort, sind einfach zu aktualisieren und gelten einheitlich für alle LLM-Arbeitslasten.

Bewährte Methoden für die Herstellung effektiver Leitplanken

Leitplanken funktionieren am besten, wenn sie eng mit dem Risikoprofil und den Anwendungsfällen Ihres Unternehmens übereinstimmen. Definieren Sie zunächst klar, was Sie schützen müssen, ob es sich um sensible Daten, die Einhaltung gesetzlicher Vorschriften oder die Markenbotschaft handelt, und ordnen Sie jede Anforderung bestimmten Leitplanken wie PII-, Themen- oder Wortfiltern zu. Beziehen Sie frühzeitig Interessenvertreter aus Rechts-, Compliance- und Produktteams ein, um sicherzustellen, dass die Richtlinien den tatsächlichen Einschränkungen entsprechen und wichtige Arbeitsabläufe nicht versehentlich blockieren.

Halten Sie als Nächstes Ihre Regeln so fokussiert wie möglich. Umfangreiche „Alles ablehnen“ -Listen können zu übermäßigen Fehlalarmen führen, was die Nutzer frustriert. Gruppieren Sie stattdessen verwandte Richtlinien in separaten Regeln, die vom Kontext abhängig sind, und verwenden Sie den When-Block, um bestimmte Modelle, Teams oder Metadaten ins Visier zu nehmen. Wenden Sie beispielsweise strikte PII-Redigierungen nur auf Bots mit Kundenkontakt an und lassen Sie den internen Analyseassistenten mehr Freiheit in der Erzählung. Dieser modulare Ansatz macht es einfacher, Ihre Leitplanken im Laufe der Zeit zu pflegen und weiterzuentwickeln.

Die Schwellenwertoptimierung ist eine weitere wichtige Praxis. Beginnen Sie mit konservativen Empfindlichkeitsstufen in unkritischen Umgebungen, um zu beobachten, wie oft Regeln ausgelöst werden, und passen Sie die Schwellenwerte entsprechend der tatsächlichen Nutzung nach unten oder oben an. Verwenden Sie die Protokolle der einzelnen Leitplankenereignisse, um Muster von Fehlalarmen oder übersehenen Verstößen zu identifizieren, und wiederholen Sie dann Ihre Einstellungen. Automatisierte Testsuiten, die bekannte Verstöße gegen Richtlinien in Eingabeaufforderungen und erwartete Antworten einbeziehen, können dabei helfen, die Regelabdeckung zu überprüfen, bevor Aktualisierungen in die Produktion gehen.

Dokumentation und Beobachtbarkeit sind essenziell. Pflegen Sie ein zentrales Verzeichnis Ihrer Guardrail-Konfigurationen mit klaren Beschreibungen des Zwecks und des Geltungsbereichs der einzelnen Regeln. Stellen Sie sicher, dass Ihre Protokollierung erfasst, welche Regel ausgelöst wurde, welcher Inhalt dazu passt und welche Transformationen angewendet wurden. Integrieren Sie diese Protokolle in Ihre Überwachungstools, um Sie zu warnen, wenn die Häufigkeit, mit der Regeln ausgelöst werden, unerwartet ansteigt, was auf möglichen Missbrauch oder Änderungen im Nutzerverhalten hindeutet.

Richten Sie abschließend eine Feedback-Schleife mit Benutzern und Entwicklern ein. Stellen Sie Mechanismen bereit, mit denen Endbenutzer oder Anwendungsteams zu viele oder fehlende Richtlinien melden können. Überprüfen Sie regelmäßig Feedback, Nutzungskennzahlen und Ergebnisse von Sicherheitsüberprüfungen, um Ihre Sicherheitsvorkehrungen zu verfeinern. Durch die Kombination klarer Ziele, gezielter Regeln, iterativer Anpassungen und strenger Beobachtbarkeit schaffen Sie ein Leitplanken, das Ihr Unternehmen schützt, ohne Innovationen zu behindern.

Fazit

Guardrails verwandeln leistungsstarke, aber unvorhersehbare LLMs in zuverlässige, unternehmenstaugliche Dienste, indem sie bei jeder Interaktion klare, kontextsensitive Richtlinien durchsetzen. Durch die Definition präziser Eingabe- und Ausgaberegeln, wie z. B. das Maskieren vertraulicher personenbezogener Daten, das Blockieren unzulässiger Themen oder das Filtern urheberrechtlich geschützter Begriffe, wahren Sie den Datenschutz, wahren die Markenbotschaft und erfüllen gesetzliche Anforderungen, ohne den Anwendungscode zu berühren. Modulare Regeln, die über den When-Block definiert sind, ermöglichen es Ihnen, die Durchsetzung auf jedes Modell, Team oder Workflow zuzuschneiden, während die Anpassung von Schwellenwerten und eine robuste Protokollierung für ein ausgewogenes Verhältnis zwischen Schutz und Benutzerfreundlichkeit sorgen. Mit den Leitplanken von TrueFoundry erhalten Sie eine zentrale Kontrolle, kontinuierliche Überprüfbarkeit und das Vertrauen, KI in großem Maßstab einzusetzen, da Sie wissen, dass jede Anfrage und Antwort Ihren Governance-Standards entspricht.