Barreras de inteligencia artificial en la empresa: garantizar una innovación segura

Barandas de detección y transformación de PII

Las barreras de protección de PII de TrueFoundry identifican y gestionan automáticamente la información de identificación personal tanto en las solicitudes entrantes como en las respuestas salientes, lo que protege los datos confidenciales de la exposición. Al configurar input_guardrails y output_guardrails con el tipo pii, puede elegir entre validar o transformar las entidades detectadas en función de sus necesidades de cumplimiento.

Tipos de PII compatibles

El motor de protección reconoce un conjunto completo de categorías de PII, que incluyen, entre otras, direcciones de correo electrónico, números de teléfono, números de seguro social, detalles de tarjetas de crédito, direcciones físicas e identificadores emitidos por el gobierno (pasaportes, licencias de conducir, identificaciones fiscales). TrueFoundry también admite variantes regionales, como los números del NHS del Reino Unido, el identificador de Aadhaar de la India y los TFN de Australia, lo que garantiza una amplia cobertura en todos los despliegues mundiales.

Opciones de configuración

Dentro de cada regla de protección de PII, el bloque de opciones especifica a qué tipos de entidades dirigirse.

barandas de entrada:
- tipo: pii
acción: transformar
opciones:
tipos_de_entidad:
- correo electrónico
- teléfono
- ssn

Acción de configuración: transform reemplaza las entidades detectadas por marcadores de posición anónimos antes de que lleguen al modelo. Como alternativa, action: validate rechazará las solicitudes que contengan información de identificación personal no permitida y devolverá un error en lugar de reenviar la solicitud.

Beneficios de la transformación

• Garantía de privacidad: Los datos personales de los usuarios nunca se almacenan ni procesan en texto claro, lo que reduce el riesgo de violaciones de datos.
  
• Cumplimiento normativo: La redacción automática ayuda a cumplir con el RGPD, la HIPAA y otras normas de privacidad sin intervención manual.
  
• Auditabilidad: Cada redacción se registra, lo que proporciona un registro claro de qué solicitudes se modificaron y por qué.

Al aprovechar las barreras de protección de la PII, las empresas pueden implementar con confianza las LLM en aplicaciones orientadas al cliente, análisis internos y flujos de trabajo colaborativos, sabiendo que la información confidencial se detecta y maneja de manera consistente de acuerdo con las políticas.

Barreras de filtrado de temas para el cumplimiento del contenido

Las barreras de filtrado de temas aplican reglas semánticas que impiden que una IA discuta temas no permitidos. Al comparar las solicitudes entrantes y las respuestas salientes con una lista configurable de temas prohibidos, las empresas pueden asegurarse de que cada interacción se mantenga dentro de los límites de contenido definidos, protegiendo la reputación de la marca y manteniendo el cumplimiento de la normativa.

Tú decides qué áreas temáticas bloquear. Los casos de uso comunes incluyen:

• Asesoramiento médico
• Consejero legal
• Blasfemia
• Discurso de odio
• Violencia
• Orientación política o financiera delicada
  

Opciones de configuración

Bajo la barandilla de cada tema, especificas dos parámetros principales en el bloque de opciones:

• temas_negados: una serie de cadenas de temas que no quieres permitir.
  
• Umbral: un valor flotante entre 0.0 y 1.0 que establece la sensibilidad del clasificador. Un valor más alto significa que solo se marca el contenido muy relevante; un valor más bajo amplía la red para captar las menciones límite.
  

Ejemplo de configuración

barandas de entrada:
- tipo: temas
acción: validar
opciones:
umbral: 0.75
temas_negados:
- consejo médico
- blasfemia

output_guardarriles:
- tipo: temas
acción: validar
opciones:
umbral: 0.85
temas_negados:
- consejo médico
- blasfemia

Prestaciones

• Protección a prueba de fallos: las solicitudes o respuestas que superen el umbral se bloquean inmediatamente, lo que impide que el contenido no permitido llegue a los usuarios.
  
• Gobierno centralizado: aplique políticas temáticas coherentes en todas las implementaciones de LLM sin modificar el código de la aplicación.
  
• Sensibilidad personalizable: ajuste los umbrales para equilibrar los falsos positivos y los falsos negativos en función de los perfiles de riesgo.
  
• Auditabilidad: cada evento de bloqueo se registra, lo que crea un registro claro para las auditorías, las revisiones de cumplimiento y el ajuste de las políticas.
  

Al incorporar filtros de temas en la capa de puerta de enlace, TrueFoundry facilita la aplicación de estándares de contenido estrictos y, al mismo tiempo, preserva una experiencia de usuario perfecta.

Governing Enterprise AI at Scale: The MCP Gateway Blueprint

$2 Million

The

Wake-Up Call

Your integration architecture determines whether AI becomes a competitive advantage or unmanageable risk.

A Fortune 500 Spent $2M Fixing Ungoverned AI

Don't let this be you, get the complete Al governance blueprint.

Thank you! Your submission has been received!

Oops! Something went wrong while submitting the form.

Barreras de filtrado de palabras para listas de bloqueo personalizadas

Las barreras de filtrado de palabras de TrueFoundry te brindan un control preciso sobre cada palabra o frase que pasa por tu AI Gateway. Al definir una lista de bloqueo personalizada, puedes detectar y gestionar los términos privados, las blasfemias o cualquier lenguaje delicado, tanto antes de que llegue al modelo como después de generarse. Esto garantiza que su Aplicaciones impulsadas por LLM nunca exponga terminología no autorizada ni utilice un lenguaje que no sea de marca.

En cada barandilla de word_filter, especificas las opciones word_list, case_sensitive, whole_words_only y replacement para adaptar el comportamiento de filtrado. La word_list es un conjunto de términos o frases que deseas detectar. Si se establece case_sensitive: false, las coincidencias ignoran las mayúsculas y minúsculas, mientras que whole_words_only: true garantiza que solo se marquen las palabras independientes, evitando coincidencias no deseadas entre palabras más largas. El campo de reemplazo define el texto del marcador de posición, por ejemplo, «[ELIMINADO]», que se usa cuando se selecciona action: transform. Como alternativa, si se selecciona action: validate, se rechazará cualquier solicitud que contenga palabras bloqueadas y se devolverá un error en lugar de reenviar el contenido al modelo.

Este es un ejemplo de configuración que aplica el filtrado de palabras tanto a las entradas como a las salidas, y se dirige a las implementaciones de GPT-4 con una lista de bloqueo de términos patentada:

nombre: barandas de filtro de palabras
tipo: word-filter-guardrails-config
URL de servicio de barandillas: https://word-filter-service.company.com
reglas:
- id: términos de propiedad del bloque
cuando:
modelos:
- openai/gpt-4
barandas de entrada:
- tipo: word_filter
acción: transformar
opciones:
lista_palabras:
- «Proyecto secreto»
- «Función beta»
sensible a mayúsculas y minúsculas: falso
whole_words_only: verdadero
reemplazo: «[ELIMINADO]»
output_guardarriles:
- tipo: word_filter
acción: transformar
opciones:
lista_palabras:
- «Proyecto secreto»
- «Función beta»
sensible a mayúsculas y minúsculas: falso
whole_words_only: verdadero
reemplazo: «[ELIMINADO]»

Cada vez que se activa un filtro de palabras, TrueFoundry registra el evento con detalles sobre qué regla se activó, el texto original y transformado y el contexto del usuario o servicio. Estos registros de auditoría ayudan a los equipos de seguridad y cumplimiento a revisar los incidentes, ajustar las listas de bloqueo y demostrar el cumplimiento de las políticas internas o las normativas del sector. Al centralizar el filtrado de palabras en la puerta de entrada, los desarrolladores nunca tendrán que llenar el código de las aplicaciones con comprobaciones ad hoc; sus políticas se encuentran en un solo lugar, son fáciles de actualizar y se aplican de manera uniforme en todas partes Cargas de trabajo de LLM.

Mejores prácticas para crear barandillas eficaces

Las barandillas funcionan mejor cuando se alinean estrechamente con el perfil de riesgo y los casos de uso de su organización. Comience por definir claramente lo que necesita proteger, ya sean datos confidenciales, cumplimiento normativo o la voz de la marca, y asigne cada requisito a tipos de protección específicos, como la información de identificación personal, los filtros de temas o de palabras. Involucre desde el principio a las partes interesadas de los equipos legal, de cumplimiento y de productos para garantizar que las políticas reflejen las restricciones del mundo real y no bloqueen inadvertidamente los flujos de trabajo críticos.

Luego, mantén tus reglas lo más enfocadas posible. Las listas amplias de personas que «lo niegan todo» pueden generar demasiados falsos positivos que frustran a los usuarios. En lugar de ello, agrupe las políticas relacionadas en reglas independientes según el contexto, utilizando el bloque when para centrarse en modelos, equipos o metadatos específicos. Por ejemplo, redacte estrictamente la información de identificación personal solo a los bots orientados al cliente y, al mismo tiempo, permita una mayor libertad narrativa en los asistentes de análisis internos. Este enfoque modular facilita el mantenimiento y la evolución de las barreras a lo largo del tiempo.

El ajuste de los umbrales es otra práctica clave. Comience con niveles de sensibilidad conservadores en entornos no críticos para observar la frecuencia con la que se activan las reglas y ajuste los umbrales a la baja o al alza en función del uso real. Usa los registros de cada evento de protección para identificar patrones de falsos positivos o infracciones no detectadas y, a continuación, repite la configuración. Los conjuntos de pruebas automatizadas que incluyen las infracciones conocidas de las políticas en las solicitudes y en las respuestas esperadas pueden ayudar a validar la cobertura de las reglas antes de pasar a la fase de producción de las actualizaciones.

Documentación y observabilidad son imprescindibles. Mantenga un repositorio central de sus configuraciones de barandillas con descripciones claras del propósito y el alcance de cada regla. Asegúrese de que su registro capture qué regla se activó, el contenido coincidente y cualquier transformación aplicada. Integre estos registros con sus herramientas de monitoreo para recibir alertas cuando la tasa de incumplimiento de reglas aumente inesperadamente, lo que indica un posible uso indebido o cambios en el comportamiento de los usuarios.

Por último, establezca un ciclo de retroalimentación con los usuarios y desarrolladores. Proporcione mecanismos para que los usuarios finales o los equipos de aplicaciones informen sobre el exceso de bloqueo o la falta de políticas. Revise periódicamente los comentarios, las métricas de uso y los resultados de las auditorías de seguridad para mejorar sus medidas de protección. Al combinar objetivos claros, reglas específicas, ajustes iterativos y una sólida capacidad de observación, creará un marco de protección que proteja su empresa sin obstaculizar la innovación.

Conclusión

Las barreras transforman los LLM potentes pero impredecibles en servicios confiables de nivel empresarial al aplicar políticas claras y sensibles al contexto en cada interacción. Al definir reglas concisas de entrada y salida, como ocultar la información personal confidencial, bloquear los temas no permitidos o filtrar los términos exclusivos, se mantiene la privacidad de los datos, se respeta la imagen de la marca y se cumplen los requisitos normativos sin tocar el código de la aplicación. Las reglas modulares, definidas mediante el bloque «cuándo», permiten adaptar la aplicación por modelo, equipo o flujo de trabajo, mientras que el ajuste de los umbrales y un registro sólido garantizan un equilibrio entre la protección y la facilidad de uso. Con las barreras de protección de TrueFoundry, usted obtiene un control centralizado, una auditabilidad continua y la confianza necesaria para implementar la IA a escala, sabiendo que cada solicitud y respuesta se ajusta a sus estándares de gobierno.