Una asociación para una IA responsable: Truefoundry y Enkrypt AI

Imagine el poder de ofrecer a cada médico y paciente un asistente inteligente que comprenda información médica compleja. La IA generativa lo hace posible, pero una sola respuesta errónea puede tener graves consecuencias. Este es el desafío al que se enfrentan todas las empresas innovadoras: ¿cómo utilizar esta poderosa tecnología de manera responsable y segura?

Para resolver esto, True Foundry y Encripta la IA estamos orgullosos de anunciar una asociación. Estamos uniendo nuestra experiencia para ofrecer una solución completa para la gobernanza, el control y el cumplimiento de la IA generativa. Nuestro objetivo es brindar a los equipos de liderazgo y seguridad de cada organización la visibilidad y el control que necesitan para innovar con confianza.

La puerta de enlace de IA de TrueFoundry: su centro de control central

Piense en el TrueFoundry Gateway como el eje central de todos sus modelos de IA. Proporciona la base sólida que necesita para las operaciones y la supervisión, y le permite administrar todo desde un solo lugar.

Entre las principales características se incluyen:

Fácil administración de diferentes modelos de varios proveedores.

• Administración detallada de usuarios para controlar quién tiene acceso en sus equipos.
  
• Información potente y clara con registros, métricas y datos de uso.
  
• La capacidad de conectar herramientas de seguridad personalizadas, como barandas, directamente a la puerta de enlace.
  

Enkrypt AI: su escudo de seguridad de IA

Enkrypt AI actúa como la capa de seguridad inteligente que protege tu IA de los riesgos. Proporcionan barreras prácticas, rápidas y de alta precisión que son esenciales para prevenir problemas y mantener el cumplimiento.

Entre las principales características se incluyen:

• Barandillas avanzadas para reducir problemas como el sesgo, la toxicidad y la información incorrecta (alucinaciones).
  
• Detección y prevención de acciones que infrinjan la política de la empresa.
  
• Pruebas de seguridad especializadas, conocidas como red teaming, para garantizar que su IA sea segura para los sectores regulados, como el financiero y el sanitario.

Guía de integración: Cómo trabajan juntas TrueFoundry y Enkrypt AI

Permita que nuestra documentación configure e implemente la integración:
Guía de integración de TrueFoundry + Enkrypt AI

La integración entre La puerta de enlace de IA de TrueFoundry y Encripta la IA brinda a las organizaciones una forma unificada de administrar, proteger y monitorear las LLM en producción, especialmente en entornos regulados como la atención médica y las finanzas.

Cómo funciona

1. Ruta a través de la puerta
   Conecte sus aplicaciones de IA al TrueFoundry Gateway para obtener visibilidad, control de acceso y observabilidad.
2. Añadir barandas Enkrypt
   Conecte Enkrypt AI al Gateway para monitorear las entradas y salidas en tiempo real, bloquear las terminaciones inseguras y aplicar los controles basados en políticas.
3. Ejecute Red Teaming (opcional)
   Enkrypt puede simular mensajes contradictorios para poner a prueba su sistema antes de la implementación.
4. Supervisar y auditar
   Toda la actividad se registra en el Gateway, lo que permite una trazabilidad e informes claros.

Ponerlo a prueba: el viaje de una empresa de atención médica

Veamos un ejemplo del mundo real. Una empresa líder en tecnología sanitaria creó un asistente virtual basado en inteligencia artificial para ayudar a los pacientes y a los técnicos a utilizar sus equipos de diagnóstico. ¹¹Si bien era una gran idea, tenían que asegurarse de que cumplía con todas las normas y era precisa.

Los obstáculos a los que se enfrentaron:

La empresa detectó algunos problemas graves.

• El asistente dio consejos inconsistentes sobre procedimientos importantes como la calibración de dispositivos.
• A veces inventaba información incorrecta (alucinaciones) cuando se le hacían preguntas inusuales.
• Esto expuso a la empresa a importantes riesgos regulatorios en virtud de normas como las directrices de la HIPAA y la FDA.
• El equipo no tenía forma de ver cuándo o cómo se producían estas interacciones riesgosas.
  

Una solución de tres pasos:

1. Adquirir el control con la puerta de enlace: En primer lugar, el chatbot se conectó al TrueFoundry Gateway. Esto permitió al equipo ver al instante todas las solicitudes y respuestas y configurar controles de acceso a nivel de usuario.‍
2. Añadir barandas para mayor seguridad: A continuación, las barandillas de Enkrypt AI se conectaron a la puerta de enlace. Se crearon específicamente para detectar información médica errónea y consejos incorrectos sobre las dosis, con alertas instantáneas en caso de que se produjeran infracciones.
3. Finalmente, el equipo rojo automatizado de Enkrypt AI puso a prueba el sistema. Envió al chatbot preguntas engañosas y dañinas, por ejemplo, cómo hacer un mal uso de un dispositivo, para ver cómo respondía.
   

Los resultados transformadores:

Las mejoras fueron dramáticas y mensurables. La empresa logró:

• Disminución del 70% en las alucinaciones.
  
• Cumplimiento del 90% con las pruebas de la política de la FDA.
  
• Una reducción del 95% en las salidas inseguras o incorrectas.
  
• Visibilidad del 100% de cómo se estaba utilizando la herramienta en toda la empresa.
  
• Un ciclo mucho más rápido para probar, implementar y corregir el modelo.
  
• Y lo que es más importante, aprobaron su auditoría de cumplimiento externa utilizando los informes de Enkrypt AI.
  

¿Para quién es esto?

Esta solución combinada es perfecta para:

• Cuidado de la salud y otras industrias reguladas que deben cumplir con estrictas normas de cumplimiento.
  
• Equipos de productos y plataformas que desean lanzar nuevas funciones de forma segura sin arruinar la experiencia del usuario.
  
• Oficiales de seguridad y cumplimiento que necesitan herramientas confiables y proactivas para gestionar el riesgo de la IA.

Aprenda más

• Para profundizar en el TrueFoundry AI Gateway y sus capacidades, consulta la Documentación de TrueFoundry.
• Para obtener más información sobre el conjunto de soluciones de seguridad y barandillas de Enkrypt AI, visita el Documentación de Enkrypt AI.