Middleware Model Armor

El middleware Model Armor añade capas de protección y validación para asegurar la integridad y seguridad de las interacciones con el modelo. Esto protege tanto al usuario como al asistente de contenido potencialmente peligroso o inapropiado. El middleware revisará tanto el input como el output del LLM y decidirá si cancelar o no la petición.

¿Para qué sirve?

• Filtrar o bloquear mensajes potencialmente peligrosos o no deseados.
• Validar la entrada y salida del modelo para evitar fugas de información o respuestas inapropiadas.
• Aplicar políticas de seguridad y cumplimiento normativo.
• Proteger contra ataques de prompt injection y otros vectores de ataque.

Configuración

El middleware de model armor permite especificar la plantilla que usar para comprobar las interacciones.