c2.14 Proteger los datos en cargas de IA generativa

Qué significa "proteger datos en IA generativa"

Para una carga de IA generativa, proteger los datos tiene un significado concreto que puede verificar: los datos y prompts que envía a un modelo (1) no son usados por ningún proveedor para entrenar sus modelos, (2) están cifrados en tránsito y en reposo, (3) viajan por una ruta de red privada en lugar de la internet pública, y (4) se filtran a la entrada y a la salida para atrapar datos sensibles e intentos de prompt injection. Dos riesgos lo motivan: atacantes que intentan extraer o manipular datos (por ejemplo prompt injection) y proveedores que potencialmente usan sus prompts o datos de ajuste fino; los términos del proveedor pueden no ser garantía suficiente.

Cómo Amazon Bedrock entrega cada control

• Sin entrenamiento con sus datos: Amazon Bedrock no usa sus prompts ni sus datos de ajuste fino para entrenar los modelos base, y ningún proveedor de modelos puede acceder a ellos.
• Cifrado: Bedrock exige cifrado en tránsito y le permite cifrar los datos de ajuste fino en reposo con su propia clave administrada por el cliente de AWS KMS.
• Acceso privado: alcance Bedrock desde su VPC mediante un VPC endpoint sin cruzar internet, y de forma privada desde on-premises con AWS Direct Connect.
• Filtrado de entrada/salida: Amazon Bedrock Guardrails aplica content filters, denied topics y filtros de información sensible que bloquean o enmascaran PII tanto en prompts como en respuestas, y detecta intentos de prompt injection.

Cómo se ve el alineamiento

Está alineado con este control cuando, para cada carga de IA generativa:

• Todo acceso a modelos fundacionales pasa por Amazon Bedrock (o un proveedor con términos equivalentes de privacidad de datos y no-entrenamiento, garantizados contractualmente y que usted haya verificado).
• Los datos de ajuste fino y de prompts están cifrados en reposo con una clave KMS administrada por el cliente, y el acceso al modelo es por una ruta privada (VPC endpoint / Direct Connect).
• Los Guardrails están configurados y aplicados, incluyendo filtrado de información sensible (PII) en entradas y salidas y protección contra prompt-attack.
• La carga aparece en su inventario de IA con un responsable, y sus flujos de datos se revisaron contra su política de clasificación de datos.

Profundice con el AI Security Maturity Model

Este es un control Cloud foundational que cubre lo básico de protección de datos para IA generativa. Si la IA es central en su organización, el AI Security Maturity Model dedicado lleva la protección de datos de IA generativa y agéntica por todo el recorrido de madurez; úselo como el complemento de profundización.

Relacionado

Combine esto con Gobernanza de seguridad de IA para la parte de inventario y propiedad, y Cifrar datos en reposo para las bases de KMS.