c3.8 Detectar amenazas contra su runtime de IA
Los servicios de IA generativa ahora son objetivos de ataque: LLMjacking con credenciales robadas, invocaciones de modelo anómalas, prompt injection y manipulación del logging o los guardrails. Estar alineado significa que estas amenazas de runtime se detectan de verdad y se enrutan a la respuesta, principalmente habilitando Amazon GuardDuty AI Protection.
Guía de implementación
Por qué el runtime de IA es un objetivo
Los atacantes que obtienen credenciales de AWS cada vez más pivotan hacia Amazon Bedrock y Amazon SageMaker para abusar de la inferencia de modelos ("LLMjacking": disparar grandes facturas de inferencia o revender el acceso), exfiltrar datos, o alterar modelos y su logging. Detectar esto requiere señales de runtime del plano de control y de datos de la IA, no solo verificaciones en tiempo de construcción.
Habilite GuardDuty AI Protection (el control principal)
Amazon GuardDuty AI Protection es la forma administrada de obtener esta cobertura. Al habilitarlo, GuardDuty analiza automáticamente los data events de AWS CloudTrail de Amazon Bedrock, Bedrock AgentCore y SageMaker AI (crea un service-linked channel por usted, sin trail que configurar) y detecta:
- Invocaciones de modelo anómalas: llamadas que se desvían de la línea base de la identidad o la cuenta (IP, API o modelo inusual).
- Cost harvesting (LLMjacking): entradas computacionalmente costosas que inflan el consumo de tokens y el costo.
- Prompt injection directa: prompts maliciosos que intentan anular las instrucciones de un modelo. Esta detección requiere Amazon Bedrock Guardrails; aplique guardrails de prompt-attack en toda la org vía AWS Organizations Bedrock policies.
El plan Foundational de GuardDuty agrega detecciones desde management events —eliminación inusual de guardrails de Bedrock, cambios en el data source de entrenamiento (data poisoning), logging de invocaciones deshabilitado (evasión) y credenciales EC2 exfiltradas que llaman a Bedrock/SageMaker— y Lambda Protection ayuda a detectar amenazas en agentes de Bedrock.
Enrute las detecciones a la respuesta
La detección solo importa si alguien actúa. Envíe los hallazgos de AI Protection a su flujo de actuar sobre hallazgos y a su SIEM / Security Lake, y asegúrese de que sus playbooks de respuesta a incidentes cubran una carga de IA comprometida (por ejemplo, revocar la identidad, deshabilitar la key afectada y revisar los logs de invocación).
Profundice con el AI Security Maturity Model
Este es un control Cloud que cubre lo básico de detección en runtime para IA. Como asegurar la IA en profundidad es una disciplina propia, use el AI Security Maturity Model dedicado para el recorrido completo por la superficie de ataque de IA.
Cómo validar
- ¿Amazon GuardDuty AI Protection está habilitado en todas las cuentas y Regiones donde corren Bedrock/SageMaker?
- ¿Los Bedrock Guardrails están aplicados en toda la org para que funcione la detección de prompt injection directa?
- ¿El plan Foundational de GuardDuty está activo para atrapar eliminación de guardrails, logging deshabilitado, cambios de datos de entrenamiento y credenciales exfiltradas usadas contra servicios de IA?
- ¿Los hallazgos de AI Protection se enrutan a su flujo de actuar sobre hallazgos / SIEM, con alertas ante invocaciones anómalas y picos de costo?
- ¿Sus playbooks de respuesta a incidentes cubren una carga de IA comprometida?
Amenazas que atiende
- Las credenciales robadas pueden usarse para LLMjacking —ejecutar inferencia costosa de modelos en su cuenta— disparando el costo y potencialmente exfiltrando datos de prompts o de entrenamiento.
- Los atacantes pueden deshabilitar el logging de invocaciones o eliminar guardrails para evadir la detección, y pueden envenenar los datos de entrenamiento; sin detección en runtime estas acciones pasan desapercibidas hasta que aparecen en la factura o como una brecha.
Servicios AWS
Amazon GuardDuty 
Amazon Bedrock 
Amazon SageMaker Precios
AI Protection se cobra por el volumen de data events de CloudTrail analizados (GB); el service-linked channel no agrega cargo aparte de CloudTrail. Vea precios de Amazon GuardDuty.