c3.8 Detectar ameaças contra o seu runtime de IA
Os serviços de IA generativa agora são alvos de ataque: LLMjacking com credenciais roubadas, invocações de modelo anômalas, prompt injection e adulteração do logging ou dos guardrails. Estar alinhado significa que essas ameaças de runtime são de fato detectadas e encaminhadas à resposta, principalmente habilitando o Amazon GuardDuty AI Protection.
Guia de implementação
Por que o runtime de IA é um alvo
Atacantes que obtêm credenciais da AWS cada vez mais pivotam para o Amazon Bedrock e o Amazon SageMaker para abusar da inferência de modelos ("LLMjacking": gerar grandes faturas de inferência ou revender o acesso), exfiltrar dados, ou adulterar modelos e o seu logging. Detectar isso exige sinais de runtime do control plane e do data plane da IA, não apenas verificações em tempo de construção.
Habilite o GuardDuty AI Protection (o controle principal)
O Amazon GuardDuty AI Protection é a forma gerenciada de obter essa cobertura. Ao habilitá-lo, o GuardDuty analisa automaticamente os data events do AWS CloudTrail do Amazon Bedrock, do Bedrock AgentCore e do SageMaker AI (ele cria um service-linked channel por você, sem trail para configurar) e detecta:
- Invocações de modelo anômalas: chamadas que se desviam da linha de base da identidade ou da conta (IP, API ou modelo incomum).
- Cost harvesting (LLMjacking): entradas computacionalmente caras que inflam o consumo de tokens e o custo.
- Prompt injection direta: prompts maliciosos que tentam anular as instruções de um modelo. Essa detecção exige o Amazon Bedrock Guardrails; aplique guardrails de prompt-attack em toda a org via AWS Organizations Bedrock policies.
O plano Foundational do GuardDuty adiciona detecções a partir de management events —remoção incomum de guardrails do Bedrock, mudanças no data source de treinamento (data poisoning), logging de invocações desabilitado (evasão) e credenciais EC2 exfiltradas chamando o Bedrock/SageMaker— e o Lambda Protection ajuda a detectar ameaças em agentes do Bedrock.
Encaminhe as detecções à resposta
A detecção só importa se alguém agir. Envie as descobertas do AI Protection ao seu fluxo de agir sobre descobertas e ao seu SIEM / Security Lake, e garanta que os seus playbooks de resposta a incidentes cubram uma carga de IA comprometida (por exemplo, revogar a identidade, desabilitar a key afetada e revisar os logs de invocação).
Aprofunde-se com o AI Security Maturity Model
Este é um controle Cloud que cobre o básico da detecção em runtime para IA. Como proteger a IA em profundidade é uma disciplina própria, use o AI Security Maturity Model dedicado para a jornada completa pela superfície de ataque de IA.
Como validar
- O Amazon GuardDuty AI Protection está habilitado em todas as contas e Regiões onde o Bedrock/SageMaker rodam?
- Os Bedrock Guardrails estão aplicados em toda a org para que a detecção de prompt injection direta funcione?
- O plano Foundational do GuardDuty está ativo para capturar remoção de guardrails, logging desabilitado, mudanças de dados de treinamento e credenciais exfiltradas usadas contra serviços de IA?
- As descobertas do AI Protection são encaminhadas ao seu fluxo de agir sobre descobertas / SIEM, com alertas diante de invocações anômalas e picos de custo?
- Seus playbooks de resposta a incidentes cobrem uma carga de IA comprometida?
Ameaças atendidas
- Credenciais roubadas podem ser usadas para LLMjacking —executar inferência cara de modelos na sua conta— disparando o custo e potencialmente exfiltrando dados de prompts ou de treinamento.
- Os atacantes podem desabilitar o logging de invocações ou remover guardrails para evadir a detecção, e podem envenenar os dados de treinamento; sem detecção em runtime essas ações passam despercebidas até aparecerem na fatura ou como uma violação.
Serviços AWS
Amazon GuardDuty 
Amazon Bedrock 
Amazon SageMaker Preços
O AI Protection é cobrado pelo volume de data events do CloudTrail analisados (GB); o service-linked channel não adiciona cobrança separada de CloudTrail. Veja os preços do Amazon GuardDuty.