c2.14 Proteger os dados em cargas de IA generativa

O que significa "proteger dados em IA generativa"

Para uma carga de IA generativa, proteger os dados tem um significado concreto que você pode verificar: os dados e prompts que você envia a um modelo (1) não são usados por nenhum provedor para treinar seus modelos, (2) estão criptografados em trânsito e em repouso, (3) trafegam por uma rota de rede privada em vez da internet pública, e (4) são filtrados na entrada e na saída para capturar dados sensíveis e tentativas de prompt injection. Dois riscos motivam isso: atacantes tentando extrair ou manipular dados (por exemplo prompt injection) e provedores potencialmente usando seus prompts ou dados de ajuste fino; os termos do provedor podem não ser garantia suficiente.

Como o Amazon Bedrock entrega cada controle

• Sem treinamento com seus dados: o Amazon Bedrock não usa seus prompts nem seus dados de ajuste fino para treinar os modelos base, e nenhum provedor de modelos pode acessá-los.
• Criptografia: o Bedrock exige criptografia em trânsito e permite criptografar os dados de ajuste fino em repouso com a sua própria chave gerenciada pelo cliente do AWS KMS.
• Acesso privado: alcance o Bedrock a partir da sua VPC por meio de um VPC endpoint sem cruzar a internet, e de forma privada a partir do on-premises com o AWS Direct Connect.
• Filtragem de entrada/saída: o Amazon Bedrock Guardrails aplica content filters, denied topics e filtros de informação sensível que bloqueiam ou mascaram PII tanto em prompts quanto em respostas, e detecta tentativas de prompt injection.

Como é o alinhamento

Você está alinhado com este controle quando, para cada carga de IA generativa:

• Todo acesso a modelos de fundação passa pelo Amazon Bedrock (ou um provedor com termos equivalentes de privacidade de dados e não-treinamento, garantidos contratualmente e que você tenha verificado).
• Os dados de ajuste fino e de prompts estão criptografados em repouso com uma chave KMS gerenciada pelo cliente, e o acesso ao modelo é por uma rota privada (VPC endpoint / Direct Connect).
• Os Guardrails estão configurados e aplicados, incluindo filtragem de informação sensível (PII) em entradas e saídas e proteção contra prompt-attack.
• A carga aparece no seu inventário de IA com um responsável, e seus fluxos de dados foram revisados em relação à sua política de classificação de dados.

Aprofunde-se com o AI Security Maturity Model

Este é um controle Cloud foundational que cobre o básico de proteção de dados para IA generativa. Se a IA é central na sua organização, o AI Security Maturity Model dedicado leva a proteção de dados de IA generativa e agêntica por toda a jornada de maturidade; use-o como o complemento de aprofundamento.

Relacionado

Combine isto com Governança de segurança de IA para a parte de inventário e propriedade, e Criptografar dados em repouso para as bases do KMS.