c2.3 Establecer gobernanza de seguridad de IA e inventario de modelos
Gobierne los sistemas de IA/ML y de IA generativa antes de que escalen: mantenga un inventario de modelos, agentes y flujos de datos, asigne responsables y defina políticas de uso aceptable y de riesgo.
Guía de implementación
Mantenga un inventario vivo de la IA en uso
Mantenga un inventario único y actualizado de los modelos, agentes, prompts, conjuntos de datos y servicios de IA de terceros en uso: quién es responsable de cada uno, a qué datos puede acceder y qué riesgos conlleva. Sin él, la IA en la sombra y los agentes no gobernados se acumulan más rápido de lo que seguridad puede revisarlos.
Ancle las decisiones en guías establecidas
Enmarque su programa con la Matriz de Alcance de Seguridad de IA Generativa de AWS, que clasifica los casos de uso de IA según la propiedad del modelo y los datos para elegir controles adecuados. Conéctela con sus procesos existentes de riesgo, cumplimiento y clasificación de datos.
Asigne responsables y uso aceptable
Nombre quién es responsable de las decisiones de riesgo de IA y defina políticas de uso aceptable (qué datos pueden enviarse a qué servicio, qué casos de uso están prohibidos). Incluya funciones de IA embebidas y de terceros, no solo los modelos que usted construye, y revíselo a medida que crecen las cargas agénticas.
Profundice con el AI Security Maturity Model
Este control es el punto de partida foundational para un programa Cloud: establecer el inventario, la propiedad y las bases de uso aceptable. Si la IA se está volviendo central en su organización, el AI Security Maturity Model dedicado lleva la gobernanza, la protección de datos y la seguridad de IA agéntica por todo el recorrido de madurez; úselo como el complemento de profundización de este control.
Relacionado
Vincúlelo con Identificar requisitos de seguridad y regulatorios y Protección de datos de IA.
Cómo validar
- ¿Existe un inventario actualizado de modelos de IA, agentes y los datos a los que cada uno puede acceder?
- ¿Quién es responsable de las decisiones de riesgo de IA y cómo se define el uso aceptable?
- ¿Se incluyen los servicios de IA de terceros y embebidos en el inventario?
Amenazas que atiende
- La IA en la sombra y los agentes no gobernados crean puntos ciegos: flujos de datos y comportamientos de modelos que nadie revisó, ampliando la superficie de ataque a medida que escalan las cargas de IA.