c2.14 生成 AI ワークロードのデータを保護する

「生成 AI でデータを保護する」とは何か

生成 AI ワークロードにおいて、データ保護には検証できる具体的な意味があります。モデルに送るデータとプロンプトが、(1) いかなるプロバイダーの学習にも使われない、(2) 転送時・保存時に暗号化される、(3) パブリックインターネットではなくプライベートなネットワーク経路を通る、(4) 入口と出口でフィルタリングされ、機微データやプロンプトインジェクションの試みが捕捉される、ということです。これを動機づける 2 つのリスクがあります。攻撃者によるデータの抽出・操作の試み（たとえばプロンプトインジェクション）と、プロバイダーがプロンプトやファインチューニングデータを使う可能性です。プロバイダーの利用規約は十分な保証にならない場合があります。

Amazon Bedrock が各統制をどう実現するか

• データで学習しない: Amazon Bedrock は、プロンプトやファインチューニングデータを基盤モデルの学習に使わず、どのモデルプロバイダーもアクセスできません。
• 暗号化: Bedrock は転送時の暗号化を必須とし、ファインチューニングデータを自分の AWS KMS カスタマー管理キーで保存時に暗号化できます。
• プライベートアクセス: VPC エンドポイントを通じてインターネットを経由せずに VPC から Bedrock に到達でき、オンプレミスからは AWS Direct Connect 経由でプライベートに到達できます。
• 入出力フィルタリング: Amazon Bedrock Guardrails は、コンテンツフィルタ、禁止トピック、機微情報フィルタを適用し、プロンプトと応答の両方で PII をブロックまたはマスクし、プロンプトインジェクションの試みを検出します。

整合とはどういう状態か

次がすべての生成 AI ワークロードで満たされるとき、この統制に整合しています。

• 基盤モデルへのアクセスはすべて Amazon Bedrock（または、データプライバシーと非学習について契約で保証され、あなたが検証した同等の条件を持つプロバイダー）を経由する。
• ファインチューニングとプロンプトのデータはカスタマー管理の KMS キーで保存時に暗号化され、モデルへのアクセスはプライベートな経路（VPC エンドポイント／Direct Connect）である。
• Guardrails が構成・適用されており、入出力での機微情報（PII）フィルタリングとプロンプト攻撃対策を含む。
• そのワークロードは責任者付きで AI インベントリに登録され、データフローがデータ分類ポリシーに照らしてレビューされている。

AI Security Maturity Model でさらに深める

これは、生成 AI のデータ保護の基本をカバーする Cloud の foundational な統制です。組織で AI が中心的なら、専用の AI Security Maturity Model が、生成 AI およびエージェント型 AI のデータ保護を成熟度の全行程にわたって扱います。深掘り用の相棒として活用してください。

関連

インベントリと責任の側面については AI セキュリティガバナンス、KMS の基盤については保存データの暗号化と組み合わせてください。