CCSPとAI・機械学習セキュリティ（2026年）：試験で問われること

CCSP完全ガイドシリーズの一部です。

人工知能・機械学習のセキュリティは、ニッチなトピックからCCSPカリキュラムの重要な構成要素へと変貌を遂げました。2024年以前の学習教材を使っている方は、受験前に必ずこのギャップを埋めておく必要があります。

朗報がひとつあります。CCSPはAI/MLセキュリティを他のすべての領域と同じ切り口で捉えています——技術実装ではなく、ガバナンスとリスク管理から。誤差逆伝播法を理解していなくても、AIセキュリティに関するCCSP問題に答えることはできます。

CBKにおけるAI/MLセキュリティの出題箇所

AI/MLセキュリティのコンテンツは3つのドメインに分散されています。

ドメイン2 — クラウドデータセキュリティ（主要）

機械学習モデルの訓練データは、クラウド環境で管理される機密データです。ドメイン2のデータセキュリティ原則がそのまま適用されます。

訓練データのアクセス制御：ML訓練データセットには機密性の高い個人データ（医療記録、金融取引、ユーザー行動データ）が含まれることが多いです。一般的なデータに適用されるアクセス制御の原則——最小権限、Need-to-Know、職務分離——は、訓練データにも特に重要な意味を持ちます。訓練データが侵害されると、モデルの出力が大規模に改ざんされる可能性があるからです。

データポイズニングの防止：悪意ある第三者が訓練データセットに不正なレコードを注入できれば、モデルの挙動を操作できます。セキュリティ専門家はこの脅威カテゴリ、不正なデータ変更を防ぐコントロール、ポイズニングを検知可能にする監査証跡を理解する必要があります。

モデル訓練データの来歴管理：AIのガバナンスフレームワークでは、訓練データセットの出所・取り扱い・処理の記録が求められます。これはドメイン2のデータライフサイクル管理の概念と合致します。

ドメイン4 — クラウドアプリケーションセキュリティ

クラウドに展開されたAI/MLアプリケーションは、他のクラウドアプリケーションと同じセキュリティ要件に加え、AI固有の攻撃対象領域を持つソフトウェアシステムです。

敵対的入力：AIモデルは、誤分類や予期しない動作を引き起こすように巧みに設計された入力によって操作される可能性があります。この攻撃カテゴリと、それに対処するコントロール（入力バリデーション、モデルロバストネステスト）を理解することが試験範囲です。

モデル抽出攻撃：展開済みモデルへの推論アクセスを持つ攻撃者は、体系的なクエリを通じてモデル自体を再現できる可能性があります。これは知的財産の窃取であり、セキュリティ上の影響を持ちます。コントロールにはレート制限、出力摂動、推論APIのアクセス制御が含まれます。

プロンプトインジェクション：自然言語命令を処理するAIシステムでは、プロンプトインジェクションにより攻撃者が悪意ある入力を通じて意図した動作を上書きできます。これはユーザー提供コンテンツを処理するLLMベースのアプリケーションで特に重要です。

LLMのデータ漏洩：機密データで訓練された大規模言語モデルは、出力に訓練データを再現してしまう場合があります。セキュリティ専門家はこのリスク、評価アプローチ、ガバナンスコントロールを理解する必要があります。

MLOpsセキュリティ：MLパイプライン（データ取り込み、特徴量エンジニアリング、モデル訓練、評価、展開）はCI/CDの特性を持つソフトウェアシステムです。DevSecOpsに適用されるアプリケーションセキュリティの原則——コードスキャン、依存関係管理、パイプラインのアクセス制御、成果物の完全性——がMLOpsにも適用されます。

ドメイン6 — 法律・リスク・コンプライアンス

AIガバナンスと規制はドメイン6への重要な追加要素です。

EU AI法：EU AI法は、AIシステムをリスクレベル（禁止、高リスク、限定リスク、最小リスク）で分類し、高リスクシステムには適合性評価、技術文書、人間による監視などの要件を課しています。クラウドに展開されたAIシステムは、ユースケースと関係するデータ主体によっては、これらの要件の対象となる可能性があります。

NIST AIリスク管理フレームワーク（AI RMF）：NISAは2023年にAI RMFを公開しました。AIリスク管理を4つの機能（統治・マッピング・測定・管理）に体系化しています。NISTサイバーセキュリティフレームワークに精通している方なら、その構造を認識するでしょう。AI RMFはCCSP学習教材でAIリスクのガバナンスフレームワークとして参照されています。

ISO/IEC 42001：2023年に公開されたAI管理システム標準で、AIシステムを開発・利用する組織への要件を規定しています。クラウドセキュリティのガバナンスコンテキストで参照されています。

CCSPはAIセキュリティをどのように問うか

AIセキュリティに関するCCSP問題は、他のすべてのCCSP問題と同じパターンに従います——有能なクラウドセキュリティ専門家が何をすべきかを問うシナリオです。

典型的な問題の形式：

「ある組織がクラウドIaaS環境で医療記録を処理するMLモデルを展開しようとしています。訓練データのセキュリティに最も適したアプローチはどれですか？」

「あるクラウドアプリケーションがLLMを使って顧客から送信されたテキストを処理しています。プロンプトインジェクションリスクを最も効果的に軽減するコントロールはどれですか？」

「あなたの組織のAIベンダーは別の法的管轄区域に拠点を置いています。EU AI法の下で、あなたの展開に適用されるガバナンス要件はどれですか？」

これらの問題で問われること：

• どのような脅威カテゴリが存在するか（ポイズニング、抽出、インジェクション、漏洩）
• どのコントロールがどの脅威に対処するか
• どのガバナンスフレームワークがどのシナリオに適用されるか
• ガバナンス優先の思考：「最善」の答えは通常、特定の技術的コントロールではなくガバナンスの解決策

AI/MLセキュリティの試験対策戦略

既存の学習教材がAI/MLセキュリティをカバーしていない場合（2024年以前の教材は通常カバーしていません）：

1. NIST AI RMFで補強する：このフレームワークはNISTのウェブサイトで無料公開されています。概要文書と4つのコア機能を読んでください。これがCCSPコンテンツで参照されている主要AIガバナンスフレームワークです。

2. EU AI法の基礎を確認する：深い法律知識は不要です。リスク分類レベル、AIシステムが同法の下で「高リスク」とみなされる条件、クラウド展開AIの主要なコンプライアンス義務を理解してください。

3. 脅威カテゴリを概念的に理解する：データポイズニング、モデル抽出、敵対的入力、プロンプトインジェクションの4つが試験で問われる主要なAI固有の攻撃カテゴリです。攻撃の実装方法ではなく、各脅威が何であるかを理解してください。

4. 既存のCCSPフレームワークを適用する：AI訓練データはデータです——ドメイン2のデータライフサイクル、アクセス制御、暗号化の原則が適用されます。AIアプリケーションはアプリケーションです——ドメイン4のDevSecOpsとAPIセキュリティの原則が適用されます。AIガバナンスはガバナンスです——ドメイン6のリスク管理フレームワークが適用されます。

CCSPのAI/MLセキュリティコンテンツは別個の専門分野ではありません——既存のCCSP原則を新しい技術コンテキストに適用したものです。根底にあるガバナンスフレームワークを理解していれば、AIへの適用は概念的に明快です。

次の記事：CCSPとコンテナ・サーバーレスセキュリティ | CCSP試験の2026年変更点