解説
AIに対するモデルインバージョン攻撃（Model Inversion Attack）は、機械学習モデルへの問い合わせ（クエリ）を繰り返しながら入力データを調整し、モデルの出力結果を解析することで、学習に使用した元のデータを逆推定・復元する攻撃手法。例えば顔認識モデルに対して様々な画像を入力し、「この画像はAさん（信頼度95%）」という出力を繰り返し利用することで、Aさんの顔画像（学習データ）を徐々に復元できる。プライバシー侵害が主な被害で、医療AIから患者の個人情報を推測する攻撃なども研究されている。GAN（Generative Adversarial Network）と組み合わせて高品質な学習データ復元を行う攻撃も存在する。AIセキュリティの4大攻撃：①モデルインバージョン（学習データ推測）②モデルスティーリング（モデル複製）③データポイズニング（学習データ汚染）④敵対的サンプル（誤分類誘導）の区別がSC試験では重要。
なぜ他の選択肢は違うのか
- 選択肢 イ
- 「複数のデータを入力して出力結果を観察し、当該AIモデルを模倣して同等性能のAIモデルを得る」はモデルスティーリング攻撃（Model Stealing / Model Extraction Attack）の説明。モデルの内部パラメータや学習データを複製するのではなく、APIアクセスを通じて機能的に同等なモデルをゼロから作り上げる攻撃。知的財産の窃取に当たり、モデルインバージョンとは目的・手法とも異なる。
- 選択肢 ウ
- 「学習時のデータセットに悪意あるデータを混入させて誤った学習をさせる」はデータポイズニング攻撃（Data Poisoning Attack / Backdoor Attack）の説明。学習フェーズへの攻撃で、特定のトリガーパターンを含む入力に対して意図した出力を返すバックドアを埋め込む手法が代表的。モデルインバージョンが学習済みモデルへの推論フェーズ攻撃であるのに対し、データポイズニングは学習フェーズへの攻撃。
- 選択肢 エ
- 「実行ファイルを入手して逆アセンブル・逆コンパイルでソースコードを得る」は通常のソフトウェアに対するリバースエンジニアリングの説明。AIモデルの攻撃ではなく、機械語や中間コードから人間が読めるコードを復元する一般的なセキュリティ解析手法。ニューラルネットワークモデルに対してはこの手法は適用されず、AIセキュリティ攻撃の文脈では用いない概念。