解説

Adversarial Examples攻撃（敵対的サンプル攻撃）は、人間の目では認識できない微小なノイズや画素値の変化を画像に意図的に加えることで、AIの画像認識モデルを誤判断させる攻撃手法。AIモデルは高次元特徴量空間において、入力の微小な変化が分類境界を越えることがあり、その性質を悪用する。例えば「パンダ」の画像に微小なノイズを加えると、人間には全くパンダに見えるにもかかわらず、AIが「テナガザル」と誤認識するケースが有名。この攻撃は自動運転車の標識認識や顔認証システムへの攻撃にも応用される。対策として、敵対的サンプルを使った追加学習（Adversarial Training）や入力の検証・フィルタリングが研究されている。AI・機械学習セキュリティは近年SC試験でも出題が増えている重要トピック。

なぜ他の選択肢は違うのか

選択肢 ア

Adaptively Chosen Message攻撃（適応的選択メッセージ攻撃）は暗号・デジタル署名への攻撃手法で、攻撃者が任意に選んだメッセージへの署名を繰り返し取得することで秘密鍵を推定しようとする攻撃。公開鍵暗号やデジタル署名の安全性評価モデルで使われる概念であり、AI画像認識への攻撃とは全く異なる分野の用語。

選択肢 ウ

DRDoS（Distributed Reflection Denial of Service）は送信元IPアドレスを偽装して、第三者サーバ（DNSサーバ・NTPサーバ等）を反射板として利用し、増幅されたトラフィックを攻撃対象に向ける分散型サービス拒否攻撃。ネットワーク帯域を枯渇させる攻撃であり、AIの誤認識誘発とは全く異なる攻撃手法。

選択肢 エ

Model Inversion攻撃はAIモデルへの問い合わせ（クエリ）を大量に繰り返し、モデルの出力から学習データ（個人の顔画像・医療データ等）を逆推定・復元する攻撃。プライバシー侵害が主目的で、モデルの誤認識を誘発するAdversarial Examples攻撃とは目的も手法も根本的に異なる別の攻撃カテゴリ。

解くときのポイント

AI攻撃4種を区別: ①Adversarial Examples（誤認識誘発）、②Model Inversion（学習データ復元）、③Model Stealing（モデル複製）、④Data Poisoning（学習データ汚染）。