解説

Adversarial Examples（敵対的サンプル）攻撃とは、人間の目には正常に見える画像に微細なノイズや摂動を加えることで、AIの画像認識モデルを意図的に誤分類させる攻撃手法です。例えば、パンダの画像にわずかなノイズを加えると、人間には「パンダ」に見えるにもかかわらず、AIは「テナガザル」と誤判定するようなケースが報告されています。この攻撃はAIモデルの内部パラメータ（勾配情報）を悪用して、モデルの判断境界を超えるよう計算された最小限のノイズを加えることで実現します。自動運転の標識認識や顔認証システムなどへの応用が脅威として挙げられています。攻撃者がモデルの情報を持つ「ホワイトボックス攻撃」と持たない「ブラックボックス攻撃」の両パターンが存在します。

なぜ他の選択肢は違うのか

選択肢 ア

Adaptively Chosen Message（適応的選択メッセージ）攻撃は、デジタル署名方式に対する暗号解読攻撃の一種です。攻撃者が署名者に対して選択した複数のメッセージへの署名を求め、得られた署名から秘密鍵を推測しようとするものです。AIの画像認識に対するノイズ付加とは全く異なる文脈の攻撃であり、暗号技術の分野の用語です。

選択肢 ウ

DRDoS（Distributed Reflection Denial of Service）攻撃は、攻撃者が送信元IPアドレスを標的のアドレスに偽装したリクエストを第三者のサーバ（リフレクター）に送り、その応答を標的に集中させることでサービスを妨害するDoS攻撃の一種です。AIモデルへの攻撃ではなく、ネットワーク層の可用性攻撃であり、出題の文脈とは無関係です。

選択肢 エ

Model Inversion（モデル反転）攻撃は、機械学習モデルへのクエリを繰り返すことで、モデルの訓練データに含まれる個人情報や機密情報を推測・復元する攻撃です。患者データで訓練した医療診断モデルに対して患者の顔画像を復元するような攻撃事例があります。誤分類を引き起こすのではなく、学習データの漏えいを狙う点でAdversarial Examplesと方向性が異なります。

解くときのポイント

AIセキュリティの4大攻撃を整理：①Adversarial Examples＝「人間には見えないノイズで誤分類」②Model Inversion＝「クエリから学習データ復元」③Model Extraction＝「APIで内部モデルを複製」④Data Poisoning＝「学習データを汚染」。設問の「人間には知覚できないノイズ＋誤分類」はAdversarial Examplesの定義そのもの。