AIの「だまし絵」？自動運転を狂わせる「回避攻撃」の恐怖

　みなさんこんにちは！実は昨日、21日に「生成AIパスポート試験」を受験しました！こんな緊張感は久しぶりすぎてドキドキが止まりませんでした……！長いはずの60分があっという間に過ぎ去る、濃密な挑戦でした。

　そんな試験勉強の中で、私が「えっ、AIってそんなことで騙されちゃうの！？」と一番驚いた、超重要テーマを今回はお届けします。

　「AIの目は人間より正確」そう思っていませんか？実は、今の最先端AIには、人間には絶対に通用しない**「おかしな弱点」**があるんです。人間が見れば、ただの「シールが貼られた一時停止の標識」。しかし、自動運転AIの目にはそれが「青信号（進め）」に見えてしまう……。

　今回は、試験でも超重要かつ最高難度と言われるサイバー攻撃、**「回避攻撃（エボージョン攻撃）」**の正体について、中学生でもわかるように優しく解説します！

　1. 回避攻撃（エボージョン攻撃）ってなに？一言でいうと、**「AIにわざと『だまし絵（特殊なノイズ）』を見せて、AIの判断をスルー（回避）して狂わせる攻撃」**のことです。人間にとっては、標識にちょっとシールが貼ってあるだけにしか見えません。しかしAIは、画像の「ピクセル（画素）」の集まりを数式で計算して判断しています。悪意のある人が計算し尽くした「特殊なノイズやシール」を貼ることで、AIの計算をバグらせ、全く別のものに見せかけることができるのです。敵対的サンプル（アドバサリアルエグザンプル）AIを騙すために作られた、この「特殊な仕掛け（ノイズ入りのデータ）」の専門用語です。

　2. なぜこれが今、大問題になっているの？一番恐ろしいのは、先ほど例に出した**「自動運転の乗っ取り」**です。標識を誤認識させれば、大事故を引き起こすことができます。それ以外にも、身近なところでこんな悪用が心配されています。セキュリティのすり抜け空港の顔認証ゲートに「特殊な柄のメガネ」をかけて通り抜け、別人になりすます。ウイルスの見逃し危険なコンピューターウイルスに、AIが検知できない「特殊な文字」を少しだけ混ぜて、セキュリティソフトをスルーさせる。チェックを「回避」して悪いものをすり抜けさせるから、回避攻撃と呼ばれているんですね。

　3. 試験で狙われる！対策とまとめ生成AIパスポート試験や、AIの資格試験では、以下のような形でよく出題されます。

　試験対策のワンポイント問題文のキーワード：「AIの判定を狂わせるために、データに特殊な細工やノイズ（敵対的サンプル）を加える攻撃」とあれば、答えは**「回避攻撃（エボージョン攻撃）」**です！ひっかけ対策：言葉（文字）で攻撃するのが「プロンプトインジェクション」。画像やデータ（ノイズ）で攻撃するのが「回避攻撃」。この2つの違いが出題されやすいポイントです！

　これからのAI時代は、賢く使いこなすだけでなく、こうした「AI特有の弱点」を守るセキュリティ（レッドチーミングという擬似攻撃テストなど）がさらに重要になっていきそうですね。

　試験本番でも、スッと答えが出たり、引っ掛け問題に惑わされそうになったり……この「回避攻撃」の仕組みを知っていたおかげで、冷静に戦うことができました！みなさんもぜひ、この機会に覚えてみてくださいね。