問題 43★★★

生成AIを悪用し、既存のマルウェアのプログラムを少しずつ書き換えた 亜種(バリアント)が、短時間に大量に作られるようになった。 これによって守る側に生じる問題として、最も適切なものはどれか。

正解:エ

各選択肢の解説

  1. ア本人そっくりの音声や映像が作られ、電話やWeb会議での本人確認が難しくなる。

    誤り。これはディープフェイクによる問題です。同じくAIの悪用ですが、 作られるのは偽の音声や映像で、だます相手は人です。亜種の生成で 作られるのはプログラムで、すり抜ける相手は対策ソフトです。

  2. イ修正プログラムが提供されていない弱点を突かれ、ソフトウェアの更新では防げない。

    誤り。これはゼロデイ攻撃の説明です。「まだ知られていない」という点で 混同しやすいのですが、ゼロデイ攻撃で未知なのはソフトウェアの弱点、 亜種で未知なのはマルウェアそのものの姿です。

  3. ウ生成AIへの入力に細工をされ、開発者が与えた指示を無視した回答が出てしまう。

    誤り。これはプロンプトインジェクションの説明です。AIが関わる点は 同じですが、こちらはAIを攻撃の標的にするものです。亜種の生成は AIを攻撃の道具として使うもので、向きが逆です。

  4. エ既知のマルウェアの特徴と照合して見つける方式では、検知できないものが増える。

    正解。対策ソフトの基本は、過去に見つかったマルウェアの特徴との照合です。 亜種は動作が同じでも中身の並びが変わるため、登録済みの特徴と一致せず、 照合をすり抜けます。

理解を深めるために

指名手配の写真と、変装した犯人

マルウェア対策ソフトの基本的な見つけ方は、過去に見つかったマルウェアの 特徴を登録しておき、ファイルと照らし合わせる方法です。 指名手配の写真と通行人の顔を見比べるのに似ています。

亜種(バリアント)は、元のマルウェアの一部を書き換えたものです。 やることは元と同じでも、プログラムの中身の並びが変わっています。 変装した犯人が写真と一致しないのと同じで、登録済みの特徴との照合では 見つけられなくなります。

生成AIで何が変わったのか

亜種を作ること自体は以前から行われていました。変わったのは手間と速さです。

  • プログラムの書き換えには知識と時間が必要だったが、生成AIに任せられるようになった
  • 短時間に大量の亜種を用意でき、1つが検知されても次を出せる
  • 守る側が特徴を登録する速さが、作られる速さに追いつかない

このため、特徴との照合だけに頼らず、プログラムの不審な動きそのものを 見て判断する方式(振る舞い検知)を組み合わせることが重要になっています。 中身を変えても、ファイルを勝手に暗号化するといった動きは変えられないからです。

混同しやすいものとの違い

用語 AIとの関係 何が起きるか
マルウェアの亜種の生成 AIを道具に使う 特徴との照合をすり抜ける
ディープフェイク AIを道具に使う 偽の音声・映像で人をだます
プロンプトインジェクション AIを標的にする AIが開発者の指示を無視する
ゼロデイ攻撃 AIとは無関係に成立する 修正前の弱点を突かれる

試験では「AIを使った攻撃」と「AIを狙った攻撃」を分けて考えます。 そのうえで、AIが作るものがプログラムなら亜種の生成、音声や映像なら ディープフェイク、文章ならフィッシングなどの巧妙化と見分けます。

前の問題へ次の問題へ