問題 21★★☆

経営会議で「当社はフロンティアAIを開発していないので、そのリスクは検討しなくてよい」 という意見が出た。情報セキュリティの担当者の説明として最も適切なものはどれか。

正解:ア

各選択肢の解説

  1. ア開発していなくても、高性能なAIを悪用した攻撃の標的になりうるので、攻撃の高度化に備える。

    正解。フロンティアAIのリスクは作り手だけの問題ではありません。悪用されれば 攻撃の手間や必要な知識が下がり、使っていない企業も攻撃を受ける側として影響を受けます。

  2. イフロンティアAIのリスクは学習データの偏りによる差別的な出力のことで、出力の点検で足りる。

    誤り。学習データの偏りが出力に表れるのは差別的表現(バイアス)のリスクで、 AI全般に起こる個別の出力の問題です。フロンティアAIのリスクは、能力の高さゆえに 悪用や想定外の振る舞いが社会全体に及ぶおそれを指し、出力の点検では扱いきれません。

  3. ウフロンティアAIは安全性の評価を受けて認定されたAIなので、利用しても検討は要らない。

    誤り。フロンティアAIはその時点で最先端の高性能な汎用AIを指す呼び名で、 安全性が認定されたという意味は含みません。能力が高いからこそ、 国際的に安全性の評価が議論されている対象です。

  4. エリスクは開発した企業が負うものなので、利用する企業は開発元の安全対策に任せればよい。

    誤り。開発元の安全対策は必要ですが、それで悪用が完全に防げるわけではありません。 攻撃に使われたときに被害を受けるのは利用者や無関係の企業であり、 自社の防御まで開発元に任せることはできません。

理解を深めるために

作っていなくても、攻撃を受ける側にはなる

高性能な工具が出回ると、それを持っていない家でも、空き巣の手口が変わる分だけ戸締まりを 見直す必要が出てきます。フロンティアAI(その時点で最先端の、高性能な汎用AI)のリスクも同じで、 自社が開発・利用しているかどうかに関係なく、社会全体に影響が及びうる点が特徴です。

なぜ利用しない企業にも関係するのか

フロンティアAIのリスクとして挙げられるのは、主に次のようなものです。

  • 悪用: 専門知識の乏しい者でも、攻撃の準備や手口の高度化ができるようになる
  • 想定外の振る舞い: 能力が高く、開発時に見通せなかった動きをするおそれがある
  • 影響の広さ: 1社の運用ミスにとどまらず、社会の広い範囲に被害が及びうる

このうち悪用のリスクは、AIを作らない企業にも、攻撃を受ける側として直接関わります。 情報セキュリティの担当者は、こうしたリスクについての公的機関や国際的な評価の動向を把握し、 攻撃の高度化を前提に自社の対策を見直す立場にあります。

混同しやすいものとの違い

考え方 正しいか
悪用された攻撃の標的になるので備える 正しい。作り手でなくても受け手になる
差別的な出力のことで、点検で足りる 差別的表現(バイアス)の説明。個別の出力の問題
安全性が認定されたAIだから検討不要 呼び名は能力の水準を指し、認定の意味はない
開発元の安全対策に任せればよい 被害を受ける側の防御は自社で担う

試験では、リスクが「誰の運用の問題か」と「どこまで被害が及ぶか」で見分けると選べます。 フロンティアAIは、能力の高さゆえに影響が一組織を超える点がほかのリスクと違います。

前の問題へ次の問題へ