情報処理推進機構（以下、IPA）は2024年7月4日、AIの業務利用におけるセキュリティ上の脅威・リスクの認識や対応状況の実態把握を目的として、企業・組織の実務担当者にアンケート調査を行い、その結果をまとめた「AI利用時の脅威、リスク調査報告書」を公開した。
同調査では、AIの業務利用が進む中、組織におけるセキュリティ対策の規則整備はまだ道半ばであるとともに、セキュリティ上の脅威・リスクや生成AIで生成したコンテンツ利用・評価については多くの人が課題を感じているものの、優先度は付いていない状況が判明したとしている。詳細は以下のとおり。
業務でAIを利用/許可している企業は16.2％、予定ありを合わせても22.5％
事前調査として、4,941人を対象に自身の企業・組織で業務でのAI利用あるいは利用許可をしているかを聞いたところ、していると回答した企業の割合は16.2％だった。また、これから許可予定であるとの回答が6.3％だった。
AIのセキュリティに関して6割が脅威を感じ、7割がセキュリティ対策は重要と回答
事前調査でAIを利用／許可している、または予定があるとの回答から1,000人を抽出し、同調査を実施。AIのセキュリティに関する脅威の種類と度合いを聞いた設問では、虚偽拡散、システム障害、情報漏えいなど具体的な脅威の種類について回答を求めたところ、いずれの脅威についても同程度に脅威であると回答されており、脅威の度合いとして「重大な脅威である」、「やや脅威である」と回答した人が全体平均で60.4％だった。
また、AI導入・利用可否におけるセキュリティ対策の重要度については、分類AI利用者の74.5％、生成AI利用者の75.0％が「非常に重要だと思う」「やや重要だと思う」と回答した。
生成AI利用時のセキュリティに関連した規則が策定されている企業は20％未満
生成AI利用時のセキュリティに関連した規則・体制が整備されているかを聞いた設問では、課題認識は60％を超えていたにも関わらず、規則の策定、明文化、組織的な検討がされているのは20％未満で、詳細規則策定中を合わせても40％前後しか整備が進んでいないことがわかったとのことだ。
生成AIによるコンテンツ利用・評価・普及について課題は感じているものの、優先度は付いていない
生成AIで生成したコンテンツの利用・評価・普及における課題とその程度を聞いた設問では、「悪意の生成AIコンテンツを含む詐欺攻撃による金銭被害・情報流出」に対して「非常に大きな課題である」、「やや課題だと思う」と回答した人が63.8％と最多だった。しかし、どの課題も60％を超えており、優先度が付いていない状況であることがわかったとしている。
調査概要
調査期間
- 2024年3月18日～21日
調査方法
- ウェブアンケート
回収数
- 事前調査：企業・組織に従事する人 4,941人
- 本調査 ：事前調査の回答者の中でAIを業務で利用または予定がある人 1,000人
【関連記事】
・IPAとCatena-X、自動車業界相互間でのデータ共有・利活用の実現めざし連携へ
・IPA、『DX実践手引書 ITシステム構築編』を改訂 第4章に「データスペース」と「データ活用におけるAI」追記
・IPA、「AIセーフティ・インスティテュート」設立 所長には村上明子氏、事務局長に平本健二氏が就任
