ChatGPTに関わるインシデントは今後さらに増える
エムオーテックスは大阪で1990年に創業、IT資産管理、セキュリティ対策ツールのLANSCOPEの開発、販売、およびサイバーセキュリティのコンサルティングサービスやソリューション導入、運用監視サービスを展開している。同社の製品にはまず、組織の資産管理、内部統制対策、ウイルス対策をオールインワンで提供する「LANSCOPE Endpoint Manager」がある。
また「LANSCOPE Security Auditor」は、Microsoft 365の監査ログを収集し利用状況の可視化やインシデントにつながる操作の把握を可能とする製品だ。「LANSCOPE Professional Service」は、サイバーセキュリティの様々な領域に対し、セキュリティ診断などのサービスを通じサイバー攻撃などのリスクから組織を守る。
「LANSCOPE Cyber Protection」は、AIを活用し既知のものだけではなく未知のマルウェアからも防御し、EPPの「CylancePROTECT」とEDRの「CylanceOPTICS」をエムオーテックスのマネージドサービスとして提供している。これらのLANSCOPEブランドの製品、サービスを用い「顧客の安全と生産性の向上を支援します」と西村氏は語る。
ChatGPTに絡んだセキュリティインシデント
続いて西村氏は、最新のセキュリティインシデントの事例を紹介した。昨今、ChatGPTが大きな注目を集めている。これまで、オレオレ詐欺や国際ロマンス詐欺などに代表されるように、詐欺目的でメールなどを通して金銭を要求する類のサイバー犯罪は、日本語の壁があり日本ではさほど大きな被害はなかった。しかし「ChatGPTを使うことで日本語の壁をクリアし、フェイク画像のなりすましなどでも被害の恐れが増す恐れがあります」と西村氏は指摘する。
実際に、ChatGPTに絡んだインシデントも発生している。2023年3月には、韓国の製造メーカーにおいてChatGPTに社内の機密情報を入力してしまい、情報が外部サーバーに送信されるといった事例が発生している。またChatGPT Plusのユーザーの個人情報がChatGPT経由で確認できてしまったインシデントもあった。6月にはアカウントのハッキングがあり、ChatGPTのアカウント情報約10万件がダークウェブで販売されている。これらへの対策には、ChatGPTのやり取りや応答履歴を削除する必要があるほか、2要素認証なども推奨されている。
8月には許可していない回答が得られるケースもあった。これはOpenAIの脆弱性によるもので、本来システム側で制御している、許可していない回答が出てしまったものだ。ChatGPTに関連するインシデントはまだそこまで件数は多くないが「今後ますます増えると予測されます」と西村氏は語る。
BlackBerryの調査によれば、ITプロフェッショナルの約半数が、ChatGPTを用いたサイバー攻撃が今後1年以内に成功すると予測。また同調査では、世界中の組織の75％がChatGPTなどの利用を禁止するか禁止を検討している。
そしてエムオーテックスが5月に開催したChatGPTに関するセミナーでアンケートを採ったところ、既に約3割の企業がChatGPTを業務に使っており、利用ガイドラインなどを整備しているところもあれば、利用を禁止する組織もあったという。
エムオーテックスでも業務でChatGPTを利用しており、社員の7割程度が活用を開始している。Microsoft Azure OpenAI Serviceを採用し、データは自社で契約しているAzureの中だけに保管できるようにしているという。利用例としては、各種セキュリティ製品で検知したイベントログなどをChatGPTで分析し知見を得ている。「ログから瞬時に回答が得られ、かなり便利です」と西村氏。社内で生成AIを使うためのガイドラインも作成し、社内と外部のAIサービスをハイブリッドで活用している。
だが生成AIを利用している中では、様々な懸念も明らかになっている。たとえば隠れてChatGPTを利用する人がいたり、ChatGPTに間違って機密情報を渡したりするケースもある。エムオーテックスでは、これらはLANSCOPE Endpoint Managerで管理している。
「たとえば操作ログから利用者を把握したり、ChatGPTの書き込みログを可視化したりしています。またChatGPTの誤った解答を正しいとして受け取ってしまうことや、著作権の扱いに関してはガイドラインや定期的な社内教育で対応しています」（西村氏）
ChatGPTのような生成AIに関しては、サイバー攻撃への悪用も懸念される。これに関してはLANSCOPE Cyber Protectionを用い、AIを活用し防御するという。このように、ChatGPTに関する新たな形でのセキュリティインシデントが出ているが、引き続きクラウドサービスやサプライチェーン攻撃、ランサムウェア被害なども多く、これらは近年と変わらない状況だという。その上で西村氏は「攻撃が高度化していることもあり、防御が難しい実態があります」と語る。
