PKSHA Technology（以下、PKSHA）は、AIにより不適切な投稿を自動検知する「PKSHA Security for Post Guard」の提供を開始した。
近年、インターネット上の各種プラットフォームサービスにおいて、誹謗中傷や未成年を標的とした不適切な勧誘、意図的な虚偽情報の拡散など、インターネット上の有害コンテンツが社会問題として顕在化している。その中で、以下のような課題を抱えるプラットフォーム事業者が年々増加しているという。
- 大量の投稿に対する24時間365日の高品質な監視が追いつかない
- 新たな不適切投稿トレンドへの迅速な対応体制の構築が喫緊である
- 監視業務における運用コストを最適化したい
PKSHAは、金融業界を中心にカード不正利用の検知システムなどを提供してきた「PKSHA Secutity」の技術とノウハウ、および大手マッチングアプリ事業者や監視事業者などとの協業を通じて培った投稿監視業務におけるAIの社会実装実績を活かし、今回のサービス提供に至ったとしている。
同ソリューションにより、プラットフォーム事業者の不正投稿検知コストを削減し、人とAIによる高精度での不正投稿検知によって、安全なウェブ空間を実現すると述べている。
「PKSHA Security for Post Guard」の特徴
大手マッチングアプリ事業者や監視事業者などでの実用実績に基づく独自のテキスト解析技術を用いて、大量の投稿の中から誹謗中傷、公序良俗に反する投稿、従業員の不適切行為など、リスクのある投稿を瞬時に自動検知するという。人とAIによるハイブリッド型の監視体制によって、監視業務の効率化をサポートするとのことだ。
なお、従来の不正投稿監視においては、主に人力のみで監視を行うサービスや、検知対象となるキーワードや画像を事前に設定の上で、関連する投稿を検知するサービスなどにて対策を行ってきたが、PKSHA Security for Post Guardでは事前のキーワード設定に加えて、ユーザー自身が同サービスのUIを通じて、実際に遭遇した不正事例のデータを随時投入することで、そのサービス特有の不正パターンに特化した検知が可能となり、新たな不正トレンドにもAIが早期に追従できるとしている。
高精度な自動検知
- 大手マッチングアプリ事業者や監視事業者などでの実用実績に基づく、独自のテキスト解析技術による文脈を考慮した高精度な判定
- AIモデルの定期的な再学習による不正トレンドへの効果的な追従が可能
業務要件に合わせた柔軟なカスタマイズが可能
- 専用管理画面からの既存／新規検知ルールの簡易追加が可能
- 検知対象のファイルアップロード／API経由での推論の双方に対応
- 投稿ごとに不適切度合いを示すスコアを算出／可視化することで、メリハリをつけた効率的な監視業務の実現をサポート
想定される活用シーン
以下のような不適切投稿を自動検知するという。
【関連記事】
・PKSHA、AI・SaaS事業強化に向けグループ2社を統合 事業間の連携強化へ
・朝日生命保険、3,500超のドキュメント検索業務を「PKSHA AI ヘルプデスク」で代替へ
・北國銀行、コンタクトセンターの業務効率化と品質向上に「PKSHA Speech Insight」導入
