日立ソリューションズは、Robust Intelligenceと販売代理店契約を締結し、リスクの検出や管理を行うプラットフォーム「Robust Intelligence」を3月14日より提供開始した。
Robust Intelligenceでは、AIのリスクに対応したアルゴリズムでテストを自動化し、問題を検知。データサイエンティストなどの属人性を排除することで、テストの透明性が確保されるという。運用中のAIの挙動においても入力と出力を継続的に検査するため、不正を早期に検出可能だとしている。
日立ソリューションズは、Robust Intelligenceの診断結果からリスクを把握するとともに、企業の目的に応じて周辺システムを含めた対策や体制の整備、マニュアル作成などをサポートするという。Robust Intelligenceと日立ソリューションズによる支援の特徴は以下のとおり。
- AIリスクの把握や属人的な開発プロセスを標準化：Robust Intelligenceに備わったリスクを想定したテストで開発中または運用中のAIの動作を検証し、AIリスクを診断。テストは自動化でき、学習データの偏り、差別的な予測が出力されないかといったリスクを検出する
- リスクを排除するために必要なデータ加工や管理を提案：日立ソリューションズのエンジニアが分析結果をレポート。必要なデータ加工や開発、運用工程上の改善について提案、支援する
- AIを適切に活用するためのルール策定やガイドライン整備：日立ソリューションズが実践するAIに関するガバナンスの取り組みを活かし、AIの安全性と適切な利用を確保するために必要となるルール策定やガイドライン整備を支援
【関連記事】
・マイクロソフトのアプリを提供するベンダーのリーダーとして日立ソリューションズが評価
・日立ソリューションズ、SBOMをクラウドで一元管理できるプラットフォーム提供へ 脆弱性リスクを可視化
・企業のサステナビリティ推進においてデータセキュリティへの取り組みも重視か──日立ソリューションズ調査
