AIに「信頼」や「公平性」をいかに実装するのか？ MSからスピンアウトしたAI開発集団rinnaが大切にする「6つの原則」

コンウェイの法則と「信頼性」

　マイクロソフトのリサーチ部門のAI研究チームからスピンアウトしたrinnaが、2021年1月25日に会見を行った。2016年から企業のマーケティングなどに活用されてきた同社のAIキャラクター作成プラットフォーム「Rinna Character Platform」が刷新され、それを支えるAIテクノロジーが紹介された。

「私たちのAI開発は、公平性、信頼性＆安全性、包括性、プライバシー＆セキュリティ、透明性、説明責任の6つを原則としています。会社もこの6原則をそなえた組織でありたいと考えています」とrinna社⾧　ジャン“クリフ”チェン氏は語る。

　このフィロソフィーの基底にあるのは、「コンウェイの法則」――システムを設計する組織は、その組織が生み出すソフトウェアの構造を反映するという考え方であり、マイクロソフトのチームの時代から続いているという。

　6つの原則が示唆するのは、AIチャットボットと社会との関係だ。2016年、マイクロソフトのチャットボットAIが米国でヘイト発言を行い、同社が謝罪するという問題が起きた。会見では言及されなかったが、マイクロソフトとrinnaのAI研究には、その教訓が活かされていると考えられる。

　rinnaのテクノロジーは、ディープラーニング技術を活用し、AIが文脈に応じた会話文を自動生成して人間と自然に会話する「共感チャットモデル」、AIが話し声や歌声で豊かな感情表現を可能にする「音声合成システム」などだ。これまでLINE上のAIチャットボット「りんな」の開発に応用され、企業のマーケティングなどで活用されてきた。そして、今回発表されたものはその発展形である企業向けプラットフォーム製品「Rinna Character Platform」の最新バージョンだ。