SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

Enterprise IT Women's Forum

2025年1月31日(金)17:00~20:30 ホテル雅叙園東京にて開催

Security Online Day 2025 春の陣

2025年3月18日(火)オンライン開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2024年秋号(EnterpriseZine Press 2024 Autumn)特集「生成AI時代に考える“真のDX人材育成”──『スキル策定』『実践』2つの観点で紐解く」

EnterpriseZineニュース

NVIDIA、エージェンティックAIの安全性を強化する新機能「NIMマイクロサービス」を発表

<br>

 NVIDIAは、エンタープライズ規模で安全かつ制御されたエージェンティックAIの展開を促進するため、新しいNIMマイクロサービスを含むNVIDIA NeMo Guardrailsを発表した。1月16日に開催されたオンライン説明会では、同社アプライドリサーチ担当シニアマネージャーのキャリー・ブリスキー氏がNeMo Guardrailsの開発と展開、そして顧客がどのようにこのテクノロジーを活用してAIアプリケーションを保護しているかについて説明した。

NVIDIA アプライドリサーチ担当シニアマネージャーのキャリー・ブリスキー氏
NVIDIA アプライドリサーチ担当シニアマネージャーのキャリー・ブリスキー氏

 AI技術の急速な進化に伴い、企業におけるAIエージェントの活用はますます広がりを見せている。しかし、その一方で、AIの倫理的な問題や予期せぬ動作によるリスクも懸念されている。ブリスキー氏は、「IT部門はAIエージェントの人事部になる」というジェンスン・ファンCEOのCESでのスピーチの言葉を引用し、「従業員と同様にAIエージェントも企業のポリシーやガイドラインに従う必要がある」と強調した。

NVIDIAのAIエージェントのセーフガードの仕組み [画像クリックで拡大]

 今回のNeMo Guardrailsで強化されたのは、新たに発表された「NIMマイクロサービス」。これはAIエージェントの動作を監視し、問題のあるコンテンツや行動をブロックする機能を提供する。今回発表された3つの新しいNIMマイクロサービスの主な特徴は以下の通りだ。

  • コンテンツ安全NIM:有害なコンテンツや非倫理的な出力を検出・ブロック。35,000以上の人間による注釈付きデータでトレーニングされた精度の高い保護機能を提供。

  • トピック制御NIM:会話を承認されたトピックに限定し、不適切な方向への発展を防止。自動車メーカーの事例では、製品情報に特化した応答のみを許可する運用が可能に。

  • ジェイルブレイク検出NIM:17,000の既知の攻撃パターンを基に、AIシステムへの不正な操作試行を検知・防御。

NVIDIA NeMo Guardrails [画像クリックで拡大]

 「NeMo Guardrailsは、エージェントを正しい軌道に乗せるための重要なツール」とブリスキー氏は語る。企業がLLMを安全かつ信頼できるツールとして活用できるための「ガードレール」機能を構築するもので、LLMベースの対話システムに簡単に追加するための OSSツールキットとして提供される。これによって企業は独自の保護ルールを追加したり、サードパーティのソリューションと統合したりすることで、進化するセキュリティニーズに柔軟に対応できるという。

 ブリスキー氏は、これらの保護機能が顧客の要求を大幅に上回る性能を発揮し、レイテンシーを3秒以内に抑えて動作していると述べ、Amdocs、Cerence AI、Lowe'sなどの企業が、すでにNeMo Guardrailsを導入し、顧客サービスの向上や社内システムの保護に活用していることを紹介した。

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
この記事の著者

京部康男 (編集部)(キョウベヤスオ)

ライター兼エディター。翔泳社EnterpriseZineには業務委託として関わる。翔泳社在籍時には各種イベントの立ち上げやメディア、書籍、イベントに関わってきた。現在はフリーランスとして、エンタープライズIT、行政情報IT関連、企業のWeb記事作成、企業出版支援などを行う。Mail : k...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/news/detail/21246 2025/01/17 13:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング