SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

Security Online Day 2025 春の陣(開催予定)

2025年3月18日(火)オンライン開催

Enterprise IT Women's Forum

2025年1月31日(金)17:00~20:30 ホテル雅叙園東京にて開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2024年秋号(EnterpriseZine Press 2024 Autumn)特集「生成AI時代に考える“真のDX人材育成”──『スキル策定』『実践』2つの観点で紐解く」

AI inside 渡久地 択と思索する「AIの在り方」

大規模言語モデルの終焉と“小さなモデル”の台頭──GPU不足を打破する、複合モデルやOSSの発展へ

【第1回】LLMというアプローチの限界

 今、私たちの生活は前例のないペースで進化しています。その推進力となっているのが「AI」。中でも、LLM(大規模言語モデル)の出現は単なる技術の向上や効率化に留まらず、人々のコミュニケーション、考え方、社会全体の運営にまで影響を及ぼし始めています。このテクノロジーの背後にある課題と解決策に焦点を当てることで、私たちは未来への理解を深め、より良い世界を築くための道筋を見通すことができるのではないでしょうか。

「大きさ」「マシンパワー」に依存する、従来アプローチの限界

 現在さまざまなLLMが提供されている中でも、より高度なものについては、人間のフィードバックを元に学習して精度を徐々に向上させる方法が一般的に採用されています。今まさに人間との連携を通じて、AI自身が認識力や推論力を確実に磨き上げている状況と言えるでしょう。

 しかし、このアプローチには限界が近づいています。現時点では、これ以上の巨大なコンピューティングリソースや電力、時間、そして人間の労力を投入しても、以前のような飛躍的な成果は得られなくなるからです。

 そのため次のステージとして、我々はより効率的かつ持続可能な方法を模索し、この新たな挑戦にどう取り組むかを考える必要があるでしょう。AIの未来を考える際、単に「大きさ」や「パワー」だけでなく、「効率性」や「賢さ」に焦点を当てる必要性が高まっているのです。

データに関する「3つの問題」

 LLM学習のフィードバックアプローチ以外にも、憂慮すべきデータに関する問題が浮上しています。

 1つ目は、生成AIによるフェイクニュースやデマの拡散という非常に深刻な問題です。生成AIの進化にともない、真実を捻じ曲げた情報の生成が容易になってきたことから、政治や経済、社会の各分野において深刻な影響を及ぼし得る現象が起きています。これはAIへの信頼性だけでなく、AIとのコミュニケーションにおける根幹を揺るがす事態にまで発展する可能性があるでしょう。とはいえ、広範にわたる大きな課題であるため、本連載ではテクノロジーの観点、特にLLMの学習に焦点を絞って考えていきます。

 2つ目は、AIが生成するコンテンツの増加です。これにより、「AIが作ったデータをAIが学習してしまう」という再帰的とも言える学習状況を生んでしまっています。一見すると効率的なこのプロセスですが、実際には精度の観点からデメリットが多く存在するのです。特に、フェイクニュースを学習してしまうという状況が生まれた場合、精度が悪くなることは想像に難くないでしょう。この種の自動的な学習が進む中、現在の高精度なLLMが崩壊していく危険性が、今まで以上にリアルなものとなっています。

 3つ目は、驚くべきことに、一部からは「今の時点のLLMが最も良い状態である」との声が挙がっていることです。コロナ禍などの特殊な社会状況などを除外すれば、2019年までの人間の知識を集約したGPTなどのモデルが「最も効果的かつ汎用的で、良いLLM」である可能性があるということです。

 これら3つの観点は、人間と機械における学びのバランスがいかに重要かを示しており、非常に興味深くあります。つまり、本稿を執筆している2023年現時点から見たときに「“汎用LLM”の開発時代は急速に終わりに近づいている」ないしは「既に終了している」と言えるということです。これからのAIモデル開発の方向性としては、より効率的かつ倫理的な方法を追求する必要があり、私たちにとっては未知の領域への挑戦となるでしょう。

次のページ
LLMではなく、“小さなモデル”の成功

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
AI inside 渡久地 択と思索する「AIの在り方」連載記事一覧

もっと読む

この記事の著者

渡久地 択(トグチ タク)

AI inside 株式会社 代表取締役社長CEO2004年より人工知能の研究開発をはじめる。以来10年以上にわたって継続的な人工知能の研究開発とビジネス化・資金力強化を行い、2015年同社を創業。2019年12月に東証グロース市場に上場。代表取締役社長CEOとして経営・技術戦略を指揮し、事業成長を...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/18344 2023/09/11 08:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング