基盤モデル(Foundation Model)の概念と創発的性質

基盤モデルは大規模なデータで事前学習され、要約・翻訳・コード生成など幅広いタスクの「土台(Foundation)」となるモデルです。計算量やモデル規模が一定の閾値を超えた際に、小規模モデルでは予測できなかった高度な能力が突如発現する現象を「創発(Emergence)」と呼びます。 ア:誤りです。基盤モデルは単一タスク特化型ではなく、多様な下流タスクに適応できる「汎用的な土台」となるモデルです。 イ:誤りです。「創発」はパラメータ削減ではなく、モデル規模や学習データをスケールアップした際に突如として新たな能力が現れる現象です。 ウ:誤りです。事前学習された基盤モデルの重みを利用して、少量の追加学習(ファインチューニング)やプロンプトで各タスクに適応させます。 エ:正解です。基盤モデルの汎用的な適応性と、スケール拡大に伴って現れる創発的性質を的確に説明しています。

スタンフォード大学の研究者らによって提唱された「基盤モデル(Foundation Model)」の概念およびその性質に関する記述として、最も適切なものを1つ選択してください。

出典生成AIパスポートオリジナル模擬試験
ア
基盤モデルとは、特定の単一タスク(例えば英日翻訳や画像分類のみ)に特化して極小サイズで開発されたモデルであり、他の下流タスクへ転用することはアーキテクチャの構造上不可能である。
イ
基盤モデルにおける「創発(Emergence)」とは、モデルのパラメータ数やデータ量を削減していくにつれて、推論処理が高速化し省メモリ環境でも誤りなくタスクが解けるようになる現象を指す。
ウ
基盤モデルはすべての下流タスク(要約、分類、対話等)ごとにゼロから事前学習をやり直す必要があり、学習済みの内部パラメータを異なる業務タスク間で共有・転用することは一切できない。
エ
膨大で多様なデータから大規模に自己教師あり学習され、ファインチューニングやプロンプト指示を通じて多様な下流タスクに適応できる汎用モデルであり、一定の計算規模を超えると小規模モデルでは見られなかった高度な推論能力(創発)が現れる。