AI 言語モデルのスケーリング則

AI 言語モデルのスケーリング則は、言語モデルのパラメータ数、学習データの量、計算量を増やすと、性能が予測できる規則的な形（べき乗則）で向上するという経験則です。

■ 試験で押さえるポイント

• パラメータ数だけでなく、データ量や計算量とのバランスが必要です。

• 規模を大きくするほど、改善の幅はしだいに小さくなります。

• 特定の条件で観察された経験則であり、すべてを保証するものではありません。

■ 選択肢での判断ポイント

規模、データ量、計算量の増加と性能の向上の関係を押さえます。パラメータだけを増やせば同じ割合で改善し続けるわけではありません。