KaplanらやChinchillaの研究で示された、大規模言語モデル(LLM)における「スケーリング則(Scaling Law)」に関する記述として、最も適切なものを1つ選択してください。
出典G検定オリジナル模擬試験
ア
モデルのパラメータ数、訓練データセットのトークン数、学習に投入した総計算量(FLOPs)の3つの要素を拡大すると、テスト損失(クロスエントロピー)がべき乗則(Power-law)に従って予測可能に低下し続ける。
イ
モデルのパラメータ数を2倍に増やしても、必要な訓練データ量は常に10分の1に削減できる。
ウ
計算資源を無限に増やしても、ある一定のパラメータ数を超えると性能が急激に悪化してゼロになる。
エ
モデルの性能向上は使用するプログラミング言語のバージョンのみに完全に依存する。