パラメータ効率的ファインチューニング（PEFTとLoRA）

LoRA（Huら）は重みの変化量 ΔW の固有ランクが小さいことに着目し、d×k 行列の ΔW を d×r 行列 B と r×k 行列 A の積（rは低ランク、例: 4や8）で表現します。学習後は W = W_0 + BA とマージできるため推論オーバーヘッドがゼロになります。 ア：正解です。低ランク分解行列のみを学習するPEFT（Parameter-Efficient Fine-Tuning）の代表格です。 イ：誤りです。層の削除（プルーニング）ではありません。 ウ：誤りです。量子化技術（QLoRA等）と併用されることはありますが、LoRA自体の定義は低ランク適応です。 エ：誤りです。推論時は事前学習済みの重みにアダプタの積を加算マージできるため、推論速度の低下はゼロです。

LLMなどの巨大モデルを効率的に適応させる技術である「LoRA（Low-Rank Adaptation）」のメカニズムに関する記述として、最も適切なものを1つ選択してください。

出典G検定オリジナル模擬試験
ア
事前学習済みの重み行列 W_0 を完全に固定（凍結）し、重みの更新量 ΔW を2つの低ランク行列の積 A × B（rank r ≪ d）に分解して追加し、この小さな行列のみを学習することで学習パラメータ数とメモリ消費を激減させる。
イ
モデル全体の重みパラメータのうち、下位10%の層を完全に削除してモデルを小さくする手法である。
ウ
重み行列の浮動小数点数をすべて整数（16ビットから4ビット）に切り捨てるだけの量子化手法である。
エ
推論時に追加の計算遅延（レイテンシ）が100倍発生し、元の重み行列と統合（マージ）することは不可能である。