ディープラーニングの行列積計算においてGPUを用いる利点

ディープラーニングの学習において GPU を用いる最大の利点は「汎用の行列演算ユニットを用いて,行列演算を高速に実行できる」ことです。 ディープラーニング(深層学習)の学習プロセス(順伝播および誤差逆伝播)では、膨大な重みパラメータと入力データとの間で積和演算(行列同士の積)を反復実行します。 GPU(Graphics Processing Unit)は本来、大量のピクセルを並列処理するために数千個規模のコアを備えており、SIMD / SIMT 型の超並列アーキテクチャや専用の行列演算ユニット(Tensor Core等)を活用することで、行列積演算をCPUと比べて桁違いに高速化できます。 「各プロセッサコアが独立して異なるプログラムを実行し,異なるデータを処理できる」のは、MIMD(Multiple Instruction, Multiple Data)型のマルチコアCPUの特徴です。GPUは同一命令を多数のデータに並列適用するSIMD/SIMT構成が基本です。 コプロセッサとしての浮動小数点演算ユニット(FPU)は従来の数値計算用アクセラレータの形態であり、ディープラーニングにおける超並列行列積処理の利点を表したものではありません。 分岐予測やパイプライン制御の高度化は、複雑な条件分岐を含む汎用処理を高速化するためのCPUのアーキテクチャ的特徴です。

ディープラーニングの学習にGPUを用いる利点として,適切なものはどれか。

出典令和3年度 春期 応用情報技術者試験 午前 問10
ア
各プロセッサコアが独立して異なるプログラムを実行し,異なるデータを処理できる。
イ
汎用の行列演算ユニットを用いて,行列演算を高速に実行できる。
ウ
浮動小数点演算ユニットをコプロセッサとして用い,浮動小数点演算ができる。
エ
分岐予測を行い,パイプラインの利用効率を高めた処理を実行できる。