CPUとGPU

CPUは少数の高機能コアで汎用処理と制御を担い、GPUは多数の演算器で同じ種類の計算を大量データへ並列実行することを得意とするプロセッサです。

■ 試験で押さえるポイント

• CPUは分岐、割込み、OS、逐次依存の強い処理に向き、大きなキャッシュと高度な分岐予測・投機実行等を備えます。

• GPUは画像の画素・頂点処理に加え、行列演算、機械学習、科学技術計算等のデータ並列処理へ利用されます。

• GPUは全処理でCPUより速いわけではなく、分岐がばらばらな処理、少量データ、CPUとの転送が支配的な処理では利点が小さくなります。

• CPUが全体制御と入出力を行い、並列化可能な部分をGPUへオフロードする異種計算として組み合わせるのが一般的です。

■ 選択肢での判断ポイント

複雑な逐次制御はCPU、同じ演算を大量データへ適用するデータ並列処理はGPUが得意です。コア数だけで性能を比較せず処理の並列性を見ることが重要です。

例: 学習処理の行列積をGPUへ割り当て、データ読込みや条件分岐をCPUが制御します。小さな一回の計算なら転送時間が上回る場合があります。