IT資格用語解説基本情報技術者試験・ハイパフォーマンスコンピューティング
大規模並列
更新日:
用語解説
大規模並列処理は、数百～数万以上のプロセッサ、GPU、計算ノードへ計算とデータを分割し、同時実行して非常に大きな問題を解く方式です。
■ 試験で押さえるポイント
領域・データ分割、独立ジョブ、行列演算など、並列度の高い問題を各ノードへ割り当てます。
共有メモリ方式と分散メモリ方式があり、後者ではメッセージ通信で境界データや結果を交換します。
通信・同期、負荷不均衡、逐次部分、障害頻度が規模拡大の制約となり、チェックポイントから再開する仕組みが必要です。
強スケーリングは問題サイズ固定で時間短縮、弱スケーリングはノードと問題サイズを同率に増やした効率を評価します。
■ 選択肢での判断ポイント
アムダールの法則、通信オーバーヘッド、負荷分散、共有・分散メモリ、スケーラビリティを押さえます。
例: 気象領域を多数区画へ分け、各ノードが計算して境界値を交換し、全体予報を反復計算します。