エッジAI

エッジAIは、学習済みAIモデルの推論等を、クラウドだけに依存せず端末、組込み機器、ゲートウェイ等のデータ発生地点に近い場所で実行する方式です。

■ 試験で押さえるポイント

• クラウドとの往復が不要又は少ないため、リアルタイム応答、通信量削減、回線断時の動作、画像・音声等の生データを外へ出さない処理に適します。

• 端末のCPU、GPU、NPU、メモリ、電力制約に合わせ、モデルの量子化、枝刈り、蒸留等で小型・高速化します。

• モデル学習は計算資源の豊富なクラウドで行い、学習済みモデルをエッジへ配布して推論する構成が一般的ですが、分散学習等の例外もあります。

• 精度・遅延・消費電力の両立、モデル更新、端末差、ドリフト監視、改ざん・モデル窃取対策が必要で、全端末へ安全に版配布します。

■ 選択肢での判断ポイント

「端末側で推論」が中心です。低遅延・プライバシー・通信削減が利点で、モデル学習まで必ず端末内で行うという説明は誤りです。

例: 監視カメラ内のNPUで人物侵入を推論し、該当時だけ通知することで、全映像をクラウドへ常時送る帯域と遅延を減らします。