自律型エージェントの特有リスク(過剰権限と破壊的アクション)

エージェントが自律的にツールを呼び出す場合、悪意あるプロンプトインジェクション攻撃や判断ミスにより、意図しないファイル削除、不適切なメール送信、高額な課金APIの乱発などの破壊的アクション(副作用)が発生する重大なリスクがあります。 ア:誤りです。LLMは判断ミスや攻撃を受ける可能性があり、管理者権限のような過剰な権限を与えることは極めて危険です。 イ:正解です。過剰権限の付与がもたらす破壊的アクションやセキュリティリスクを正確に指摘しています。 ウ:誤りです。エージェントが実際に外部APIやDB更新を実行する場合、現実世界のデータやシステムに直接影響(副作用)が及びます。 エ:誤りです。受動的なチャットボットと異なり、自律的に外部システムを変更・操作できるため、セキュリティ脅威の深刻度は格段に跳ね上がります。

自律型AIエージェントを業務システムに導入する際に警戒すべき「特有のリスク」に関する記述として、最も適切なものを1つ選択してください。

出典生成AIパスポートオリジナル模擬試験
ア
AIエージェントは高度な論理的推論知能を有しているため、本番データベースの全削除権限(DROP DATABASE等)を無制限に付与しても誤操作を起こす危険性は原理的にゼロである。
イ
エージェントに過剰な権限(データの削除・更新、外部へのメール送信、課金APIの呼び出し等)を付与すると、プロンプトインジェクションやハルシネーションによって予期せぬ破壊的アクションや情報漏洩を自律的に引き起こすリスクがある。
ウ
エージェントが実行する外部APIリクエストはすべてローカル上の安全なシミュレーションに過ぎず、現実のサーバーや外部クラウドサービスに副作用を及ぼすことは構造上あり得ない。
エ
自律型エージェント特有のリスクは「処理速度が遅いこと」だけに限定され、情報セキュリティやデータ保全上の脅威は従来の受動的チャットボットと全く同一である。