ハーネスエンジニアリングとエージェントの制約設計

確率的に揺らぐLLMを実務システムで安全に動かすには、プロンプトの工夫だけでなく、入出力を厳密なスキーマ(ZodやJSON Schema等)で検証し、不正な値や危険な引数をコード側で弾く「ハーネス(馬具・安全帯)」の設計が必須です。 ア:正解です。スキーマ検証やガードレールによってLLMの不確実性をコード側で制御・制約するハーネスエンジニアリングの本質を正確に説明しています。 イ:誤りです。自然言語プロンプトの指示だけに頼るのではなく、コードや型スキーマによる決定論的な制約を設けることが本質です。 ウ:誤りです。安全性を犠牲にしてバリデーションを省くことではなく、厳格なバリデーション層を設けるアプローチです。 エ:誤りです。検証なしの直接実行は重大なセキュリティ事故やデータ破壊を招く極めて危険なアンチパターンです。

AIエージェントを本番運用する際の「ハーネスエンジニアリング(Harness Engineering:周辺制約の設計)」の考え方に関する記述として、最も適切なものを1つ選択してください。

出典生成AIパスポートオリジナル模擬試験
ア
AIエージェントの出力や外部ツール呼び出しの引数に対し、ZodやPydantic等のスキーマ検証(型安全性や制約の事前検査)を強制することで、無効なAPIパラメータや危険な入力を未然に遮断し、システムの決定論的信頼性を担保する設計アプローチである。
イ
プロンプトに「できるだけ丁寧に行動してください」と自然言語で優しく記述することのみを指し、コードやスキーマによる技術的制約や入力バリデーションは一切行わない手法である。
ウ
エージェントの推論速度を極限まで引き上げるために、引数の型バリデーションやセキュリティ検査などの防壁層をすべて意図的にスキップして直接実行させる設計手法である。
エ
エージェントが生成したSQL文やシェルスクリプトを、スキーマ検証や静的解析を一切経由させずに本番データベースへ無条件で自動実行させる設計思想のことである。