AI開発ガイドライン
更新日:
用語解説
AI開発ガイドラインは、AIを研究・開発する者が、将来の利用と社会的影響を見越し、安全性、セキュリティ、プライバシー、透明性などへ配慮して設計・学習・検証するための指針です。日本の旧指針はAI事業者ガイドラインへ統合されています。
■ 試験で押さえるポイント
連携、透明性、制御可能性、安全性、セキュリティ、プライバシー、倫理、利用者支援、アカウンタビリティなどを、開発初期からライフサイクル全体へ組み込みます。
学習データの出所・品質・代表性、目的との適合、個人情報、偏りを確認し、性能だけでなく頑健性、誤用、想定外入力、障害時動作を評価します。
人が停止・介入できる設計、版・データ・実験の記録、変更管理、独立評価、導入後監視により、出荷時試験だけでは分からない劣化や新リスクへ対応します。
アルゴリズムや営業秘密を全て公開することと透明性は同義ではありません。影響を受ける人が理解・検証・異議申立てできる必要情報を提供します。
■ 選択肢での判断ポイント
開発者が設計・学習・検証時に守る原則として選びます。利用者側の適正な入力・出力確認だけを扱う説明は利活用側の論点です。
例: 画像診断AIの開発で年齢・施設別のデータ偏りを調べ、未知データで精度と見逃し率を検証し、判断根拠、適用外条件、更新履歴を利用者へ提供します。