LLM
更新日:
用語解説
LLM（Large Language Model、大規模言語モデル）は、大量のテキストと多数のパラメータを用いて事前学習し、文脈に応じた言語理解・生成を多様な課題へ適用できる言語モデルです。
■ 試験で押さえるポイント
多くはTransformerの注意機構を用い、次トークン予測等の自己教師あり学習後、指示学習や人の選好を使った調整を行います。
要約、翻訳、分類、対話、コード生成等をプロンプトだけでも実行できますが、出力は確率的で同じ入力にも変動があります。
流暢でも誤情報を作るハルシネーション、学習データの偏り、機密情報漏えい、プロンプトインジェクション、過度な依存が課題です。
検索拡張、外部ツール、引用検証、人の確認、最小権限、入出力監視を組み合わせ、用途別の正確性と安全性で評価します。
■ 選択肢での判断ポイント
大量テキストで事前学習した大規模な言語モデルであり、流暢さが正確性を保証しない点と、基盤モデルとの包含関係に注意します。
例: 社内規程回答へLLMを使う場合、承認済み文書を検索して根拠を提示させ、回答と原文を人が照合し、モデルだけの記憶へ依存しません。