LLM（Large Language Model）は、大量の文章データを学習し、入力されたテキストの文脈に沿って次の語を予測しながら文章を生成するモデルです。質問応答や要約、翻訳、分類、コード生成などを同じ仕組みでこなせるため、業務の自動化やナレッジ活用の入口として注目されています。
データ利活用の現場では、社内文書検索の精度を上げるRAG、問い合わせ対応の一次回答、分析結果の説明文生成などで使われがちです。あらかじめ用語や社内ルールを参照させる設計にすると、回答のばらつきが減り、現場が安心して使いやすくなるでしょう。
運用で押さえるべき論点は、もっともらしい誤り（ハルシネーション）が起きる前提で、根拠を確認できる導線を作ることにあります。入力に個人情報や機密が混ざるとリスクが跳ね上がるため、権限管理、ログ監査、マスキング、データ保持方針まで含めたガバナンスが欠かせません。モデルやプロンプトを更新したときに出力が変わるのは自然な挙動なので、評価指標と回帰テストを用意し、変更管理として扱うのが安全です。
