フィードバックループは、システムの出力や施策の結果が次の入力データに影響し、その入力を使って意思決定やモデルがまた更新される循環構造です。施策やモデルが「結果を生み、その結果が次の判断材料になる」状態を作るため、性能改善にも劣化にもつながります。強化される方向に回るものは正のフィードバック、抑制する方向に働くものは負のフィードバックと整理されます。
データ活用の現場では、レコメンドがクリックを増やし、そのクリックログを学習データにしてレコメンドがさらに偏るといった形で現れがちです。コールセンターの振り分けや与信、広告配信でも、判定結果が顧客行動を変え、行動データが次の判定を変える循環が起きます。機械学習では、運用中に生まれるラベルの遅延や欠損がループの挙動を変えるため、学習データの更新タイミング設計が重要になるでしょう。
フィードバックループが厄介なのは、モデルの精度が上がったように見えても、観測されるデータ自体が介入で歪んでいる場合がある点です。対策としては、ログに「提示した内容」「意思決定」「介入の有無」を必ず残し、学習用データと評価用データを分離して検証の土台を崩さない運用が欠かせません。探索枠の確保、A/Bテスト、バイアスや不公平のモニタリング、手動介入の基準などをセットで設計すると、改善ループが暴走しにくくなります。
