フォールバックとは?AIの出力が不安定なときの「代わりの手」をやさしく解説

PoCでは動いたのに、本番で時々おかしくなるときの話

テストではきれいに動いていたAIが、本番に出した途端、時々おかしな返事を返したり、急に応答が止まったりする。 「ちゃんと作ったのに」と落ち込みたくなりますが、これは実装ミスではなく、AIがもともと「ゆらぐ」ものだから。そのゆらぎを受け止める備えが、フォールバックです。

フォールバックとは?ひとことで言うと

フォールバックは、AIの出力が失敗したり不安定だったりしたときに用意しておく「代わりの手」のことです。 ざっくり言うと、本命がダメだったときの切り替え先・逃げ道です。たとえば、決めておいた既定の答え(既定値)を返す、人にまわして確認してもらう、軽い簡易版に切り替える、といった「うまくいかなかったときの次の一手」をあらかじめ決めておくことを指します。

本命の道が通行止めでも、あらかじめ用意した迂回路に切り替えて処理が止まらずに進む、フォールバックの仕組みを表したイラスト
フォールバックは「代わりの手・切り替え先」。本命がダメでも迂回路に切り替えて、最低限は止まらず進めるようにしておく

開発現場ではどこで使う?

AIを業務システムに組み込むとき、こんな場面で必要になります。

こうした「想定どおりにいかなかったとき」に、システム全体を止めないための備えがフォールバックです。

なぜ大事なのか

フォールバックを用意しておくと、AIが多少おかしくなっても、利用者から見て「簡素だが破綻はしていない」状態を保てます。何も用意していないと、AIがつまずいた一点でシステム全体が止まります。「常にAIで完璧な答えを出す」より、「AIが落ちても最低限は回る」ほうが、本番ではずっと信頼されます。

具体例で見る

たとえば問い合わせの自動返信にAIを使っていて、応答が10秒待っても返らなければ、いったん諦めて「確認のうえ折り返します」という定型文を返す——これがフォールバックです。 利用者には少し簡素に見えても、画面が固まったりエラーで落ちたりするよりずっとマシで、後から人が引き取れます。

リトライ(やり直し)もあわせて

フォールバックとセットで覚えたいのが、リトライ(やり直し)です。失敗のなかには、混雑やたまたまの形式崩れのように、もう一度試すと成功するものがあります。そこで、すぐ代わりの手に切り替えず、賢く再試行を挟みます。コツは3つ。回数を区切る(2〜3回まで)、間隔を少し空けて徐々に延ばす、そして「やり直す意味のある失敗」だけ再試行することです。同じ失敗をいつまでも繰り返すと料金やレート制限を無駄に消費するので、上限は必ず決めます。リトライしても通らなかったら、そこで初めてフォールバックの出番、という順番です。

つまり現場では?

フォールバックを用意するとは、「AIが失敗したら次にどうするか」を失敗の種類ごとに先に決めておくこと。賢いプロンプトを書くことより、失敗したときの受け止め方を決めておくほうが、本番の安定にはずっと効きます。

知らないとどう困る?

フォールバックを考えずに「成功する前提」で組むと、AIがつまずいた瞬間にシステムが黙って壊れます。 壊れた出力がそのまま次の処理に流れ、別の場所で謎のエラーになって原因追跡に時間を取られることもあります。AIを入れたことで、かえって運用が不安定になりかねません。

よくある勘違い

明日やるならこれ

いま動かしているAI機能を1つ選び、「これが失敗したら代わりに何を返すか」をひとつだけ決めてみましょう。 既定の定型文でも「後で折り返します」でも構いません。代わりの手を1つ決めておくだけで、「黙って壊れる」がなくなります。

ひとことで言うと

フォールバックとは、AIの出力が失敗したときの「代わりの手・切り替え先」を、あらかじめ決めておくことです。

関連用語

関連記事