自社サイトに置くAIチャット「Kurage Light ChatBot」(PHPのファイル1つで、レンタルサーバーに置くだけで動くナレッジチャット)に、4つの機能を足しました。
参考にしたのは、shadcn が公開したチャットボットのひな形です。作りは Next.js とクラウド前提で当社とは違いますが、「AIチャットを人に使ってもらうとき、画面に何を出すべきか」が参考になりました。
足したのは、答えの下に根拠にした資料を出すこと(実在するファイルだけを表示)、あいまいな質問は選択肢のボタンで聞き返すこと、サイト全体の1日のトークン数と回数の上限でAPI料金の使いすぎを止めること、設定したAPIだけを呼んで調べてから答え、その進み具合を画面に出すことです。デモでは、当社の防災AIチャットのAPIを道具として呼んでいます。
質問3つで18,197トークンという実測や、途中でページを閉じると使った量が上限に数えられていなかった抜けを直した話も書きました。
この記事は要約版です。続きは元記事でどうぞ: