2026.11.15
AI活用 AIエージェント開発

社内AIチャットボットの作り方|社内マニュアルを検索して答えるAI(RAG)の費用と精度を決めるもの

社内AIチャットボットの作り方|社内マニュアルを検索して答えるAI(RAG)の費用と精度を決めるもの

社内規程やマニュアル、過去の問い合わせに答える社内AIを作りたい情報システム・DX推進の担当の方へ。社内AIチャットボットは、答える範囲を決め、資料をそろえ、今あるツールで試し、足りない部分だけを開発し、答え合わせで精度を確かめる、という5つの手順で作るのが基本です。回答の精度は、使うAIよりも、資料の新しさ、資料の形式、権限の設計、答え合わせの問題の4つで大きく変わります。

この記事では、社内文書を検索して答えるAI(RAG)の仕組み、作り方の手順、今あるツールで足りる場合と開発が要る場合の分かれ目、精度を決める4つの要素、費用の目安を順に取り上げます。なお、記事に書く料金は当社の料金です。


社内AIチャットボットは、どういう仕組みで答える?

社内の資料を読んで答えるAIの多くは、RAG(ラグ)と呼ばれる仕組みで動いています。RAGは、質問が来るたびに社内の資料から関係する部分を探し出し、その部分をもとにAIが答えを書く方法です。Microsoftは、RAGを、自社の資料に基づいて回答させることで大規模言語モデルの働きを広げる方法だと説明しています(Microsoft Learn「RAG and Generative AI – Azure AI Search」、2026年11月時点)。

AIは資料を覚えておくのでなく、質問のたびに探しにいく形です。そのため、規程が改定されたときも、資料を差し替えれば答えが変わります。どの資料のどこを読んで答えたかを、回答に添えて示すこともできます。

裏を返すと、探し出す部分が間違っていれば、AIは間違った資料をもとに、もっともらしい答えを書いてしまうでしょう。精度を上げる作業の多くは、AIの設定よりも「正しい部分を探し出せるようにする」作業です。


社内AIチャットボットは、導入の相談でどのくらい聞かれている?

当社が受けた導入相談の集計では、質問の記録が残っている新規の相談のうち、約14%で社内の文書検索・社内チャットボットの話が出ていました。AIの開発を検討している相談に絞ると、約2割です。

この集計は、2025年5月から2026年11月までの新規の導入相談の記録を、当社で質問ごとに分類したものです。当社に相談した会社の数字であり、日本の企業全体の平均ではありません。

聞かれた質問を読むと、次の5つが繰り返し出てきます。

  • ChatGPTやGemini、NotebookLMなど、今あるツールで作れるか
  • 共有フォルダや複数のツールに散らばった資料のままでも使えるか、何から始めればよいか
  • 精度を上げるには、どの資料をどのくらい、どの形式で読ませればよいか
  • 新しい製品や規程が出たとき、だれが情報を登録し直すのか
  • 費用と期間はどのくらいか

以下では、この5つの質問に答える形で説明していきます。


社内AIチャットボットの作り方は?

当社で進めるときの手順は、次の5つです。

1. 答える範囲を決める

最初に、だれの、どの質問に答えるかを1つに絞ります。たとえば「人事への就業規則の問い合わせ」や「営業担当からの製品仕様の問い合わせ」のような単位です。全社のあらゆる質問に答えるAIを最初から目指すと、資料が集まりきらず、精度も確かめられません。

あわせて、答えてはいけない質問も決めておきます。人事評価や個人の給与のように、見てよい人が限られる情報は、最初の範囲から外すのが安全です。

2. 資料をそろえる

答えの根拠になる資料を集め、古い版と新しい版が混ざっていないかを確かめます。同じ規程の改定前と改定後が両方残っていると、AIはどちらを読んで答えるか決められません。

資料が整っていなくても、始めることはできます。最初の範囲で使う資料だけを選び、そこから整えていけば十分です。

3. 今あるツールで試す

御社がすでに契約しているAIツールで、資料を読ませて答えさせてみます。ここで十分な答えが返ってくれば、開発は要りません。

4. 足りない部分を開発する

社内システムとのつなぎ、見てよい人の制限、操作の記録など、今あるツールの設定では足りない部分だけを作ります。

5. 答え合わせで精度を確かめる

実際に寄せられた質問と、担当者が考える正しい答えを組にして、AIの答えと比べます。何問中何問が合えば本番で使うか、という合格の基準は、作る前に決めておくことが大切です。

社内AIチャットボットは5つの手順で作る

今あるツールで足りる場合と、開発が要る場合の違いは?

資料を読ませて答えさせる機能は、多くのAIツールに備わっています。たとえば、GeminiのGemは、作るときに「知識」としてファイルをアップロードしたり、Googleドライブのファイルを追加したりできます(Gemini アプリ ヘルプ「Gem を使ってみる」、2026年11月時点)。NotebookLMは、PDFやWord、Googleドキュメントなどを「ソース」として追加し、その内容をもとに質問に答えます。無料で使う場合のソースは1つのノートブックに最大50個です(NotebookLM ヘルプ「ノートブックの新しいソースを追加または検索する」、2026年11月時点)。

Microsoft Copilot Studioで作るエージェントは、SharePointやアップロードした文書などを知識として使えます。SharePointなどの資料では、質問した人が見る権限を持つ内容だけを答えに使う設定ができます(Microsoft Learn「Knowledge sources summary – Microsoft Copilot Studio」、2026年11月時点)。

次のような場合は、今あるツールの設定で始められます。

  • 読ませる資料が数十件ほどで、全員が見てよいもの
  • 使う人が一つの部署にとどまる
  • 答えを担当者が確かめてから使う

一方、次のような場合は開発が要ります。

  • 資料が基幹システムやデータベース、複数の保管場所に分かれている
  • 部署や役職によって、見てよい資料が違う
  • だれが何を聞き、AIがどの資料で答えたかの記録を残す必要がある
  • 答えを社内システムに登録したり、問い合わせの台帳に戻したりしたい
今あるツールで足りる場合と、開発が要る場合

当社は、今あるツールの設定で済む業務であれば、開発をおすすめしません。社内システムとのつなぎや権限の設計が要る場合の進め方は、AIエージェント開発のページで説明しています。


回答の精度は、何で決まる?

当社の見方では、精度を大きく左右するのは次の4つです。

1. 資料の新しさ

同じ内容の資料が版違いで複数あると、AIが古い版を拾って答えることがあります。どれを最新の版とするかを決め、古い版は読ませる対象から外しましょう。

2. 資料の形式

文章で書かれた規程は読み取りやすい一方、表や図、画像の中の文字、動画で説明された手順は、取りこぼしが出やすい資料です。表をAIが読める形に直す、画像の文字を読み取っておく、といった下準備が必要です。

3. 権限の設計

見てよい人が限られる資料を同じ場所に入れると、本来見られない人にも答えが返るおそれがあります。部署や役職ごとに参照できる資料を分け、質問した人の権限で探すようにします。

4. 答え合わせの問題

精度は「なんとなく良さそう」では判断できません。過去の問い合わせの記録から、実際に聞かれた質問と正しい答えを選んで問題集を作り、合格の基準と比べます。答えが合わなかった質問を見れば、資料が足りないのか、探し方が悪いのかが分かります。

社内の言い方のゆれも、合わない原因になりやすい点です。たとえば社内では「有休」と呼んでいるのに規程には「年次有給休暇」と書いてある場合、言い換えの一覧を用意しておくと探しやすくなります。

回答の精度は4つの要素で決まる

社内AIチャットボットの開発費用は、いくらかかる?

今あるツールの設定で済む場合は、ツールの利用料のほかに開発費はかかりません。開発が要る場合の当社の料金は、次のとおりです(2026年11月時点・税別)。

段階 料金(税別) 行うこと
検証(PoC) 300万円から 答える範囲を1つに絞り、御社の資料で試作して合格の基準と比べる
本開発 1,000万円から 社内システムとつなぎ、権限と操作の記録まで作って本番で動かす
運用保守 月15万円から 使われ方と精度を見て直す。AIとクラウドの利用料は別

金額を動かすのは、つなぐ保管場所の数、資料の形式と整い方、権限の分け方、合格の基準の高さです。どの段階も、対象の業務と社内システムの状況を伺ってからお見積もりします。


作った後は、だれが資料を更新する?

社内AIチャットボットは、作った後の資料の更新が止まると、答えが古くなっていきます。規程の改定や新製品の追加のたびに、だれが資料を差し替えるかを、作る前に決めておくことが大切です。

当社では、参照する資料を社内の担当者が差し替えられる作りにし、差し替えの手順書をお渡しします。答えが合わなかった質問を担当者が確かめ、資料を足していく流れまでを、運用保守の中で一緒に整えます。


よくある質問

Q. 社内AIチャットボットは、ChatGPTやGeminiの機能だけで作れますか?

A. 資料の数が少なく、全員が見てよい資料であれば、今あるツールの設定で始められます。見てよい人が資料ごとに違う場合や、社内システムとつなぐ場合は開発が要ります。

Q. 資料が整理されていなくても始められますか?

A. 始められます。最初に答える範囲を1つに絞り、その範囲で使う資料だけを選んで整えます。全社の資料を先に整理し終える必要はありません。

Q. 回答の精度は、どうやって確かめますか?

A. 過去に実際に寄せられた質問と正しい答えを組にした問題集を作り、AIの答えと比べます。何問中何問が合えば本番で使うか、という合格の基準は作る前に決めます。

Q. 開発の費用はいくらですか?

A. 当社の受託開発は、検証(PoC)が300万円から、本開発が1,000万円から、運用保守が月15万円からです。金額は税別で、AIとクラウドの利用料は別にかかります。

Q. 相談したら、必ず開発を頼まないといけませんか?

A. いいえ。今あるAIツールの設定で済む場合は、開発をせずに進める方法をご提案します。


社内AIチャットボットをどこから作るか、30分で整理します

社内システムとつなぐ開発の進め方と料金は、AIエージェント開発のページをご覧ください。

株式会社AIworkerでは、30分の無料相談を行っています。いまの業務の流れと、時間がかかっている場所をお聞きし、どこから始めるとよいかを整理してお渡しします。

30分の無料相談を予約する

生成AIで機密情報を扱う条件|学習されない・外に出ない環境の作り方と、開発を頼む前に確かめること

社内AIチャットボットの作り方|社内マニュアルを検索して答えるAI(RAG)の費用と精度を決めるもの

AIエージェントの導入費用と期間|検証300万円から・本開発・運用保守の料金と決まり方

Produced by cantik