ChatGPTを業務で使い始めた会社から、よくこんな相談を受けます。「便利なのは分かった。でも、うちの社内のことは何も答えてくれない。自社の規程や過去の見積もりをふまえて答えてほしいのに」。
これはまったく正しい不満です。そして、ここを越えられるかどうかが、AI活用で経営に効くかどうかの分かれ目になります。この記事では、AIに自社のことを答えさせる——「自社データとつなぐ」ための考え方と、その前提になる社内データの整え方を、経営者の言葉で説明します。
先に結論をお伝えします。AIに自社のことを答えさせる近道は、AI自体を作り替える（学習させる）ことではなく、社内資料をその都度「参照」させること——これをRAGと呼びます。必要なのは高度な開発ではなく、社内に散らばった知識をAIが読めるテキストで一カ所に整えること。まずはここから始めれば十分です。
AI活用には「4つの段階」がある
私たちは毎月の勉強会で、AIの使い道を4段階で整理してお伝えしています。①会話する（相談・要約・壁打ち）、②形にする（資料・議事録・見積の作成）、③自社データとつなぐ（社内文書・顧客情報・在庫を読ませる）、④他ツールとつなぐ（メール・カレンダーと連携して自動で動く）。
多くの会社は①②で止まっています。文章作成は速くなるのですが、それだけだと、世の中の一般知識を借りているだけ。自社の数字や顧客、ノウハウとつないで初めて、経営インパクトが出ます。 今日のテーマは、その③「自社データとつなぐ」の入り口です。
RAGとは何か。学習させるのとどう違うか
自社データをつなぐ仕組みは、よく「RAG（検索拡張生成）」という言葉で語られます。AIが答える前に、社内の資料から関係しそうな部分を検索して読ませてから答えさせる——賢い新人が、聞かれるたびに社内資料の棚を調べてから答えるイメージです。
ひとつ、よく誤解される点を整理しておきます。これはAIに自社データを「覚え込ませる（学習させる）」のとは別物です。AIそのものを作り替える手法（ファインチューニング）は費用も手間も大きく、資料を更新するたびにやり直しになる。RAGはAIはそのままに、その都度資料を「参照」させるだけなので、資料を差し替えれば答えもすぐ変わります。中小企業にまず現実的なのは、こちらです。
現場の実感を付け加えると、経営者の「これをやりたい」を一つずつ並べていくと、ChatGPT単体で片づくものは案外少ないんです。半分近くは、社内のデータとつないで初めて解ける課題になる。だから自社データの連携は、AI活用の「上級編」ではなく、むしろ本丸だと考えています。
ただ、RAGという言葉そのものにこだわる必要はありません。これは数年前に広まった代表的なやり方で、いまはAIエージェントが自分で必要なファイルを読みに行く形へと、手段が広がっています。本質は「AIに自社の文脈をどう持たせるか」。新しい・古いの二択ではなく、目的に合うやり方を選ぶ、と捉えてください。
会社の知識を一カ所に集める——会社の頭脳をつくる
では、AIに持たせる「自社の文脈」は、どこから来るのか。元になるのは、会社にたまっている知識です。私たちは、会社の知識をためる仕組みをカンパニーブレインと呼んでいます。社内にバラバラに眠っている「仕事のやり方」を一カ所に集め、AIがそのまま使える形に整えた、会社の中央の頭脳、というイメージです。この「会社の頭脳」を組織にどう展開し、運用・定着させるかは「カンパニーブレインとは｜会社の知を組織の資産に」で詳しく解説しています。
ここがふつうの社内チャットボットとの違いです。チャットボットは「返品ルールはこうですよ」と教えてくれるだけで、処理は人間がやります。カンパニーブレインは、ルールを知っているだけでなく、ゆくゆくは手続きそのものをAIに進めさせるところまで見据えます。知識を見せる脳ではなく、業務を回すための脳、ということです。
火や電気と違って、AIはデータがなければ使いこなせません。だから、気づいた時点でデータをためはじめることをお勧めしています。経営者ご自身の知見を個人単位でためる「第二の脳（セカンドブレイン）」から始めると、感覚がつかみやすいはずです。その具体的なやり方は「経営者のセカンドブレイン」にまとめました。
AIが読める形に整える——属人化を資産に変える
ここで大事なのが、AIが読みやすい形でためることです。情報が紙や個人のパソコン、ベテランの頭の中にバラバラにあると、AIは参照できません。これを、素直なテキストで一か所に整えていく。
この作業は、地味ですが効きます。「あの人に聞かないと分からない」という属人化した知識が、「資料を見れば（AIに聞けば）分かる」会社の資産に変わるからです。就業規則や経費のルール、機械の操作手順、過去の見積もりや提案——これらが整えば、社内ヘルプデスクやマニュアル検索、問い合わせの一次対応にそのまま使えます。人手不足が深刻な会社ほど、この価値は大きいはずです。とりわけ現場写真や過去の対応記録に残るベテランの操作手順・判断の勘どころをAIに残す進め方は、「技能伝承×AIの進め方」で詳しく扱っています。
順番のコツをひとつ。ドキュメントに残すのが先で、AIはそのあとです。AIだけ先に入れても、ベテランの頭の中の知識が抜けたままでは、出てくる答えも穴だらけになる。この地味な整える作業を、単発の効率化で終わらせず「属人化を解く」本筋に置いてほしいのです。その手前で「顧客」「案件」といった言葉の意味を社内でそろえておくと、整理はさらに迷いません。この語彙をそろえる考え方は、パランティアのオントロジーを中小企業向けに噛み砕いた「パランティアのオントロジーとは｜中小企業版の作り方」で解説しています。
材料は、新しく作らなくても、毎日の業務からたまっていきます。たとえば会議の議事録を捨てずに整えるだけでも、立派なカンパニーブレインの素になります（「AIで議事録を作る。その先の活かし方」もあわせてどうぞ）。
整える順番と、3つの注意点
導入を考える前に、3点だけ押さえてください。
1. データの整理が先。 散らばったままAIを入れても「探したのに見つからない」AIになります。一つの部署、一つのテーマ——たとえば「経費精算のルールに答えるAI」だけ——から小さく始め、効果を見てから広げるのが近道です。
2. 間違いはゼロにならない。 根拠の資料を示しながら答えるので的外れは大きく減りますが、検索がうまくいかなければ誤ることもあります。最終確認は人がする前提で、使う業務を選んでください。
3. 機密情報の扱いを先に決める。 どの情報を入れてよいか、誰がアクセスできるかを最初に決めます。AIの学習にデータが使われるかは「無料か有料か」ではなく「個人向けか法人向けか」で決まる、といった基本も押さえておきたいところです。詳しくは「社内情報をAIに入れても大丈夫か」をご覧ください。
よくある質問
RAGとファインチューニングの違いは何ですか？ ファインチューニングはAIそのものを作り替える手法で、費用も手間も大きく、資料を更新するたびにやり直しになります。RAGはAIはそのままに、その都度社内資料を参照させるだけなので、資料を差し替えれば答えもすぐ変わります。中小企業にまず現実的なのはRAGです。
社内データをAIに読ませるには、何から始めればよいですか？ まずデータの整理が先です。散らばったまま入れても「探したのに見つからない」AIになります。一つの部署・一つのテーマ（たとえば経費精算のルールに答えるAI）から小さく始め、効果を見てから広げてください。会議の議事録など、毎日の業務でたまる資料が出発点になります。
機密情報をAIに入れても大丈夫ですか？ どの情報を入れてよいか、誰がアクセスできるかを最初に決めるのが基本です。AIの学習にデータが使われるかは「無料か有料か」ではなく「個人向けか法人向けか」で決まります。詳しくは「社内情報をAIに入れても大丈夫か」をご覧ください。
まとめ
- AI活用は「会話する→形にする→自社データとつなぐ→他ツールとつなぐ」と段階で進む。経営に効くのは③から
- 自社データをつなぐ仕組みがRAG。学習させるのとは別物で、中小企業にはこちらが現実的
- 言葉より本質。「AIに自社の文脈をどう持たせるか」と捉える
- 会社の知識をためる「カンパニーブレイン」を、AIが読めるテキストで整えると、属人化が資産に変わる
- データの整理が先。一つのテーマから小さく始め、機密のルールを決めてから
AI Advanceでは、社内データを活用したAIチャットボット・AIエージェントの構築を、データの整え方から運用まで一貫して支援しています。データの整備から、見積書などの業務を任せられる基盤づくりまでの進め方はカンパニーブレイン構築サービスにまとめました。AIエージェントそのものの仕組みは「AIエージェントとは何か」もどうぞ。「うちの社内資料で、こんなことができるか」という段階のご相談こそ歓迎です。初回相談は無料ですので、お気軽にお問い合わせください。
