2026.05.09 · 経営としくみ

組織のAI活用でデータ基盤を整備する必要性

昨日「個人のAI活用の総和を、組織のAI活用としてよいのか」という文章を書きました。その主旨は、個人のアドホックな用途でのAI活用と、組織で効果が期待されるAI活用には差があるのではないかということで、その差を生む方法は何だろうか?という問いかけで終わっています。

今年に入ってからのAI関連のセミナーでは、AI活用においてデータ基盤を整備することの重要性、特に中小企業であればGoogle WorkspaceかMicrosoft 365にデータを集約していこう、という話を入れています。

このデータ基盤の整備が、組織が期待するAI活用の効果に直結するのではないかと思っています。

プロンプトエンジニアリングの必要性は変わってきている

ChatGPTが登場して以来、AIに良い成果物を生成してもらうためにはプロンプトエンジニアリングが必要だ、と言われてきました。

しかし、OpenAIのGPT-5.5のプロンプトガイドにおいては、結果を定義することに注力するべきで、生成のための手順を細かく書くこと(いわゆるプロンプトエンジニアリング)は逆効果になることがあると説明しています。主要LLMが推論モデルに変わってから時間が経過して(OpenAIでは、GPT-5以降は推論機能を有している)、以前のようなテクニックは中心的ではなくなってきているのです。

私自身も最近は、AIと会話をすることが大切で、そこで生成の意図をちゃんと伝えていくことが重要という説明に変えています。プロンプトエンジニアリングは意味を失いつつある。必要性があるとすれば、システムの中に生成AIを組み込む場合で、一発出しが必要な場合に限られるのではないかと思います。

データをいかに与えるか

データを与えることは引き続き重要です。ChatGPTやGeminiでファイルをアップロードして、それに基づく回答をしてもらうことは、プロンプトエンジニアリングとはレベルが違う話です。アップロードされたファイルには、そこにしかない情報(例えば具体的なプロジェクトの内容説明や、LLMの学習データに入っていない非公開情報)があり、それがなければAIは具体的な回答をできないからです。

しかし、そのデータの与え方も徐々に変わってきています。

Step1:個人が都度、ファイルをアップロードする

ChatGPTやGeminiで一般的に行われている方法です。それでも十分に便利なのだけど、毎回、同じ資料を渡すのは面倒です。個人的にやるならまだしも、組織のメンバー全員が毎回、同じファイルをアップロードしてAIに質問している様子は見たくないですね。

Step2:ナレッジの共有化

プロジェクト資料やFAQ、マニュアルなど、毎回使うようなデータなら、ChatGPTのカスタムGPTやGemをあらかじめ作っておけば良いのです。ChatGPTのプロジェクトでも構いません。NotebookLMのノートを使っても良いでしょう。これを共有すれば、組織的な活用にも耐えられます。

ただ、使用するファイルに更新が入った場合は、その都度、更新する手間がかかります。

Step3:クラウドスイートや業務システムと直接連携する

Google WorkspaceやMicrosoft 365を使っていれば、それとAIを連携させて使うことができます。特に、GeminiやCopilotといったクラウドスイートのネイティブAIを使えば、なお相性が良いでしょうし、設定の簡単さも期待できます。

業務システムであれば、API連携やMCPを使ってAIと連携させるということが考えられます。

もちろん適切な権限設定は必要ですが、この段階までくればAIは自動的に必要な情報を得て回答することができるし、作り方次第ではAIが自動的に情報の更新なども行ってくれるようになります。AIが単なる相談相手から、業務プロセスの一部になるわけです。

たとえて言えば、AIは脳みそのようなものです。目の前に必要な情報があれば適切に処理してくれるけど、手足がないので必要な情報を取りに行くことができない。これがStep2までの話。Step3になると手足が生えるというか。ただ、その手足が届く先に必要な情報が整理されていないといけません。

その必要な情報を、ちゃんとAIの手が届く場所に整備しましょうというのが、中小企業であればまずクラウドスイートだ、ということになります。(Google WorkspaceもMicrosoft 365も、どちらも入っていない中小企業というのは星の数ほどあります。現場体験として。)

AIはデータを見るのか、学ぶのか

よく、「AIがデータから学ぶ」という言い方をしますが、生成AIにおいてはあまり妥当ではありません。生成AIでも提供された基盤モデルをベースに、独自のデータを学ばせるファインチューニングという手法は現実的に可能です。ただ、一般的に用いられるRAGという手法は、AIに適切なデータを渡したり、AI(エージェント)が必要なデータを探しに来て、そのデータを参照して生成するというものであり、恒久的に学ぶわけではありません。

AI活用は、中小企業においても今後は業務特化のものに変わっていくと考えられます。アドホックな用途はいままでどおりChatGPTやGemini、業務特化のものは専用AIシステムという分担になるでしょう。

その業務特化の専用AIシステムはどのように提供されるか?おそらく、業務特化のパッケージがITベンダーから提供されるのではないかと思います。というか、今も使われているSaaSのサービスがAI機能を盛り込んでくるということになるのではないでしょうか。既にその萌芽は見えていますが、本格的に使い物になるまでには2~3年はかかるのではないかと思います。

最近、バーティカルAIという言葉が使われますが、業界や業務に特化したAIサービスやミドルウェアという意味であり、ここでいう業務特化の専用AIシステムと概ね同義です。

組織のデータ基盤整備はこの2~3年が勝負

クラウドスイートのAI機能も、バーティカルAIも、この2~3年間で一気に進化するのではないかと思います。この1年のAIの進化を見ると、2~3年でどこまで進むかは、正直分かりませんが、思ったより遥かに凄かった…ということになるでしょう。

その2~3年の間、組織は安穏としていればよいのか。それは違います。AIにはデータが必要です。自社のデータは自社しか持っていないのです。自社で使うAIには、その自社のデータでないといけません。

これはクラウドスイートで提供される汎用のAI機能においてもそうですし、バーティカルAIが業種に特化しているといっても、やはり自社固有という部分はあるはずです。
その連携をしてこそ、価値のある成果をAIはもたらすことができます。

このデータ基盤の整備にも2~3年はかかるでしょう。だから、今から始める必要があるのです。(合わせて、AIと協働する組織文化というのも必要で、これも2~3年はかかることでしょうから、これも進めるべきです。詳細は、また別に書こうと思います。)

← 個人のAI活用の総和を、組織のAI活用としてよいのか 2026/05/09 14:27
井上 研一
経済産業省推進資格ITコーディネータとして中小企業のDX・AI活用の現場で伴走支援を行う。「ITCプロセスガイドライン4.0」および「中小企業向けAI活用ガイド」執筆メンバー。著書・講演多数。ITエンジニアとして25年以上の実務経験。AI導入の実務に10年以上携わる。自ら開発したAIサービス「Gen2Go」が北九州発!新商品創出事業の認定を受ける。2026年4月より北九州市立大学大学院マネジメント研究科の学生としての顔も持つ。

本サイトおよびブログに掲載している内容は、特に明記のない限り、井上研一個人の見解に基づくものです。所属・関与する組織、団体、企業、研究会等の公式見解を示すものではありません。