全部をプロンプトに入れてはいけない理由

最新のLLM（大規模言語モデル）は100万トークン以上の長大なテキストを扱えるようになりました。しかし、「入るからといって全部入れる」のはアンチパターンです。

実用化の鍵を握る「3層情報アーキテクチャ」

AI社長のナレッジは、以下の3つの役割に完全に分離して設計します。

A層：System Prompt（人格と行動規範）

AI社長の「脳の根本原則」です。社員からどんな質問が来ても必ず適用されるべき基本方針（理念、値下げ確認、禁止事項）のみをコンパクト（2,000〜4,000文字程度）に記述します。

B層：RAG（社内の知恵袋・ライブラリ）

何百ページもある業務マニュアルや社内FAQは、プロンプトには入れず外部のデータベース（RAG）に保管します。社員が「鍵の紛失時はどうする？」と聞いたときだけ、関連する規程を自動検索してAIへ渡します。

C層：リアルタイムAPI/DB（現場の今）

「今日の売上は？」「現在の空室率は？」といったリアルタイムな数字は、固定文章にしてはいけません。Googleスプレッドシートや基幹システムのAPIを呼び出し、最新の数字を動的に取得してAIに解釈させます。

将来の拡張に耐える推奨ナレッジフォルダ構成

ナレッジファイルを管理する際は、最初から以下のようなナンバリングフォルダを作っておくと、後からRAG（検索システム）に接続する際も非常にスムーズです。

AI社長ナレッジ/
├─ 01_会社基本情報/
│   ├─ 会社概要.md
│   ├─ 経営理念.md
│   └─ 事業内容.md
├─ 02_社長/
│   ├─ 社長判断基準.md
│   ├─ 社長100問.md
│   └─ 社長発言集.md
├─ 03_組織/
│   ├─ 組織図.md
│   ├─ 担当業務.md
│   └─ 権限表.md
├─ 04_社内ルール/
│   ├─ 社内規程.md
│   ├─ 承認ルール.md
│   └─ 決裁ルール.md
├─ 05_業務マニュアル/
│   ├─ 営業.md
│   ├─ 管理.md
│   ├─ 経理.md
│   └─ IT.md
├─ 06_KPI/
│   ├─ KPI定義.md
│   └─ KPI目標値.md
├─ 07_事例/
│   ├─ 成功事例.md
│   └─ 失敗事例.md
├─ 08_会議/
│   └─ 経営会議議事録/
├─ 09_FAQ/
│   └─ 社内FAQ.md
└─ 10_AIルール/
    ├─ AI社長禁止事項.md
    └─ AI社長権限.md

まとめと次回予告

「System Prompt（心棒）」「RAG（記憶庫）」「リアルタイムAPI（目と耳）」の3層を綺麗に分離することで、AI社長は軽快に動作し、正確でコストパフォーマンスの高いシステムになります。

次回からは、いよいよ現場の社員が毎日使うインターフェースである「LINE連携」の設計と実装に入ります。