Qwen3.5-9BとOpenClawで実現するRAG対応社内ナレッジベースAI

RAG技術による社内ナレッジベースAIの必要性

企業が保有する膨大な社内文書、技術ドキュメント、業務マニュアル、過去のプロジェクト資料などは、多くの場合、ファイルサーバーや社内Wikiに散在しており、必要な情報を迅速に見つけることが困難です。RAG(Retrieval-Augmented Generation)技術は、この課題を解決する革新的なアプローチとして注目されています。RAGは、大規模言語モデル(LLM)の生成能力と、ベクトルデータベースを用いた高精度な情報検索を組み合わせることで、社内の知識を効率的に活用できるAIエージェントを実現します。OpenClawとQwen3.5-9Bを組み合わせることで、Mac mini上でローカル動作するプライバシー保護型の社内ナレッジベースAIを構築できます。品川区、港区、渋谷区などの東京都心部の企業では、セキュリティ要件が厳しい環境でも導入可能なオンプレミスAIソリューションとして高い評価を得ています。

Qwen3.5-9BとOpenClawによるRAGアーキテクチャ概要

RAG対応社内ナレッジベースAIのアーキテクチャは、文書取り込み層、ベクトル化層、検索層、生成層の4層構造で構成されます。文書取り込み層では、PDF、Word、Markdown、HTML、社内Wikiなど多様な形式の文書をパースし、テキストデータに変換します。ベクトル化層では、抽出されたテキストをチャンク分割し、埋め込みモデル(例: nomic-embed-text、multilingual-e5-large)を用いてベクトル表現に変換します。検索層では、ChromaDB、Qdrant、Weaviateなどのベクトルデータベースに保存されたドキュメントベクトルから、ユーザークエリに最も関連性の高い情報を意味検索で取得します。生成層では、OpenClawがQwen3.5-9Bを呼び出し、検索結果をコンテキストとして与えることで、正確かつ文脈に沿った回答を生成します。このアーキテクチャにより、LLMの幻覚(ハルシネーション)を抑制し、社内の実際の情報に基づいた信頼性の高い回答を提供できます。

文書取り込みとチャンク分割の実装

RAGシステムの精度は、文書取り込みとチャンク分割の品質に大きく依存します。PDFからのテキスト抽出にはpdfplumber、PyPDF2、pdfminerなどのライブラリを使用し、レイアウト情報やテーブル構造を保持しながらテキスト化します。Word文書(.docx)にはpython-docxを、社内WikiやConfluenceにはAPIを通じたコンテンツ取得を実装します。チャンク分割では、セマンティックチャンキング(意味的なまとまりで分割)とオーバーラップチャンキング(隣接チャンク間で200-300トークンを重複)を組み合わせることで、文脈の連続性を維持します。チャンクサイズは通常512-1024トークンが推奨されますが、技術文書の場合は256トークン程度の小さめのチャンクが検索精度向上に効果的です。メタデータ(ファイル名、作成日時、著者、部門、バージョン)も各チャンクに付与し、検索時のフィルタリングや結果のランキングに活用します。世田谷区や大田区の中小企業では、Google Drive、Dropbox、SharePoint上の既存文書を自動取り込みするワークフローを実装することで、運用負荷を最小化しています。

ベクトルデータベースの選定とセットアップ

RAGシステムの心臓部となるベクトルデータベースの選定は、システムの性能と運用性を左右します。ChromaDBは軽量でセットアップが容易なため、プロトタイプや小規模システムに最適です。pip install chromadbでインストールし、永続化モードでローカルディレクトリに保存することで、Mac mini上で安定稼働します。Qdrantはより高度な検索機能(ハイブリッド検索、ペイロードフィルタリング、量子化)を提供し、数十万件以上のドキュメントを扱う中規模システムに適しています。DockerまたはバイナリでMac mini上にデプロイでき、REST APIとgRPCの両方に対応します。Weaviateはスキーマベースのアプローチとグラフベースの知識表現により、複雑なクエリや関連文書の探索が必要な大規模システムで威力を発揮します。埋め込みモデルには、multilingual-e5-largeやintfloat/multilingual-e5-baseを使用することで、日本語と英語の混在文書にも高精度に対応できます。コレクション作成時には、コサイン類似度をメトリクスとして設定し、HNSWインデックスのef_constructionパラメータを調整することで、検索速度と精度のバランスを最適化します。

OpenClawエージェントのRAG統合設定

OpenClawにRAG機能を統合するには、まずエージェント設定ファイル(~/.openclaw/agents/knowledge-base-agent.yaml)を作成し、retrieval_toolsセクションを定義します。vector_storeパラメータでChromaDB、Qdrant、Weaviateのいずれかを指定し、接続エンドポイント、コレクション名、認証情報を設定します。top_kパラメータは検索時に取得する上位候補数を制御し、通常3-5が適切ですが、専門性の高い技術文書では10-15に増やすことで回答精度が向上します。similarity_thresholdは類似度スコアの閾値で、0.7以上を設定することで無関係な情報の混入を防ぎます。OpenClawのtool_callフローでは、ユーザークエリをまずベクトルデータベースに送信し、取得した関連文書をQwen3.5-9Bのコンテキストウィンドウ(32K-128K)に収まるよう整形してプロンプトに挿入します。retrieval_augmented_generation: trueフラグを有効化することで、OpenClawは自動的にクエリの意図を分析し、検索が必要な質問とそうでない質問を判別します。品川区や港区のスタートアップ企業では、Slack連携により社内チャットからシームレスに知識ベースAIを利用できる環境を構築しています。

クエリ拡張と検索精度の最適化

RAGシステムの検索精度を高めるには、クエリ拡張(Query Expansion)とハイブリッド検索の実装が効果的です。クエリ拡張では、ユーザーの質問をQwen3.5-9Bに入力し、同義語、関連キーワード、より具体的なクエリバリエーションを生成させます。例えば「契約書のテンプレートは?」というクエリを「契約書テンプレート」「契約フォーマット」「契約書サンプル」「秘密保持契約書」など複数のバリエーションに展開し、それぞれでベクトル検索を実行します。ハイブリッド検索では、ベクトル検索(意味的類似性)とキーワード検索(BM25などの統計的手法)を組み合わせ、両方のスコアを重み付け平均(通常0.7:0.3)で統合します。Re-ranking手法では、初期検索で取得した上位20-30件の候補を、cross-encoderモデル(ms-marco-MiniLM-L-6-v2など)で再評価し、最終的な上位5件を選出します。Metadata filteringでは、部門、作成日、ドキュメントタイプなどのメタデータ条件をクエリに追加し、検索範囲を限定します。これらの最適化により、渋谷区や世田谷区の企業では検索精度が平均30-50%向上し、ユーザー満足度が大幅に改善しています。

プロンプトエンジニアリングによる回答品質向上

RAGシステムの最終出力品質は、Qwen3.5-9Bに与えるプロンプトの設計に大きく依存します。効果的なRAGプロンプトは、システムロール、検索コンテキスト、質問、回答制約の4要素で構成されます。システムロールでは「あなたは社内ナレッジベース専門AIアシスタントです。提供された文書情報のみに基づいて回答してください」と明示し、幻覚を抑制します。検索コンテキストセクションでは、ベクトルDBから取得した文書チャンクを「以下は関連情報です: [文書1: ファイル名、作成日] 内容... [文書2: ...] 」の形式で整理して挿入します。質問セクションでは、元のユーザークエリをそのまま記載します。回答制約では「情報が見つからない場合は『該当する情報が見つかりませんでした』と正直に答えてください」「参照した文書名を回答の最後に明記してください」などのルールを指定します。Few-shot examplesを3-5例追加することで、期待する回答スタイル(簡潔/詳細、箇条書き/段落形式)を学習させることができます。大田区の製造業企業では、技術仕様書検索用に専門用語を含むFew-shot例を用意し、回答の専門性を大幅に向上させています。

従業員オンボーディングへの活用事例

RAG対応ナレッジベースAIは、新入社員や中途採用者のオンボーディングプロセスを劇的に効率化します。従来、新入社員は就業規則、業務マニュアル、社内システムの使い方、組織図、福利厚生ガイドなど大量の文書を読み込む必要がありましたが、RAGエージェントを導入することで「有給休暇の申請方法は?」「経費精算システムのログイン手順は?」といった具体的な質問に即座に回答を得られます。OpenClawエージェントに「新入社員サポート」専用のペルソナを設定し、フレンドリーで丁寧な口調、専門用語の平易な説明、関連リンクや画像の提示などを実装します。オンボーディングチェックリストとの連携により、新入社員が学習すべき項目の進捗を追跡し、未学習トピックに関する情報を能動的に提示することも可能です。港区のIT企業では、RAGベースのオンボーディングボットを導入した結果、新入社員の自己解決率が70%向上し、人事担当者の問い合わせ対応時間が週15時間削減されました。SlackやMicrosoft Teamsとの統合により、新入社員は業務の中断なく自然な会話形式で情報を取得できます。

技術ドキュメント検索と開発者支援

ソフトウェア開発チームにとって、過去のプロジェクト文書、API仕様書、設計書、トラブルシューティングガイド、コードレビューコメントなどの技術情報へのアクセスは日常的な課題です。RAG対応OpenClawエージェントは、これらの技術ドキュメントをインデックス化し、「認証APIのエラーハンドリング実装例は?」「データベースマイグレーション時の注意点は?」といった開発者の具体的な質問に、実際のコードスニペットや設計図を含めて回答します。GitHub、GitLab、Bitbucketとの連携により、READMEファイル、Wiki、Issueコメント、Pull Requestディスカッションも検索対象に含めることができます。コード検索では、関数名、クラス名、変数名などのシンボル情報もメタデータとして保存し、「calculateTotalPrice関数の実装は?」といった具体的なクエリに対応します。品川区のSaaS開発企業では、RAGエージェントを開発環境に統合し、VS CodeやJetBrains IDEから直接技術情報を検索できる環境を構築した結果、開発者の情報検索時間が1日平均45分削減されました。

運用監視とナレッジベースの継続的改善

RAGシステムを本番運用する際には、検索精度のモニタリングと継続的改善が不可欠です。クエリログ分析では、ユーザーが入力した質問、検索結果の類似度スコア、最終的に参照された文書、セッション時間などを記録し、回答できなかった質問や低スコアクエリを特定します。ユーザーフィードバック機能(「この回答は役に立ちましたか?」)を実装し、ポジティブ/ネガティブ評価をクエリと紐付けて保存します。ネガティブ評価が多いクエリは、チャンク分割の見直し、メタデータの追加、プロンプトの調整などの改善対象となります。文書更新監視では、社内WikiやファイルサーバーのWebhookを利用し、文書が更新されたら自動的にベクトルDBを再インデックスします。定期的なベクトルDB最適化(古い文書の削除、インデックスの再構築、埋め込みモデルの更新)により、検索性能を維持します。渋谷区のコンサルティング企業では、月次でRAGシステムのパフォーマンスレポートを作成し、検索精度、ユーザー満足度、カバレッジ率などのKPIをダッシュボードで可視化しています。

株式会社オブライトによる導入支援サービス

株式会社オブライト(Oflight Inc.)は、品川区、港区、渋谷区、世田谷区、大田区など東京都内の企業向けに、Qwen3.5-9BとOpenClawを活用したRAG対応社内ナレッジベースAIの導入支援サービスを提供しています。当社の支援サービスには、現状の文書管理環境とニーズのヒアリング、最適なRAGアーキテクチャの設計、ベクトルデータベースの選定とセットアップ、文書取り込みパイプラインの実装、OpenClawエージェントのカスタマイズとチューニング、社内システム(Slack、Teams、社内ポータル)との連携、運用監視ダッシュボードの構築、従業員向けトレーニングとドキュメント作成が含まれます。Mac miniを活用したオンプレミス環境での導入により、機密情報を外部クラウドに送信することなく、高度なAI機能を利用できます。初期構築から運用サポートまで一貫してサポートし、貴社の業務効率化とナレッジ活用を実現します。RAG対応社内ナレッジベースAIの導入をご検討の際は、ぜひ株式会社オブライトにご相談ください。経験豊富なエンジニアチームが、貴社の課題に最適なソリューションをご提案いたします。