— 株式会社ノウデルのAI活用への取り組み —
近年、ChatGPTをはじめとする大規模言語モデル（LLM）の登場により、企業におけるAI活用の可能性は急速に広がっています。問い合わせ対応の効率化、社内ナレッジ検索、業務支援など、LLMを活用したさまざまな取り組みが検討されています。
しかし実際の企業環境では、AI導入にあたって次のような課題に直面するケースが少なくありません。
- 社内データを外部クラウドに送信できない
- 顧客情報や機密情報を扱うためセキュリティ要件が厳しい
- クローズドネットワーク環境での運用が求められる
こうした背景から、企業ネットワーク内で完結するAI基盤の構築が重要なテーマとなっています。株式会社ノウデルでは現在、こうした企業ニーズに対応するため、クローズドネットワーク環境で利用可能なRAG（Retrieval Augmented Generation）型AI基盤の構築に取り組んでいます。
RAG 社内ナレッジを活用するRAG型AI
今回構築を進めているシステムは、LLMに社内文書を参照させながら回答を生成するRAG（Retrieval Augmented Generation）というアーキテクチャを採用しています。RAGでは、ユーザーからの質問に対してまず関連文書を検索し、その情報をもとにAIが回答を生成します。
概念的には次のような構成になります。
この仕組みにより、社内マニュアルや業務ナレッジ、各種資料などをAIが参照しながら回答できるようになります。企業においては、いわば「社内ナレッジを活用するAIアシスタント」としての役割が期待されています。
環境 AIエッジサーバーによるローカルLLM環境
今回のAI基盤では、ローカル環境でLLMを実行する構成を採用しています。検証環境には、AI推論用途に最適化されたエッジコンピューティング機器であるMSI EdgeXpertを使用しています。
この環境上で、
- ローカルLLMの実行
- RAGによる文書検索
- 社内ネットワーク内でのAI応答
といったAI基盤の構築を進めています。インターネット接続を必要とせず、社内ネットワーク内で完結するAI環境を実現することを目指しています。
セキュリティ 企業利用を想定したアクセス制御
企業環境においてAIシステムを導入する際には、情報アクセスの制御も重要なポイントになります。多くの企業では、複数の事業部や部署が存在しており、それぞれが異なる業務情報や顧客データを扱っています。
そのため今回のAI基盤では、
- 部門ごとのナレッジ分離
- ユーザーのロールに応じたアクセス制御
- 他事業部データへのアクセス制限
といった仕組みを取り入れ、企業環境に適したAI利用モデルの検証を進めています。これにより、セキュリティ要件を満たしながらAIを活用できる基盤の構築を目指しています。
実務 RAG構築における実務的な課題
AIシステムの構築を進める中で見えてきたのは、LLMそのものよりも社内文書データの扱いが重要なテーマになるという点です。企業のナレッジは多くの場合、Word・Excel・PowerPointといったオフィス文書として蓄積されています。
これらの文書をAIが扱いやすい形に整理し、検索可能なナレッジとして整備することが、RAGシステムの精度に大きく影響します。現在は、これらの文書をテキストデータとして抽出し、ベクトルデータベースへ登録することで、AIが参照可能なナレッジ基盤の整備を進めています。
今後 今後の展開
株式会社ノウデルでは、今回の取り組みを通じて以下のテーマに取り組んでいきます。
- クローズド環境でのLLM運用最適化
- 社内ナレッジ活用のためのRAGシステム高度化
- 企業向けAI活用基盤の整備
AIの企業活用は今後さらに拡大していくと考えられます。その中でも、セキュリティ要件を満たしたAI基盤は重要なテーマの一つです。株式会社ノウデルでは、引き続き企業環境に適したAI活用の研究・開発を進め、実務で活用できるAI基盤の構築を目指していきます。