機密情報を外部に出さず、生成AIを社内業務に活用　ローカルLLMによる「社内AI基盤構築サービス」を8/26提供開始

オープンソースソフトウェア※1(以下、OSS)に特化したIT企業である株式会社デージーネット(本社：愛知県名古屋市、代表取締役：恒川 裕康、TOKYO PRO Market：371A、以下 デージーネット)は、ローカルLLM※2を活用した社内AI基盤構築サービスを、2026年8月26日から提供開始します。本サービスでは、LLMの選定からサーバ構成、セキュリティ設計、ナレッジベースの作成、プロンプト設計、運用ルールの整備まで、お客様の業務内容やセキュリティ要件に合わせて社内AI基盤を構築します。本サービスを利用して、ローカルLLMによる社内用の生成AIアプリケーション基盤を構築することで、社内文書を活用した問い合わせ対応、業務手順の検索、文書確認の支援、ワークフローによる業務効率化などにAIを活用できます。画像1: https://www.atpress.ne.jp/releases/626134/LL_img_626134_1.pngローカルLLMを利用した「社内AI基盤構築サービス」■サービス提供の背景近年、ChatGPTやGeminiをはじめとした生成AIの活用が広がり、企業でもAIを業務に取り入れて社内問い合わせやマニュアル検索などに活用する動きが急速に高まっています。しかし、ChatGPTなどのクラウド型の生成AIでは、入力したデータを自社環境外のクラウドサービスへ送信して処理するため、自社のセキュリティポリシーに応じた検討が必要です。また、クラウド型の生成AIでは、他のシステムとAPI連携を行うと従量制の課金が発生することが一般的です。そのため、社内システムと組み合わせて使いたい場合、運用コストが増加してしまう可能性があります。■ローカルLLMを利用するメリットローカルLLMとは、組織内のサーバやオンプレミス環境などで実行するLLMのことです。外部のクラウド型生成AIサービスへデータを送信せずに処理できるため、社内のドキュメントやデータベースなどの機密性の高い情報を扱う用途にも利用しやすいというメリットがあります。また、自社の用途に特化したカスタマイズができるものが多く、外部LLMのAPI利用量やユーザ数に応じた従量課金を必要としない構成も可能です。そのため、クラウドLLMに比べて長期的な運用コストを抑制できる可能性があります。一方で、高性能なハードウェアが必要であったり、LLMの選定やナレッジベースの整備などは自社で準備する必要があります。■ローカルLLM×OSSで実現する社内AI基盤LLMは単体で使用することもできますが、外部データやナレッジベースと組み合わせることで、特定の業務や分野に特化した応答や分析が可能になります。デージーネットでは、次のOSSを利用して社内の生成AI基盤の構築をご提案しています。・Ollama(オラマ)PCやサーバなどのローカル環境でLLMを実行・管理するためのOSSです。利用したいAIモデルを選択し、コマンドラインやAPIを通じて生成AIを実行できます。「Ollama」で実行するLLMや埋め込みモデルを、「Dify」などの他のソフトウェアと連携することで、ブラウザ上でチャットボット形式でAIへ質問・回答をしたり、ファイルサーバ内の文書を検索したりすることができます。・Dify(ディーフィー)LLMを活用した生成AIアプリケーションを開発・運用するためのOSSのプラットフォームです。プロンプトの作成、チャットボットの作成、社内文書を利用したナレッジ検索、複数の処理を組み合わせたワークフローの作成などをGUI※3から行うことができます。■社内AI基盤の活用例ローカルLLMと、「Dify」や「Ollama」などを組み合わせることで、社内に蓄積されたデータやナレッジを活用して、次のような場面で活用することができます。・社内問い合わせ、FAQ対応予め社内規程や手順書、マニュアル資料などをナレッジとして取り込んでおくことで、社員からの疑問や質問に対して、チャットボット形式でスムーズに回答が提示されます。社員が持つ課題を早期発見し、迅速な解決が可能となるだけでなく、それまで問い合わせ対応をしていた従業員の負担削減にも効果が期待できます。・社内文書の高速全文検索高速全文検索のOSSである「Fess(フェス)」と「Dify」などを組み合わせることで、既存のファイルサーバや文書管理システムに保管されている文書をそのまま利用し、AIによる検索・要約・一覧化・比較を 行うことができます。■価格・Dify構築費用：1,470,000円～(ハードウェア別)保守費用：323,000円～(1年間)・Ollama構築費用：1,040,000円～(ハードウェア別)保守費用：262,000円～(1年間)※表示価格は税別です。詳しくはお問い合わせください。■ デージーネットのサービス社内用の生成AI基盤を構築する際は、LLMの選定、サーバ構成、セキュリティ設計、ナレッジベースの作成、プロンプト設計、運用ルールの整備などが必要です。デージーネットでは、お客様の業務内容やセキュリティ要件に合わせて、生成AIを活用したシステムの導入をご提案いたします。1. システムの構築デージーネットでは、ローカルLLMを利用した社内AI基盤を構築するサービスを提供しています。デージーネットで利用しているOSSは多岐にわたり、お客様に合ったOSSを選定してシステム構築を行うことが可能です。2. 導入後支援サービスデージーネットでシステムを構築した場合、OpenSmartAssistanceという導入後サポートを提供しています。継続してシステムを運用するため、Q&A対応やセキュリティ情報提供、障害時のサポートなどを行っております。・Q&A・セキュリティ情報提供・点検とチューニング・障害調査、障害回避・障害時オンサイト対応・障害時システム再構築・運用サービス・ソフトウェアのアップデート■ 参考URL・Dify～OSSで生成AIアプリケーション開発を効率化～https://www.designet.co.jp/ossinfo/dify/・Ollama～ローカルLLM環境をOSSで構築する方法～https://www.designet.co.jp/ossinfo/ollama/・Fess～全文検索システムのOSS～https://www.designet.co.jp/ossinfo/fess/■ 用語注釈(※1)オープンソースソフトウェア(略称：OSS)とは、無償で利用でき、ソースコードが公開されているソフトウェアのことです。(※2)LLM(大規模言語モデル：Large Language Model)とは、膨大なテキストデータを学習して、文章の生成や理解、要約、翻訳、質問応答などの自然言語処理を高精度で行う人工知能モデルのことです。LLMは文章の統計的パターンや文脈を学習することで、人間が書く文章に近い形で意味のある出力を生成できます。LLMは大きくクラウド型とローカル型に分けられます。(※3)GUI(Graphical User Interface)とは、画面上のボタンやメニューなどを操作して利用できるユーザインタフェースのことです。■ 会社概要会社名： 株式会社デージーネット (TOKYO PRO Market 証券コード：371A)代表者： 代表取締役 恒川 裕康本社 ： 〒465-0025 愛知県名古屋市名東区上社四丁目39-1資本金： 4,000万円URL ： https://www.designet.co.jp/TEL ： 052-709-7121FAX ： 052-709-7122＜一般の方からのお問い合わせ先＞https://www.designet.co.jp/contact/