生成AIの本番業務への適用を支援する「生成AI業務適用サービス」も合わせて提供

株式会社日立製作所（以下、日立）は、お客さまの生成AI活用を試行段階から本格的な業務適用フェーズへの移行を加速するため、「生成AI活用プロフェッショナルサービス powered by Lumada*1 」を拡充し、専門的な業務に適したLLM*2の構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築・運用を担う「生成AI業務適用サービス」を10月1日より提供開始する。これらのサービスは、業務レベルの回答精度を得る上で課題となる生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といったお客さまの負荷を低減する。

「業務特化型LLM構築・運用サービス」では、日立が、お客さまの業務や生成AI適用の目標のアセスメントを基に、企業が持つ固有のデータ（手順書や対応記録など）の選定や抽出を行い、業務知識として汎用LLM*3に学習させることで、その業務に適した規模・精度のLLM構築と、継続的な改善を行う。また、構築したLLMと生成AIアプリを組み込んだ実行環境を、「生成AI業務適用サービス」により、ニーズに応じた場所で構築・運用する。特に、高い機密性が求められる場合には、お客さまのオンプレミス環境で運用することにより、安心して生成AIを業務に活用できる。
この一連のプロセスには、お客さまとともに業務への理解を深めながら、試行錯誤を繰り返すアプローチと、データエンジニアリング、AIのモデル学習、生成AIの環境構築など高い技術力が必要であり、日立がLumadaで培ってきたDXノウハウや、データサイエンティスト、LLMエンジニア、GPUエンジニア*4といったプロフェッショナル人材など日立の強みを生かして対応する。
今回、第一弾として、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLMとRAG＊5だけでは専門知識の活用が難しい業務向けに提供を開始する。今後、製造業や交通インフラなど日立が深いドメインナレッジを有するOT（制御・運用技術）領域へも拡大し、現場の障害対応や生産工程の高度化などフロントラインワーカーの業務へも順次適用していく予定である。
日立は、お客さまの生成AI適用の戦略策定から本番運用まで伴走し、DX実現による生産性向上・競争力強化や持続的な成長を支援するとともに、労働人口の減少といった社会課題の解決を通じて、サステナブルな社会の実現に貢献する。

■課題・背景

現在、多くの企業が生産性向上や顧客体験の改善などを目指して生成AIの活用を試行している。しかし、一般的な生成AIでは専門性の高い業務に必要なレベルの回答が得られない場合が多く、業務適用には専門知識を学習させるための高度な技術やノウハウが必要である。また、ビジネス環境の変化や技術の進歩に対応するためには、継続的な学習が不可欠であり、そのための生成AI基盤の整備や専門人材の確保など、投資負荷が非常に大きいことが生成AIの業務適用の障壁となっている。日立は、このような課題を解決するために、Generative AIセンター*6を中心として社内外で取り組んできた50件以上の業務適用検証プロジェクトや、生成AI共通基盤の構築で培ったノウハウを活用し新サービスを提供する。

■新サービスの特長

１.業務特化型LLM構築・運用サービス：専門的な業務に適した回答精度のLLMを整備

お客さまの業務手順書や業務記録など、学習に必要な知識データの選定から日立のデータサイエンティストが支援する。これらのデータは、社内関係者向けに特有の言い回しがある、紙で管理されているなど、そのままでは学習させることが難しいケースが多い。そこで、日立はお客さまとともに、これらのデータをLLMに取り込みやすい形に加工し、効果的なモデル学習を進める。
また、LLMエンジニアが、適切な汎用LLMの選定を行い、それをベースに、過学習による正答率の低下を防ぎながら専門知識を学習させる。さらに、回答精度を評価する技術や、LLMとRAGを適切に組み合わせる技術を駆使して、適切な規模と回答精度のLLMを構築する。

２.生成AI業務適用サービス：適切な実行環境の提供により、お客さまの投資を抑制

 学習済データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択できる。例えば、NVIDIAの最新AI機能と日立ストレージを搭載したHitachi iQ with NVIDIA DGX*7に業務特化型LLMを組み合わせて、お客さまのオンプレミス環境に導入することで、企業独自の業務ノウハウである学習済みの専門知識を保護しながら活用できる。また、日立が生成AIの本格的な活用を通じて得たノウハウをもとに、生成AIアプリの開発・運用や、汎用LLMと業務特化型LLMの使い分けや組み合わせをガイドできるため、お客さまは業務適用を円滑に推進できる。今後、オンプレミスとクラウドにまたがったハイブリッド環境で、お客さまがデータの所在を意識せず、生成AIを自在に活用できるAIソリューションの実現を目指している。これにより、お客さまは膨大なデータ処理に耐えられる大規模な学習環境や生成AI技術者を確保する必要がなくなるため、投資を抑制できる。*1：ニュースリリース(2024年7月22日発表)「 生成AI活用プロフェッショナルサービス powered by Lumada」を提供開始」
https://www.hitachi.co.jp/New/cnews/month/2024/07/0722.html
*2： LLM：Large Language Models(大規模言語モデル)
*3：汎用LLM：公開データを中心に学習された言語モデルのこと。
*4：GPUエンジニア：GPUインフラの特性を理解し生成AI基盤の構築・運用のノウハウをもつ専門技術者のこと。
*5：RAG : Retrieval-Augmented Generationの略。LLMに、外部情報の検索を組み合わせることで、回答精度を向上させる技術のこと。
*6：ニュースリリース(2023年5月15日発表)新組織「Generative AIセンター」により、生成AIの社内外での利活用を推進し、Lumada事業での価値創出の加速と生産性向上を実現https://www.hitachi.co.jp/New/cnews/month/2023/05/0515.html
*7：ニュースリリース(2024年7月29日発表) 「日立ヴァンタラが、企業のAI対応を支援する「Hitachi iQ」を販売開始」https://www.hitachi.co.jp/New/cnews/month/2024/07/0729.html

■社内実証例

対象評価内容コンタクトセンターの問い合わせ対応ミッションクリティカルシステムを支えるサポートサービス「日立サポート360」のコンタクトセンターでの問い合わせ対応の社内実証において、汎用LLMとRAGのプロンプトエンジニアリング技術の活用により、高い効果が確認できたため、10月より問い合わせ対応の一次受けの本番業務に適用予定。今後、業務特化型LLMを、より複雑な問い合わせ対応などの業務にも適用を見込む。自社製品のコンサルタント日立のIT運用管理ソフトウェア 「JP1」のナレッジ・対応策のドキュメントを活用し、汎用LLMにJP1コンサルタントが持つべきノウハウを学習させ、合格率24％*8というJP1の最難関資格である「JP1コンサルタント資格」の認定試験へ挑戦。
学習したLLMとRAGの組み合わせにより、合格点を上回った。 構築した業務特化型LLMは、将来的に、JP1コンサルタント業務の前提知識を補完するアシスタントとして活用を見込む。有識者によるレビュー (システム開発)ミッションクリティカルなシステムの開発における設計書のレビューを対象に、日立が蓄積してきた設計書レビューの観点や過去のチェック事例をLLMに学習させる社内実証を推進中。これにより、設計書の誤りや不備を特化型LLMが自動検出できるようにし、対面レビューでの指摘漏れなどのヒューマンエラーを抑え、効率よく、高い品質を確保することをめざす。並行して、プログラム開発時の設計書だけでなく、設計工程やテスト工程、QA工程での生成AI適用に向けて取り組み中。  有識者によるレビューで培ったLLM構築ノウハウを活用し、今後、金融などの専門性の高い業務へ適用することを見込む。*8： 2024年7月時点

■「生成AI活用プロフェッショナルサービスpowered by Lumada」に追加した新サービス

サービス名称価格(税別)提供開始時期業務特化型LLM構築・運用サービス個別見積10月1日生成AI業務適用サービス個別見積10月1日* as a Service型の提供はEverFlex from Hitachiで行う。
編集部おすすめ