Amazon Bedrockを活用したSlack用の生成AIチャットボット「かぐたん」をKDDI Digital Divergence Holdingsグループ内に展開

[画像1: https://prcdn.freetls.fastly.net/release_image/115171/10/115171-10-0adcd5a21071890a7457a88ffb728b22-780x353.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]かぐたんのアーキテクチャKDDIアジャイル開発センター株式会社（本社：東京都港区、代表取締役社長CEO：木暮 圭一、以下KAG）は、AWSの提供する生成AIサービス「Amazon Bedrock」を活用して、コミュニケーションツール「Slack」から生成AIと気軽にチャットができるボットアプリ「かぐたん」を開発しました。自社内のみならずKDDI Digital DIvergence Holdings（以下KDH）傘下の各社へ展開し、生成AIの業務活用を推進しています。KAGでは、日々急速なスピードで発展する生成AI活用の推進や、関連する情報・知識・技術の獲得のため「KAG Generative AI Lab」というチームをつくり活動しています。KAG Generative AI Lab（通称KAGAIラボ）は、日々生成AIのキャッチアップとプロトタイプ開発を行い、実践的なノウハウを集約し社内の開発チームへ還元することで、最終的にはお客様へ価値貢献できるように目指しています。KAGAIラボという略称のとおり、課外活動のように各メンバーが自主的に、かつ遊び心を持って新技術の研鑽に日々励んでいます。Slackから気軽にAIへ質問できるチャットボット「かぐたん」を開発生成AI技術がIT業界のトレンドとなって久しい昨今、業務においても生成AIの活用は必要不可欠なものとなりました。その一方で適切に生成AIを活用しなければ情報漏洩をはじめ、セキュリティリスクにも繋がりかねません。KAGではKDH傘下の各社が業務内で安全に生成AIを活用できるよう、セキュアなチャットボット「かぐたん」を開発しました。KAG（カグ）という社名愛称をもとに、皆から親しまれるようにとの思いを込めてネーミングしています。かぐたんはSlackから呼び出せるチャットボットで、「@かぐたん」にメンションすることで生成AIへ一般的な知識を質問したり、文書作成やアイディア出しなどの業務効率化に役立てることができます。[画像2: https://prcdn.freetls.fastly.net/release_image/115171/10/115171-10-bc1f5b576da1980f2e90249646d4daac-682x423.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]かぐたんの利用イメージ開発にあたっては同じくKDH傘下のアイレット株式会社、ならびに株式会社フライウィールのメンバーに先行ユーザーとして使用感をフィードバックしてもらい、実際にシステムプロンプトのチューニングに生かすなど、KDHグループ内での生成AI利活用のさまざまなアプローチのひとつとして各社のエンジニアの知見を共有しながらプロダクトをブラッシュアップしています。かぐたんの特徴かぐたんはよくある生成AIのWebアプリケーションと異なりSlackから利用できるため、毎回Webブラウザを起動することなく普段のコミュニケーションツールの延長でシームレスに生成AIを活用することができます。また、Slackのスレッドで会話を継続でき、スレッド内の会話履歴は記憶したうえでやり取りを継続できるため効率よく追加質問を続けることができます。また、自社のSlackワークスペース内であれば、ダイレクトメッセージで個別にかぐたんを利用することももちろん可能ですし、任意のチャンネルにかぐたんを招待して、メンバー間でかぐたんを同時活用することもできます。導入先の各社によってシステムプロンプトを変えることも可能です。また、かぐたんの回答の末尾には開発チームへ使用感をフィードバックするためのフォームを起動できるハイパーリンクが記載されています。アーキテクチャ紹介かぐたんはAWSの生成AIサービス「Amazon Bedrock」を活用して、フルAWSでセキュアに構築されています。テキスト生成用の言語モデルにはAnthropic社のClaude 2.1を利用。アプリケーションはPython言語で開発しており、Slack用の開発フレームワーク「Bolt for Python」を活用しています。アプリケーションはコンテナ化してAmazon ECS上のFargate基盤上でサーバーレスに稼働させています。AWSサービス間の通信はAWS PrivateLinkを使ってプライベートに行います。また、Slackの「ソケットモード」を活用することにより、ECS上のPythonコンテナをAPIとしてインターネットに公開することなく、自社のSlackワークスペースから安全に接続することができます。[画像3: https://prcdn.freetls.fastly.net/release_image/115171/10/115171-10-20d68fa771fdbe18714163f254297b1e-780x353.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]かぐたんのアーキテクチャ実装上の工夫かぐたんは複数の会社に展開するSaaS（Software as a Service）として開発しているため、マルチテナントに対応可能な設計とすることがポイントでした。各社間でデータが相互にアクセス可能となってしまわないよう、会話履歴データベースなど論理分割が必要なコンポーネントは会社ごとに分けて作成しました。その一方で複数社への展開を効率よく行えるよう、基本的な設計やアプリケーションコードは共通化したうえで、インフラもTerraformを用いてIaC（Infrastructure as a Code）化し、GitHub Actionsを用いてCI/CD（継続的インテグレーション/継続的デリバリー）パイプラインを完備しました。これによって利用企業が増えても「金太郎飴方式で簡単に追加デプロイ」していくことができます。得た学び今回のようなアプリケーションは、AWSであればLambda等を用いてフルサーバーレスに実装できるとランニングコストが安くなるため理想なのですが、以下のような理由から今回はコンテナでの実行を選択しました。・Slack APIの仕様により3秒以内にレスポンスがないと自動でリトライ発生してしまう・セキュリティ上の理由でSlackのソケットモードを利用したい・今後の追加機能として外部情報を読み込む際、FaaS（Function as a Service）だと都度オーバーヘッドが発生する今後はさらなる新機能を実装していくとともに、「かぐたん」のお客さま提供も検討してまいります。*1：KDDI Digital Divergence HoldingsについてKDDI Digital Divergenceグループは、DX推進・価値創出をご支援するDX専業のグループです。KDDIの「サテライトグロース戦略」における注力領域のひとつである「DX」を拡大するために設立されました。https://www.kddi-digital.com/*2：Amazon BedrockについてAmazon Web Services, Inc. により提供される、大手 AI 企業の高性能な基盤モデル (FM) を単一の API で選択できるフルマネージド型サービスの名称、及び商標・登録商標です。https://aws.amazon.com/jp/bedrock/KAG Generative AI LabについてKAGでは社内の生成AIに関する理解の向上、技術力向上を目的とし、これらを短期的に集中して行うために昨年5月よりKAG Generative AI Labをつくり活動を進めています。KAG Generative AI Lab の目的・社内の生成AIに関する理解の向上を推進する・社内の生成AI活用のための技術力の向上を推進するKAG Generative AI Lab の主な活動・生成AIの理解・生成AIに関連するセキュリティや法律などの周辺情報の理解・知識獲得・生成AIの実践的な活用に関する技術情報の理解・知識獲得・生成AIを活用するための開発環境の整備KAG Generative AI Labは当面は社内向け組織として活動し、KAGの生成AIに関連する知識・技術力を向上させることで、お客様に対する価値貢献へと繋げていきます。KAG Generative AI Labに関するそのほかのプレスリリースKAG Generative AI Labにより生成AIを活用しコーディング業務を約38％ 短縮https://prtimes.jp/main/html/rd/p/000000007.000115171.html【Microsoft Teamsなどの既存プロダクトに生成AIを導入】KDDI社員1万人が利用できるKDDI AI-Chat for Teams を開発https://prtimes.jp/main/html/rd/p/000000008.000115171.htmlKDDIアジャイル開発センター、Azure OpenAI ServiceとAmazon Bedrockを用いて生成AIを活用したプロダクトを複数開発https://prtimes.jp/main/html/rd/p/000000009.000115171.html■KDDIアジャイル開発センター株式会社の概要会社名：KDDIアジャイル開発センター株式会社主な事業内容：アジャイル開発事業及び保守事業設立年月日：2022年5月12日本店所在地：東京都港区虎ノ門⼆丁目10番1号代表取締役社長：木暮 圭一Webサイト：https://kddi-agile.com企業プレスリリース詳細へ : https://prtimes.jp/main/html/rd/p/000000010.000115171.htmlPR TIMESトップへ : https://prtimes.jp