ABEJA、LLMを用いた小型リーズニングモデル「ABEJA QwQ-32B Reasoning Model」を開発し「GPT-4o」などを上回る性能に到達

[画像1: https://prcdn.freetls.fastly.net/release_image/10628/179/10628-179-c23c9f3053f51dd296bb6764b07c9f35-975x510.jpg?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ] 人とAIの協調により「ゆたかな世界を、実装する」株式会社ABEJA（本社：東京都港区、代表取締役CEO：岡田 陽介、以下「ABEJA」）は、「GENIAC（Generative AI Accelerator Challenge）」※1の元、国立研究開発法人新エネルギー・産業技術総合開発機構（以下「NEDO」）が進める「ポスト5G情報通信システム基盤強化研究開発事業※2／ポスト5G情報通信システムの開発／競争力ある生成AI基盤モデルの開発（助成）」（以下「競争力ある生成AI基盤モデルの開発」）に採択され、LLMおよび周辺技術の研究開発を進めております。 このたびABEJAは、本プロジェクトの一環として2025年1月に発表した32Bの小型LLM（以下「32B小型モデル」）をベースに推論能力をさらに高めたリーズニングモデル「ABEJA QwQ-32B Reasoning Model」を構築いたしました。当該モデルは、32Bのサイズでありながら、汎用言語性能指標であるMT-BenchにおいてOpenAI社の「GPT-4o」および「o1-preview」などを上回る性能に到達しております。 ABEJAは、「ゆたかな世界を、実装する」を経営理念に掲げ、ミッションクリティカル業務へのAI導入支援のため、基盤システムとなるABEJA Platformの開発・導入・運用を行う「デジタルプラットフォーム事業」を展開しています。ABEJA Platformは、ミッションクリティカル業務における堅牢で安定した基盤システムとアプリケーション群であり、生成AIをはじめとする最先端技術による運用が人とAIの協調により実現可能です。ABEJAは、2012年の創業時よりABEJA Platformの研究開発を進めており、顧客企業からの信頼のもと、数多くの導入を進めることで「テクノロジーの力で産業構造を変革する」ミッションに取り組んでいます。 ABEJAは、GENIACにおいては、2024年2月に第一期となる「ポスト5G情報通信システム基盤強化研究開発事業／ポスト5G情報通信システムの開発」に続き、2024年10月より第二期となる「競争力ある生成AI基盤モデルの開発」に採択されております。※3 ABEJAは、従来よりLLMの社会実装における最大の課題は、精度とコストのトレードオフにあると考えており、その課題解決に向けたLLMの研究開発を進めてまいりました。32B小型モデルは、複数の汎用言語性能指標で「GPT-4」を上回る性能に到達し、ABEJAはLLMが抱える「精度とコストのトレードオフの課題」を克服したと認識しております。 URL: https://www.abejainc.com/news/20250127/1 LLMの推論能力をさらに高めるリーズニングモデルは、数学やコーディングに強みがあり、複数の推論過程を統合してより複雑な論理的思考を実行するモデルで、代表的なものに「OpenAI o1」や「DeepSeek-R1」などが挙げられますが、サイズにおいては「OpenAI o1」は数千億パラメータと推測され、「DeepSeek-R1」は6,710億パラメータです。 ABEJAは、ビジネスプロセスに小型のリーズニングモデルを実装することが、適用範囲の拡張、アウトプットの信頼性、汎用性の向上などにつながると考え、32B小型モデルをベースにした「ABEJA QwQ-32B Reasoning Model」を構築いたしました。 「ABEJA QwQ-32B Reasoning Model」は、OpenAI社の「GPT-4o」および「o1-preview」などを上回る性能に到達していながら、320億パラメータと圧倒的に小型であるため、オフィスや工場など多用なエッジ環境での実装が可能で、精度やコスト、利便性の観点から、画期的な実用性を提供できると考えております。 MT-Benchにおける主なモデルの総合スコア[画像2: https://prcdn.freetls.fastly.net/release_image/10628/179/10628-179-ab30624954f5a7cf181938d29aa56ca3-595x303.jpg?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ] 当該モデルについては以下Hugging Faceで公開しております。 Hugging Face：https://huggingface.co/abeja/ABEJA-QwQ32b-Reasoning-Japanese-v1.0 ABEJAは、引き続き、LLMの社会実装を推進し、ABEJAの企業理念である「ゆたかな世界を、実装する」の実現に努めてまいります。 この成果は、NEDOの助成事業の結果得られたものです。※1 GENIAC（Generative AI Accelerator Challenge）：日本の生成AI の開発力強化を目的とした経済産業省およびNEDOが推進するプロジェクト。※2 ポスト5G情報通信システム：第5世代移動通信システム（5G）より更に超低遅延や多数同時接続といった機能が強化されたポスト5Gに対応した通信システムを指す。https://www.meti.go.jp/policy/mono_info_service/joho/post5g/index.html※3第一期における当社発表および成果発表は以下よりご確認ください。https://www.abejainc.com/news/20240202/1https://www.youtube.com/watch?v=70nYBgBxCdw第二期における当社発表は以下よりご確認ください。https://www.abejainc.com/news/20241010/1■ 株式会社ABEJAについてABEJAは、「ゆたかな世界を、実装する」を経営理念とし、「ABEJA Platform」を基盤に顧客企業の基幹業務のプロセスを変革し、ビジネスの継続的な収益成長の実現に伴走する「デジタルプラットフォーム事業」を展開しています。2012年の創業時よりABEJA Platformの研究開発を進めており、これまで多種多様な業界・業態の300社以上のデジタル変革をABEJA Platform上で実現してきました。また、「Human In the Loop」をはじめとする高度なノウハウやアプローチを用いて、デジタル変革に必要不可欠な「人とAIの協調」を実現し、戦略的かつ効率的に顧客の基幹業務を変革し、さらにはビジネスモデルの革新に取り組んでいます。本社：東京都港区三田一丁目1番14号 Bizflex麻布十番2階設立：2012年9月10日代表者：代表取締役CEO 岡田 陽介事業：デジタルプラットフォーム事業URL：https://abejainc.com企業プレスリリース詳細へ : https://prtimes.jp/main/html/rd/p/000000179.000010628.htmlPR TIMESトップへ : https://prtimes.jp