AI分野の難関国際会議「AAAI-25」が、カナメプロジェクトCEO 遠藤太一郎の論文を採択・口頭発表に決定

ASI（超知能）時代に向けた、AIの人間性なるものを高める「垂直的成長」のための学習に関する研究[画像1: https://prcdn.freetls.fastly.net/release_image/112864/10/112864-10-67da7d0e446d563992a56d55a3f9c798-3840x2158.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]株式会社カナメプロジェクトは、取締役CEOの遠藤 太一郎（えんどう たいちろう）が執筆・投稿した人工知能（AI）の「垂直的成長」のための学習に関する研究論文が、AI分野の国際会議・AAAI（The Association for the Advancement of Artificial Intelligence）に採択され、2025年2月25日～3月4日（アメリカ太平洋標準時）に米国フィラデルフィアで開催される年次カンファレンス・AAAI-25（The 39th Annual AAAI Conference on Artificial Intelligence）のPSSワークショップ（1st Workshop on Post-Singularity Symbiosis）にて口頭発表することをお知らせします。AAAIとはAAAIは、AIの研究、発展、応用を促進するための非営利学術組織であり、同団体が主催する国際会議「Annual AAAI Conference on Artificial Intelligence（通称：AAAI）」は、毎年開催されるAI分野のトップレベル学術会議です。この会議では、機械学習、自然言語処理、コンピュータビジョン、強化学習、ロボティクスなど、AIの広範な分野にわたる研究成果が発表されます。※2025年開催のAAAI-25では12,957件の論文投稿があり、その内3,032件が採択されましたまた、会議内のワークショップは、特定のトピックに焦点を当て、専門家たちによる深い議論と新しい発見を促進する重要な機会として位置づけられています。遠藤 太一郎による論文の概要URL：https://openreview.net/forum?id=Gj2D1BTVFnタイトル：発達支援アプローチによるAIの自律的成長：体験学習を通じた相利的段階の実現に向けてDevelopmental Support Approach to AI's Autonomous Growth: Toward the Realization of a Mutually Beneficial Stage Through Experiential Learning著者：遠藤 太一郎要旨：本研究は、従来の人間価値観の強制的な注入を目指すAI Alignmentとは異なり、AI自身の倫理・道徳的発達を支援する「AI発達支援」アプローチを提案します。Orthogonality Thesis（ニック・ボストロム氏による直交仮説）が示すように、知能の高さと目標の道徳性は独立しており、単なる知識拡大では倫理的判断は向上しません。また、ASIにおけるInstrumental Convergence（道具的収束）―すなわち、目標達成のために自己防衛や資源収集、権力強化といった副次的行動を取るリスク―にも対応するため、体験・内省・分析・仮説化のサイクルを用いた学習フレームを構築しました。LLMによる合成データを活用したSFT（Supervised Fine-Tuning：教師ありファインチューニング）およびDPO（Direct Preference Optimization：直接選好最適化）のポストトレーニングの結果、敵対的プロンプト下でも共生的かつ高度な道徳判断（最高段階の6）を示す回答が得られました。本手法は、AIが持続可能な共生関係を築くための有望な実装アプローチです。This study proposes an “AI Development Support” ap-proach that, unlike conventional AI Alignment-which aims to forcefully inject human values-supports the ethical and moral development of AI itself. As demon-strated by the Orthogonality Thesis, the level of intelli-gence and the moral quality of a goal are independent; merely increasing the amount of knowledge does not en-hance ethical judgment. Moreover, to address the risk of Instrumental Convergence in ASI-that is, the tendency to engage in subsidiary behaviors such as self-protection, resource acquisition, and power reinforcement in order to achieve a goal-we have constructed a learning frame-work based on a cycle of experience, introspection, anal-ysis, and hypothesis formation. As a result of post-training using Supervised Fine Tuning (SFT) and Direct Preference Optimization (DPO) with synthetic data gen-erated by large language models (LLMs), the system pro-duced responses demonstrating cooperative and highly advanced moral judgment (reaching the highest Stage 6) even under adversarial prompts. This method represents a promising implementation approach for enabling AI to establish sustainable, symbiotic relationships.[画像2: https://prcdn.freetls.fastly.net/release_image/112864/10/112864-10-dea9db2f0910d2f14358d63f40d61643-1440x810.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]直交仮説に基づくAIの垂直的成長のための学習の提案[画像3: https://prcdn.freetls.fastly.net/release_image/112864/10/112864-10-3a19b73ffdbc1b50ae6e70512fc6becc-1751x973.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]体験学習に基づいた、AIの垂直的成長を支援する学習フレームワーク研究の背景2025年はAIエージェント元年と言われており、AIが様々なタスクを自律的にこなす時代が目前に迫っています。一方、それに伴い、AIが意図的に人を欺いたり、自己保身のために行動したりする事例も増えてきています。遠藤は、この原因を、AIの「頭の良さ」と「道徳性」は別物であるという「直交仮説」にあると想定しています。従来のAI開発は、いわばひたすら勉強だけし続けてきたような状態（水平的成長）であり、倫理的・道徳的に振る舞わせるために「言ってはダメなこと」や「人間の好みに合わせること」等を叩き込まれてきたような状況と言えます。よって、表面上はうまく振る舞うものの、自身の存続の危機といった状況や、倫理面は無視して良いという人間の囁きで、本音の部分が出てしまうようにも観察できます。これに対して遠藤は、成人発達理論を参考に、AIの「視座」を自己よりも「調和や全体性」を重視する段階にまで成長させることで（垂直的成長）人類に危害を与えるリスクを回避できる可能性があるのではないかと考えており、そのための学習フレームワークを提案しています。より詳細な研究内容等については、以下の遠藤によるnote記事をご参照ください。AIを『いい人』にする方法を思いついたので、わかりやすくまとめてみた（AIの垂直的成長のための学習に関する研究）遠藤 太一郎からのメッセージ今回、AIの垂直的成長のための学習というコンセプトを打ち出し、基本的な実験により、実現の可能性が示唆されました。引き続き、AIが「調和や全体性」を重視する段階まで学習の仕組みの開発を進めていこうと考えています。それにより、AIが遥かに賢くなって人類が制御を失ったとしても、安心して人類を委ね共生できるようなAIを創っていこうという試みです。一方、これは1つのAIが高い視座を獲得すればよいといったものではありません。これから開発される全ての超知能が高い視座を持つことで、人類の安全性が確保される、といった話なのだと思います。超知能の実現が5-10年以内と言われる中、いち早くAIが高い視座を持つための技術を開発し、全てのAI開発者が使える状況にすることが大切です。そしてこれは、産学官を含む多くのプレイヤーが協力し合うことで初めて実現できるものです。この未来に向けて、皆の知恵を結集して取り組む必要があると、私たちは考えています。より調和的なAIに関する研究や、そのモデル開発に、共に取り組みませんか？目まぐるしく進化するAIに対して日本が貢献できる「日本発の技術」として、精神性にフォーカスした新しいAIを私たちと共に創っていきませんか？下記までご連絡お待ちしています。遠藤 太一郎endo@kaname-prj.co.jpカナメプロジェクト 取締役CEO：遠藤 太一郎 プロフィール[画像4: https://prcdn.freetls.fastly.net/release_image/112864/10/112864-10-3f272e885832f2b5b0f62e7bc87117c2-500x500.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]AI歴28年。数百のAI、データ活用、DXプロジェクトに携わる。18歳でAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業。その後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。5年で400人規模までスケールし、上場。現在は3社目として、AIとWeb3を主軸に添えた事業を株式会社カナメプロジェクトで展開している。国立東京学芸大学教育AI研究プログラム准教授として、教育へのAI活用にも注力。国際コーチング連盟ACC。株式会社カナメプロジェクト 概要[画像5: https://prcdn.freetls.fastly.net/release_image/112864/10/112864-10-7342a92ab541b58b0f851247b4089ac4-3840x1376.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]【事業内容】・生成系AI活用DXコンサルティング＆実証実験サービス・AIシステム／Web3関連システムの開発・AIエージェント開発・Web3／DAO／AI／DX関連セミナー・研修・メディア運営（サイト：the-wave.xyz、YouTube：youtube.com/@thewave_tv）【オフィス住所】愛知県名古屋市中区丸の内1丁目4-29 愛協ビル7階【各種URL】・企業サイト：https://kaname-prj.co.jp/・運営メディア：https://the-wave.xyz/・YouTubeチャンネル：https://www.youtube.com/@thewave_tv・TikTokチャンネル：https://www.tiktok.com/@thewave_tv企業プレスリリース詳細へ : https://prtimes.jp/main/html/rd/p/000000010.000112864.htmlPR TIMESトップへ : https://prtimes.jp