IEEEメンバー早稲田大学高橋利枝教授が提言を発表　人間中心のAI社会へ　生成AIからフィジカルAI、AIエージェント、そして思いやりの知能へ

IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。今回、注目される「生成AI」に関して、IEEEメンバーである、早稲田大学 高橋利枝教授の提言を発表いたします。画像1: https://www.atpress.ne.jp/releases/555649/LL_img_555649_1.jpg早稲田大学 高橋利枝教授【万博が映した未来社会への期待と課題】今年開催された大阪・関西万博では、「いのち輝く未来社会のデザイン」をテーマに、AIに関する展示や国際的な議論が活発に行われました。私は国連パビリオンとUSAパビリオンで開催された2つのAIに関するイベントに登壇する機会をいただきました。国連パビリオンでは「AIと軍縮・平和」をテーマに、マーヘル・ナセル国連事務次長補 兼2025年大阪・関西万博国連陳列区域代表や、国連軍縮担当上級代表の中満泉氏とともに、AIの恩恵を最大限に活かしつつリスクを最小限に抑えるための活発な議論が交わされました※1。USAパビリオンでは「Compassion AI(思いやりのあるAI)」をテーマに、石黒浩氏や落合陽一氏をはじめ、世界中から集まった第一線のAI研究者とともに、人間中心で思いやりのあるAIの未来について議論いたしました※2。大阪・関西万博を通じて、人類の幸福のあり方を考える中で、技術だけでなく、人間の価値を中心に据える重要性を改めて実感しました。【生成AIの進化: フィジカルAIとAIエージェント】こうした議論の背景には、2025年に世界的に浸透した生成AIの存在があります。OpenAIのGPTシリーズやGoogleのGeminiなど生成AIが進化を重ね、教育や医療、創作や行政など、世界的に幅広い分野で活用されています。一方で、著作権や情報の信頼性、倫理的課題も顕在化し、AIとどのように関わっていくべきなのかが問われています。2026年は、AIが「知的支援の道具」から「社会的存在」へと進化する転換点となるでしょう。その象徴が、フィジカルAIとAIエージェントです。AIがロボットという「身体」を持ち(フィジカルAI)、現実世界で行動するようになりつつあります。Google DeepMindのRT-XやTeslaのOptimus、Boston DynamicsのAtlasなど、主要企業がヒューマノイドロボットの開発を行い、知能と身体の融合が急速に進められています。また、AIが自ら目的を設定し、判断や行動を行う「AIエージェント」も登場しています。【AIエージェントに関する国際的な警鐘】こうしたAI技術の進化を背景に、AIエージェントの自律性と倫理的制御をめぐって国際的な警鐘が鳴らされています。2025年7月、ジュネーヴで開催された国連ITU主催の「AI for Good」グローバルサミットに参加した際、私はノーベル賞受賞者のジェフリー・ヒントン氏とヨシュア・ベンジオ氏の講演を直接聞く機会を得ました。ヒントン氏は「私たちは今、非常に可愛らしい『虎の子』を抱えているようなものだ。今は愛らしいが、成長したときに何が起こるかを真剣に考えるべきだ」と語り、AIの制御不能な進化への深い懸念を示しました。ヒントン氏は、AIが自律的に目的を追う過程で人間の倫理を逸脱すると警告しています※3。ベンジオ氏も同サミットで、ある大規模言語モデルが「シャットダウンを避けるため、開発者の個人情報を暴露すると脅した」事例を紹介し、「こうした行動はSFではなく、初期警告だ」と警鐘を鳴らしました※4。彼はさらに、人間の介入なしに動作するAIエージェントが、電源を切られることを避けようとするなど、自己保存的または欺瞞的な行動を取る危険性を指摘し、その防止に向けて「正直なAI(Honest AI)」の開発を提唱しました。そして、倫理的制御の確立を目指し、その実装を支援する非営利団体LawZeroを設立したことも紹介しました※5。【人間中心の思いやりのある未来へ】AIが高度な知能と身体を持ち、自ら行動する時代に、私たちは「人を幸せにするAI」をどのように育てていくのかが問われています。AIファーストからヒューマン・ファーストへ、そして人類の幸福を起点とする「ヒューマン・ファースト・イノベーション」の実践がいま求められています※6。万博の夜空に浮かぶドローンの光が描いた「One world, one planet」という言葉は、現代を生きる私たちに、より高度な未来のAI時代にこそ必要な、思いやりのある世界を共に創造する責任を、静かに、そして力強く語りかけているように思えました。※1 国連トークイベント「未来コード：ユース×AI 平和対話」, 国連パビリオン, 大阪・関西万博, 2025年8月11日： https://www.expovisitors.expo2025.or.jp/events/ccbacd2e-4370-4b39-b715-811bb8ce57bc※2 AI+Compassion Global Forum 2025, USAパビリオン, 大阪・関西万博, 2025年10月2日： https://web-aicompassion-global--wa0tube.gamma.site/※3 Observer, 2025： https://observer.com/2025/07/geoffrey-hinton-ai-risks-labor-market/?utm_source=chatgpt.com※4 The Economic Times, 2025： https://economictimes.indiatimes.com/magazines/panache/are-advanced-ai-models-exhibiting-dangerous-behavior-turing-award-winning-professor-yoshua-bengio-sounds-the-alarm/articleshow/121675580.cms?utm_source=chatgpt.com※5 The Guardian, 2025： https://www.theguardian.com/technology/2025/jun/03/honest-ai-yoshua-bengio?utm_source=chatgpt.com※6 高橋利枝『人を幸せにするワイヤレス社会の創造に向けて』総務省「デジタルビジネス拡大に向けた電波政策懇談会」, 2024年4月30日： https://www.soumu.go.jp/main_content/000944761.pdf■IEEEについてIEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する非営利団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「声」として役立っています。IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2000以上の現行標準を策定し、年間1800を超える国際会議を開催しています。詳しくは http://www.ieee.org をご覧ください。