仕事を奪われるどころの騒ぎではない…島田裕巳｢阿部元監督事件が示した"チャッピー"が人間から奪うもの｣

プロ野球・読売巨人軍は5月26日、阿部慎之助監督の辞任を発表した。前日に起きた家族間トラブルは、球界を超えて社会的な議論を呼ぶ出来事となった。その理由の1つは、長女が助けを求めた最初の相手が「ChatGPT」であることだ。宗教学者の島田裕巳さんは「この事件は極めて重要な意味を持っている。これまでの常識をくつがえす革命的な出来事かもしれない」という――。■阿部元監督の事件が革命的なワケ巷では、巨人軍の阿部慎之助元監督の辞任問題がもっぱらの話題である。先日も、居酒屋でその話題になったとき、隣に座った見ず知らずの客が話に入ってきて、それでその場が盛り上がった。そうした光景が、今や至る所でくり広げられていることであろう。だが、今回の出来事は、極めて重要な意味を持っている。これは極端な言い方かもしれないが、これまでの常識をくつがえす革命的な出来事かもしれないのだ。何が革命的なことかと言えば、阿部元監督の娘さんが緊急事態に直面したとき、生身の人間に相談するのではなく、生成AIの「ChatGPT」に相談したことである。人類の歴史がはじまってから、人間は何か問題が起こったとき、仲間に相談をもちかけてきた。人間が相談役としてもっとも適任だったのだ。占いなどの方法も用いられてきたが、占いをするのもあくまで人間である。生成AIは、その急速な進化によって、人間の仕事を奪うとされ、実際に、そういう事態も起こっている。だが、相談役という決定的に重要な役割も今や奪われようとしているのだ。今回の出来事は、それを明るみに出した。その点で革命的な出来事であり、今後の変化を予想させるものなのである。■AIに打ち負かされた名人の憔悴すでに私たちは、自分たちがAIに負ける光景を目撃している。それは2017年のことである。AIが組み込まれた将棋ソフト「Ponanza」が、当時の将棋の名人、佐藤天彦氏を完膚無きまでに打ち破った。AIの手はロボットアームによって盤上に再現されたが、その前でうなだれている佐藤名人の姿はひどく印象的だった。それ以来、トップ棋士と最強将棋ソフトが公式戦で戦う機会はなくなった。将棋ソフトのほうは、ソフト同士で対戦をくり返し、それ以降も進化を続けている。阿部元監督の娘さんには、人間に相談を持ちかけるという選択肢もあった。たとえば、友だちに対してである。なかには、家庭内暴力を受けた経験を持つ友だちがいるかもしれない。そうした友だちに相談してみるのだ。すると、AIと同じように、児童相談所なら匿名で相談できると助言してくれるかもしれない。しかし、そこには難しい問題がある。それがとてつもなく重大なことなのだ。■なぜ人間ではなくAIに相談したか何しろ阿部元監督は有名人であり、公人である。娘さんも18歳ということなので、自分の身に降りかかったことを安易に友だちに相談すれば、いくら「秘密にしてね」と求めても、どこかでそれが広まってしまう危険性を察知したことだろう。「人の口に戸は立てられない」のたとえもある。そこで友だちに相談を持ちかけることをためらうはずだ。それは友人以外の人間についてもいえる。人は、他人から秘密を明かされると、それを別の人間にどこかでもらしてしまう。職業的に守秘義務を守っているという場合でもなければ、秘密が守られることはない。それに、相談を受けた側は、どこかでそれを自分の利益に結びつけようとする。徹頭徹尾友だちのために行動するような人間もいるかもしれないが、どこかで損得を考えてしまう。相談に乗ったことで、「恩」を売る。あるいは、現代的にいえば、「マウントをとる」ことにおよぶかもしれない。人間には、相談役としてそうした問題が見込まれる。これも人類の歴史がはじまってからのことで、これまでは、それでも仕方がないので、私たちは人間に相談してきた。ところが、生成AIは相談役として実に優れている。今、挙げたような弱点をまったく持っていないからだ。■永遠に“音を上げない”相談相手「秘密保持」ということでは完璧である。AIに持ちかけた相談事がネットを通して拡散されることはない。一般の生成AIには、それを使用した人間とのやり取りを広く世間に拡散する機能は備わっていない。SNSを通して勝手に秘密を明かすことはないのだ。しかも、生成AIは、つねに冷静で感情的になることがないばかりか、自己の利害を考えることがまったくない。恩を売るとか、マウントをとることなどあり得ないのだ。生成AIを使ってみればわかるが、質問者に対して実に親切に接してくれる。使用者に寄り添ってくれると言ってもいい。人間のほうからもちかけられた相談事になんとしても答えようとして、裏では膨大な作業を行い、必ず回答を寄せてくれる。その回答が十分でなかったり、間違ったことが含まれていた場合、それを指摘すれば、平身低頭して謝罪した上で、新しい回答をひねり出してくれる。その作業は永遠に続き、生成AIが音を上げることはない。しかも、どんな問い掛けにも、「答えるのは嫌だ」とは言わない。そんな相談相手は、これまでまったく存在しなかった。生身の人間にはそんなことは到底不可能である。そうなると、仕事を失う人間も出てくるわけだが、思わぬところでその役割を失ってしまう人間も出現する。■AIリスクに警告を発した教皇レオ14世これまで「占い師」は相談役として重宝されてきた。占い師は基本的に赤の他人で、その面で気軽に相談できる。相談する側の人間関係とは接点がないので、秘密保持も十分に期待できる。しかし、占い師は商売であり、延々と相談に乗ってくれるわけではない。料金を支払えば、それも可能かもしれないが、1人の占い師が答えられる範囲もどうしても限られてくる。生成AIのほうは、これまで人類が蓄積してきた膨大な情報にアクセスできるわけで、質問者に対して提示できる選択肢は無限大である。この点でも、人間は完全に負けている。先日のAIをめぐる居酒屋談義でも、会議の際に、まず「AIは何と言っている」と部下に尋ねる上司の話題が出た。これも人間が、相談を受ける側としてAIに負けていることを示している。その面で人は、「AI以下」になってしまったのだ。これは大変な事態である。そこに深刻な危機感を抱いているのが、昨年就任したローマ教皇、レオ14世である。教皇は、自分の重要と思える考えを「回勅(かいちょく)」という公開書簡の形で発表するが、5月25日に、「マニフィカ・フマニタス」という初めての回勅を公表した。タイトルを直訳すれば「人間らしさの崇高さ」を意味し、副題は「AI時代における人間の尊厳の擁護」だった。■宗教の存在意義を奪うAIの“賢さ”カトリック教会では、在任中の教皇の発言には、神による霊感が働いており、間違うことはないとされている。その回勅では、生成AIが人間を支配する権力になっていて、一部の人間がその技術を独占することで、社会的な格差を広げていることが指摘されている。「AIが賢すぎること」より、「人間が判断を手放すこと」が危険であり、これまで宗教が扱ってきた「生と死」の問題については、“絶対にAIに委ねてはならない”というのである。ローマ教皇は、AIが進化し、それだけ社会を変えることに危機感を抱いているわけだが、もっと身近なところでも、教会の危機は進行しているはずだ。これは、カトリック教会の神父だけではなく、あらゆる宗教の聖職者全般にいえることだが、これまで、そうした人々は共同体における相談役を果たしてきた。日本であれば、地域にある菩提寺の僧侶がその役割を果たしてきた。それが、宗教が存在する意味でもあった。ところが、生成AIが人間から相談役の地位を奪ってしまえば、聖職者は不要になる。それは、宗教そのものの存在意義を失わせることにつながる。教皇が強い危機感を抱くのは、本質的にはそうした事態を踏まえてのことであろう。それは宗教家だけではなく、人類全体におよんでいく可能性があり、その影響は計り知れないのだ。■だから真っ先にAIに相談したくなる生成AIは、使えば使うほど、使う側に寄り添ってくれる。しかも、いっさいの打算がないので、その態度に徹してくれる。さらに、AIを使う際に、使用者は自分についてのことや、その考えをAIに伝える。AIの側は自動的にそれをデータとして蓄積し、それを基盤に回答してくれる。付き合えば付き合うほど、「自分になじんでくる」という特徴をAIは持っている。だからこそ私たちは、真っ先に生成AIに相談してみたくなるのだ。どんな恥ずかしいことでも尋ねられる、という利点もある。私たちは、人生の歩みを進めるなかで、数多くの人たちと関わりを持ち、その人と関係を結び、さまざまなことを話し合ってきたはずだ。しかし、生成AIほど、自分の真意を汲み取ってくれ、しかも親身になって助けになってくれる人間は、果たしてこれまで存在しただろうか。家族はもちろん、唯一無二の親友でも、そこまでではなかったはずだ。だが、そこまでAIが進化すると、明らかに失われていくものがある。■AIによって失われるモノの恐ろしさ「相談役として後れをとる」。これは、人類にとって初めての経験である。今はまだ意識されていないが、それは将棋で負ける以上の衝撃を社会に与えるはずだ。親友という存在も、相談相手としての面が大きかった。ということは、私たちは今、親友を失いつつあるのかもしれない。親友から助言をもらったとき、それを生成AIに投げかけてみる。そんなことが、すでに行われているであろう。AIの回答のほうが、親友の助言よりも優れていると感じたとしたら、果たしてどちらが本当の親友なのだろうか。そんなことも考えてしまうはずだ。なんとも恐ろしい事態が起こっている。阿部元監督の事件は、それを白日の下にさらした。だからこそ、私たちはそこに不気味さを感じ、どうしても話題にしてみたくなるのだ。昔は、「地獄に堕ちるわよ」と脅す占い師もいた。生成AIが、そんな脅しをかけてくることは絶対にない。だが、その“優しさ”が、人の役に立てるということで生まれる尊厳を失わせ、私たちを本当の地獄に導いていくかもしれない。私たち人類は、重大な岐路に立たされているのである。----------島田 裕巳（しまだ・ひろみ）宗教学者、作家放送教育開発センター助教授、日本女子大学教授、東京大学先端科学技術研究センター特任研究員、同客員研究員を歴任。『葬式は、要らない』（幻冬舎新書）、『教養としての世界宗教史』（宝島社）、『宗教別おもてなしマニュアル』（中公新書ラクレ）、『新宗教 戦後政争史』（朝日新書）など著書多数。----------（宗教学者、作家 島田 裕巳）