「○○ってなに？」とAIに聞く人は「センスがない」理由。東大卒国語教師が“AIへの伝え方”を解説

―［貧困東大生・布施川天馬］―

　みなさんは日常的にAIを使いますか？
　最近では、誰もかれもがスマホにChatGPTやGeminiなどAIアシスタントを常駐させていますよね。私も、調べものや打ち合わせの簡単な文字起こしなど、単純作業で済むものに関してはAIを利用するようになりました。

　単純作業ではAIの方が圧倒的に速い。それに、AIの思考の深さも段々とレベルが上がっており、答えがある問題であれば、もはや東大入試レベルであっても、スラスラと解かれてしまうのが現状です。

　私たちの信じる「知」とは、突き詰めれば機械にも疑似的に再現可能だったと突き付けられているようで、あまりいい気はしませんよね。

　それでも、これを嫌って地道な作業に身を投じるよりは、少しでも時間と体力を浮かせて、別の作業に注力したい……そんなホンネが出てきても、いいのではないでしょうか。

　ただ、AIを使うにしても使い方は考えたいものです。生成AIは、下手に触ると大やけどをしかねない諸刃の剣。

　今回は「絶対にやってはいけない使い方」について考えます。

ゴルフ未経験者をプロゴルファーと判断

　AI利用で必ず注意されるのが「ハルシネーション」の問題。誰もがかつて身近な人から嘘をつかれた経験があるでしょうが、AIはそれを人間よりも遥かに高いレベルでやってきます。

　かつて、まだAIが世に出て間もない頃のことです。興味本位で「布施川天馬ってどんな人？」と聞いたことがありました。

　当時は、まだ本を1冊出した程度の時期で、本連載も始まって1年か2年か、その程度だったからか、AIは「1980年代生まれのプロゴルファー」と答えてきたのです。

　もちろん、私はプロゴルファーではありません。なんなら、ゴルフクラブを握ったことすらもない。それでも私をプロゴルファーとして紹介したのは、恐らく名前の響きなどから推定したのでしょう。

　生成AIは「それっぽい答え」を作ることに非常に長けています。

　学習したデータを基にして、「どのような言葉が続きそうか」を予測し、一番それっぽい答えを作れる。だからこそ、「誰に聞いてもわかること」を聞けば、一瞬で答えが返ってきます。

　しかし、学習には一定の時間が必要なようで、「今日の夕方発覚したニュース」などについて尋ねても、多くの場合「根も葉もないフェイクニュース」と流されてしまいます。

　ないことをあったように話すこともあれば、あったことをなかったと話すこともある。だからこそ、こいつは話し相手以上の関係を求めるなら非常にコントロールが厄介です。

AIに対する「ナンセンスな問い」

　なぜなら、AIは「真偽不明の答え」ばかりを毎回返してくるから。

　利用者が、AIの回答の真偽や妥当性について不案内であるならば、そもそもAIなんて使わないほうがいいのです。

　つまり「○○ってなに？」といった問いかけをしてはいけない。

　この問い方をしている人はナンセンスです。利用者は概要すら掴めていないゆえに、どんな答えが返ってきても鵜呑みにするしかない。

　本当は全く事実無根のウソでも、AIの「それっぽさ」は我々にそう気づかせないようにしてしまう。ビジネスパートナーに据えるには、あまりにも不安定でしょう。

　AIを使ってリサーチするならば、「○○ってなに？」ではなく、「○○って△△ってこと？」など、せめて仮説をもって尋ねるべきでしょう。

　もしくは、「○○ってなに？調査に使用したページアドレスとサイト名を明記の上で、概要を300文字程度でまとめて」といったように、自分で調査を追いかけられるようにすると、AIの答えを参考にしつつ、答えがありそうなページを探す手間が省けるので、楽になります。

　場合によっては、「中学生にもわかる語彙レベルで」と指定してもいいかもしれません。

　説明が大雑把になる分だけ正確性は落ちますが、そのあと自分で調査に乗り出す前提があるならば、「わかりやすい雑な概要」が指針として役に立つからです。

　なんにせよ、自分で文字を読んで勉強する手間を惜しんでは、AIに騙される確率が非常に高まります。

　AIの答えはあくまで参考程度にとどめて、「内容を手掛かりにしつつ自分で調査する」ような姿勢が求められるでしょう。

　ただ、これは本当に面倒くさいことです。AIの答えが毎回間違っているわけではありませんし、なんなら常識に近い質問であるほど「正しい」答えが返ってくる確率も高まる。

　毎回AIの答えを疑って、裏を取るようでは、本来楽ができたはずの部分で苦労を重ねることになってしまい、本末転倒になってしまう。AIの言っていることが大体正しいなら、そのまま受け入れたほうが楽ですよね。

　しかし、その結果としてみんなが「正しい答え」を鵜呑みにした結果、様々な事件が起きています。

AIのせいで起きた訴訟や騒動

　今年3月には日本生命の米国法人がオープンAIを提訴しました。

　かつて和解した利用者が、弁護士資格を持たないAIから助言されて和解の破棄を試みた上に、日本生命を訴訟したからです。

　また、AIの無責任な助言によって職を終われた阿部慎之助氏の騒動は、まだ皆さんの記憶にも新しいでしょう。

　かつて、冨樫義博氏の人気漫画『HUNTER×HUNTAER』に「リスキーダイス」というアイテムが登場しました。

　20面さいころのうち、1面だけが大凶で、それ以外が大吉。大吉が出ればものすごい幸運が、大凶が出れば死に至るほどの不幸が襲い掛かる、まさに「リスキー」な道具です。

　裏取りをせずに使う生成AIもこれと一緒です。「今回は大丈夫だったから、次も……」と試していると、いつかそれまでの成功をチャラにするほどのとてつもない揺り戻しがやってきます。

　もしかしたら、それはあなた一人の不運で済むかもしれませんし、家族を巻き込むかもしれませんし、会社や自治体など大きな組織を巻き込んだ大騒動に発展するかもしれない。

　便利な面ばかりが際立っているから見えないだけで、確かに「大凶」の面は存在します。

　運よくそれが表れていないだけで、結局確率の話ですから、無限回使えばいつかはハズレに突き当たる。

　AIから離れて生きるのは、おそらく不可能です。だからこそ、面倒でも人力でAIのフォローを入れるんです。

　AIに運否天賦を任せるような使い方ではなく、もっとリスクを減らすように立ち回ったほうが、”負け組直通”の落とし穴に足を取られなくて済む。

　とはいえ、「全部機械任せにせず、ちゃんと自分でも働く」なんてこと、恐らくみなさん痛いほどわかっているはず。それでも、階段を避けてエスカレーターに乗ってしまうのが人の性ですよね。

　AIとの付き合い方は、究極「自分の精神との内なる戦い」に宿るのかもしれません。

＜文／布施川天馬＞

―［貧困東大生・布施川天馬］―

【布施川天馬】
著述家、教育ライター。 一般財団法人「ドラゴン桜財団」評議員。 1997年生まれ。世帯年収300万円台の家庭に生まれながらも、効率的な勉強法を編み出し、一浪の末東大合格を果たす。著書に最小コストで結果を出すノウハウを体系化した『東大式節約勉強法』、膨大な範囲と量の受験勉強をする中で気がついた「コスパを極限まで高める時間の使い方」を解説した『東大式時間術』など。株式会社カルペ・ディエムにて、お金と時間をかけない「省エネスタイルの勉強法」などを伝える。MENSA会員。（Xアカウント:@Temma_Fusegawa）