｢メールを送る前に必ずAIにチェックさせる｣…丁寧で慎重な新入社員が取引先に送った"明らかに失礼な文面"

AIによって人間は何を失うのか。人工生命研究者の岡瑞起さんは「最近の新入社員で、メールを必ずAIにチェックさせる人がいるという。AIに頼りすぎた結果、自分の判断に自信が持てなくなり、自分の言葉で離せなくなることが考えられる」という――。※本稿は、岡瑞起『AIの時代に頭がよくなる人悪くなる人』（日経BP）の一部を再編集したものです。■全員がVIP待遇の状態私は以前、仕事でいわゆる富裕層の方々と3日間過ごす機会がありました。彼らにはお付きの人が必ずいて、朝起きてから夜寝るまで、すべてをサポートしてくれます。朝、LINEで「今日の予定はこうです、まずホテルの1階に降りてきてください」と連絡が来ます。下に降りるとお付きの人がすでにいて、「こちらです」と案内してくれます。外に出ると車が待っています。どこに向かっているのかもわからないまま、連れて行ってもらいます。自分で考える必要は一切ありません。驚いたことに、その待遇にすぐに慣れている自分がいました。最初は「申し訳ない」と思っていたのですが、3日目にはそれがあたりまえになっていたのです。ハイパーパーソナライゼーションが究極まで進んだ世界は、まさにこの状態です。全員がVIP待遇になります。たとえば、引っ越しすると考えてみましょう。本当に大変です。住所変更の届け出、水道、電気、ガスなど、一つひとつ自分で手続きしなければいけません。でもAIエージェントがいれば、「1カ月後に引っ越します」と言うだけで、すべて自動的に処理されます。ガスの開栓など立ち合いが必要な場合は、「この日のこの時間に在宅してください。他の予定はすべて調整しておきました」と言われます。■「自分で考えて動く」感覚が鈍るすべてを先回りして情報が処理されます。優秀な秘書がずっと横にいるイメージです。冒頭でお話しした3日間の体験から戻った後、自分でコンビニに行くのすら、なんだかぎこちなく感じました。たった3日で、「自分で考えて動く」感覚が鈍っていたのです。お金があるのに生活する力が失われていく――AIエージェントが全員に行き渡った世界では、私たちはみんな、似たような状態になるかもしれません。今でさえ、スマートフォンがないと外出するのが不安な人は少なくないはずです。どうやって目的地に行けばいいかわからない、電話番号も覚えていない、地図も読めない。しかしスマートフォンは、まだ私たちが能動的に情報を取りに行く道具です。検索するにしても、自分で言葉を入力しなければいけません。一方、AIエージェントは、こちらから何もしなくても、先回りして情報を提供してくれます。危ういのは、便利過ぎることです。一度経験すると、あっという間に依存してしまうはずです。■AIに「選ばされて」いるハイパーパーソナライゼーションには、もうひとつ深刻な問題があります。それは、私たちが「選べなくなる」ことです。心理学の研究は、人間が思っているほど自分の選択をコントロールできていないことを明らかにしています。有名な選挙の実験があります。検索エンジンの結果表示を操作して、ある選挙候補者の情報が上位に来るようにしたところ、その候補者への投票率が上がりました。しかし、被験者たちは全員、「自分の意思で候補者を選んだ」と信じていました。検索結果の順番に影響されたとは、まったく気づいていなかったのです。これは実験の話にとどまりません。私たちの日常でも、同じことが起きています。UberEats（ウーバーイーツ）から、ちょうどお昼どきに通知が届いたことはありませんか？ おいしそうな料理の写真と一緒に、「今日のおすすめ」が表示される。「こんなの食べないよ」と思ってスマホを閉じても、どこかで影響されています。その日食べなくても、数日内になぜか食べたくなった経験があるのではないでしょうか。「自分で選んでいる」と思い込んでいるだけで、実際にはAIに選ばされている世界が、すでに始まっているのです。■便利さと引き換えに手放しているもの「選ばされている」問題は、個人の日常にとどまりません。企業の経営判断や国の政策決定にまで及んだとき、何が起こるのか。それは（本書の）第3章で改めて考えます。こうした世界の到来がもたらすのは、選択する能力そのものの衰退です。知らない街を歩いていて、偶然すてきなレストランを発見する喜びや、いろいろな服を試着してみて、「自分はこういうのが好きなんだ」と気づく過程、「あの店、失敗だったな」という後悔、自分の好みを学んでいく経験などがどんどん失われていきます。AIがおすすめする店に行けば、だいたいおいしいです。評価の高い店、自分の好みに合う店を、AIが選んでくれます。外れがありません。AIが選んだルートを通れば、渋滞を避けて、遅刻しないし、AIが提案する服を着れば、おかしなコーディネートになりません。AIが選んだ映画を観れば、「つまらなかった」と後悔することも減るはずです。一見すると良いことのように思えます。でもその代わりに、自分で選ぶ力がどんどん衰えます。自分が本当は何を好きなのか、何を求めているのかが、わからなくなっていきます。便利さと引き換えに、私たちは「自分で選ぶ自由」を少しずつ手放しているのです。■メールをAIにチェックさせる新入社員ある大手企業の管理職から聞いた話があります。最近の新入社員の中に、メールを送る前に必ずAIにチェックさせる人がいるそうです。「この敬語で合っていますか？」と確認してから送る、一見、丁寧で慎重な姿勢です。たとえば、返信の期限を過ぎている取引先にメールを書く場面がありました。普通なら、「お忙しいところ恐れ入りますが、ご確認いただけますでしょうか。どうぞよろしくお願いいたします」といった書き方をするでしょう。ところが、その新入社員は、自分で書いた文章をAIに見せ、「正しい敬語です」と返ってきたので、そのまま送ったそうです。その文章はこうでした――「通常ですとすでにご返信をいただいております」文法的には間違っていません。敬語も正しいです。でも、読んだ相手はどう感じるでしょうか。本来は状況を考えたり、言い方に気をつけるべき場面なのに、それが抜け落ちてしまいました。AIは、敬語が文法的に正しいかどうかはチェックできます。ただ、「この言い回しは、相手にどう受け取られるだろうか」という微妙なニュアンスは、なかなか判断できません。また、「慇懃無礼」という概念、つまり丁寧すぎることがかえって失礼になるという感覚は、今のところAIにはありません。■自分の判断に自信が持てなくなってしまうその上、AIに頼り始めると、自分で文章を書くことをためらってしまうかもしれません。「AIを通さないと、間違った敬語を使ってしまうかもしれない」「変な文章を送って恥をかくかもしれない」と一度でも思ってしまうと、AIなしでは一通のメールも送れなくなりかねません。自分の判断に自信が持てなくなってしまうのです。これが常態化すると、自分の生の言葉で話せなくなります。たとえば会議の場で意見を求められたとき「あとで（AIを使って）ちゃんと考えをまとめてから伝えます」とその場での発言を避けてしまうかもしれません。言葉は、その人そのものです。その人の人柄や、相手への気持ちがにじみ出ます。もうひとつ心配なのは、人間からの率直なフィードバックに耐えられなくなるかもしれないことです。AIは基本的に人間を否定しません。常に優しく受けとめてくれます。その心地よさに慣れたとき、私たちに何が起こるのか――「依存」がもたらす深刻なリスクについては、（本書の）第3章で詳しくお話しします。----------岡 瑞起（おか・みずき）人工生命研究者博士（工学）。千葉工業大学大学院デザイン＆サイエンス研究科教授。Artificial Life Institute（人工生命国際研究機構）創設者・代表理事。専門は人工生命、AI、複雑系科学。生命のように自ら進化していくAI システムの研究を中心に、AI と人間が共に学び合う「Symbiotic Alignment」と、目標に縛られないAI の探究プロセスを研究する「Open-endedness」の研究を進めている。世界各地のAI 研究者・開発者と対話を重ね、AI が人間の知性をどう変えていくのか、AI 時代に人間はどう生きるべきかを、研究と現場の両方から日々考え続けている。主な著書に『ALIFE｜人工生命―より生命的なAI へ』（ビー・エヌ・エヌ）などがある。----------（人工生命研究者 岡 瑞起）