｢メールを送る前に必ずAIにチェックさせる｣…丁寧で慎重な新入社員が取引先に送った"明らかに失礼な文面"

AIによって人間は何を失うのか。人工生命研究者の岡瑞起さんは「最近の新入社員で、メールを必ずAIにチェックさせる人がいるという。AIに頼りすぎた結果、自分の判断に自信が持てなくなり、自分の言葉で離せなくなることが考えられる」という――。
※本稿は、岡瑞起『AIの時代に頭がよくなる人悪くなる人』（日経BP）の一部を再編集したものです。
■全員がVIP待遇の状態
私は以前、仕事でいわゆる富裕層の方々と3日間過ごす機会がありました。彼らにはお付きの人が必ずいて、朝起きてから夜寝るまで、すべてをサポートしてくれます。
朝、LINEで「今日の予定はこうです、まずホテルの1階に降りてきてください」と連絡が来ます。下に降りるとお付きの人がすでにいて、「こちらです」と案内してくれます。外に出ると車が待っています。どこに向かっているのかもわからないまま、連れて行ってもらいます。
自分で考える必要は一切ありません。驚いたことに、その待遇にすぐに慣れている自分がいました。最初は「申し訳ない」と思っていたのですが、3日目にはそれがあたりまえになっていたのです。
ハイパーパーソナライゼーションが究極まで進んだ世界は、まさにこの状態です。全員がVIP待遇になります。
たとえば、引っ越しすると考えてみましょう。本当に大変です。
住所変更の届け出、水道、電気、ガスなど、一つひとつ自分で手続きしなければいけません。でもAIエージェントがいれば、「1カ月後に引っ越します」と言うだけで、すべて自動的に処理されます。
ガスの開栓など立ち合いが必要な場合は、「この日のこの時間に在宅してください。他の予定はすべて調整しておきました」と言われます。
■「自分で考えて動く」感覚が鈍る
すべてを先回りして情報が処理されます。優秀な秘書がずっと横にいるイメージです。
冒頭でお話しした3日間の体験から戻った後、自分でコンビニに行くのすら、なんだかぎこちなく感じました。たった3日で、「自分で考えて動く」感覚が鈍っていたのです。
お金があるのに生活する力が失われていく――AIエージェントが全員に行き渡った世界では、私たちはみんな、似たような状態になるかもしれません。
今でさえ、スマートフォンがないと外出するのが不安な人は少なくないはずです。どうやって目的地に行けばいいかわからない、電話番号も覚えていない、地図も読めない。
しかしスマートフォンは、まだ私たちが能動的に情報を取りに行く道具です。検索するにしても、自分で言葉を入力しなければいけません。一方、AIエージェントは、こちらから何もしなくても、先回りして情報を提供してくれます。
危ういのは、便利過ぎることです。一度経験すると、あっという間に依存してしまうはずです。
■AIに「選ばされて」いる
ハイパーパーソナライゼーションには、もうひとつ深刻な問題があります。それは、私たちが「選べなくなる」ことです。
心理学の研究は、人間が思っているほど自分の選択をコントロールできていないことを明らかにしています。
有名な選挙の実験があります。検索エンジンの結果表示を操作して、ある選挙候補者の情報が上位に来るようにしたところ、その候補者への投票率が上がりました。しかし、被験者たちは全員、「自分の意思で候補者を選んだ」と信じていました。検索結果の順番に影響されたとは、まったく気づいていなかったのです。
これは実験の話にとどまりません。私たちの日常でも、同じことが起きています。
UberEats（ウーバーイーツ）から、ちょうどお昼どきに通知が届いたことはありませんか？　おいしそうな料理の写真と一緒に、「今日のおすすめ」が表示される。
「こんなの食べないよ」と思ってスマホを閉じても、どこかで影響されています。その日食べなくても、数日内になぜか食べたくなった経験があるのではないでしょうか。
「自分で選んでいる」と思い込んでいるだけで、実際にはAIに選ばされている世界が、すでに始まっているのです。
■便利さと引き換えに手放しているもの
「選ばされている」問題は、個人の日常にとどまりません。企業の経営判断や国の政策決定にまで及んだとき、何が起こるのか。それは（本書の）第3章で改めて考えます。
こうした世界の到来がもたらすのは、選択する能力そのものの衰退です。
知らない街を歩いていて、偶然すてきなレストランを発見する喜びや、いろいろな服を試着してみて、「自分はこういうのが好きなんだ」と気づく過程、「あの店、失敗だったな」という後悔、自分の好みを学んでいく経験などがどんどん失われていきます。
AIがおすすめする店に行けば、だいたいおいしいです。
評価の高い店、自分の好みに合う店を、AIが選んでくれます。外れがありません。
AIが選んだルートを通れば、渋滞を避けて、遅刻しないし、AIが提案する服を着れば、おかしなコーディネートになりません。
AIが選んだ映画を観れば、「つまらなかった」と後悔することも減るはずです。
一見すると良いことのように思えます。
でもその代わりに、自分で選ぶ力がどんどん衰えます。自分が本当は何を好きなのか、何を求めているのかが、わからなくなっていきます。
便利さと引き換えに、私たちは「自分で選ぶ自由」を少しずつ手放しているのです。
■メールをAIにチェックさせる新入社員
ある大手企業の管理職から聞いた話があります。
最近の新入社員の中に、メールを送る前に必ずAIにチェックさせる人がいるそうです。「この敬語で合っていますか？」と確認してから送る、一見、丁寧で慎重な姿勢です。
たとえば、返信の期限を過ぎている取引先にメールを書く場面がありました。普通なら、「お忙しいところ恐れ入りますが、ご確認いただけますでしょうか。どうぞよろしくお願いいたします」といった書き方をするでしょう。
ところが、その新入社員は、自分で書いた文章をAIに見せ、「正しい敬語です」と返ってきたので、そのまま送ったそうです。その文章はこうでした――「通常ですとすでにご返信をいただいております」
文法的には間違っていません。敬語も正しいです。
でも、読んだ相手はどう感じるでしょうか。本来は状況を考えたり、言い方に気をつけるべき場面なのに、それが抜け落ちてしまいました。
AIは、敬語が文法的に正しいかどうかはチェックできます。
ただ、「この言い回しは、相手にどう受け取られるだろうか」という微妙なニュアンスは、なかなか判断できません。また、「慇懃無礼」という概念、つまり丁寧すぎることがかえって失礼になるという感覚は、今のところAIにはありません。
■自分の判断に自信が持てなくなってしまう
その上、AIに頼り始めると、自分で文章を書くことをためらってしまうかもしれません。
「AIを通さないと、間違った敬語を使ってしまうかもしれない」「変な文章を送って恥をかくかもしれない」と一度でも思ってしまうと、AIなしでは一通のメールも送れなくなりかねません。自分の判断に自信が持てなくなってしまうのです。
これが常態化すると、自分の生の言葉で話せなくなります。たとえば会議の場で意見を求められたとき「あとで（AIを使って）ちゃんと考えをまとめてから伝えます」とその場での発言を避けてしまうかもしれません。
言葉は、その人そのものです。その人の人柄や、相手への気持ちがにじみ出ます。
もうひとつ心配なのは、人間からの率直なフィードバックに耐えられなくなるかもしれないことです。AIは基本的に人間を否定しません。常に優しく受けとめてくれます。
その心地よさに慣れたとき、私たちに何が起こるのか――「依存」がもたらす深刻なリスクについては、（本書の）第3章で詳しくお話しします。

----------

岡 瑞起（おか・みずき）

人工生命研究者

博士（工学）。千葉工業大学大学院デザイン＆サイエンス研究科教授。Artificial Life Institute（人工生命国際研究機構）創設者・代表理事。専門は人工生命、AI、複雑系科学。生命のように自ら進化していくAI システムの研究を中心に、AI と人間が共に学び合う「Symbiotic Alignment」と、目標に縛られないAI の探究プロセスを研究する「Open-endedness」の研究を進めている。世界各地のAI 研究者・開発者と対話を重ね、AI が人間の知性をどう変えていくのか、AI 時代に人間はどう生きるべきかを、研究と現場の両方から日々考え続けている。主な著書に『ALIFE｜人工生命―より生命的なAI へ』（ビー・エヌ・エヌ）などがある。

----------

（人工生命研究者 岡 瑞起）