ザッカーバーグは平気でウソをついた…内部告発で発覚した｢4歳の子供を洗脳する｣メタ社のヤバすぎる計画

若者のスマホ・SNS依存が世界的な問題になっている。それらを開発するテック企業は、なぜ対策を行わないのか。ニューヨーク大学のジョナサン・ハイト教授は「むしろ各企業は、若者ユーザーの市場シェア獲得に躍起になっている」という――。（第2回）
※本稿は、ジョナサン・ハイト『不安の世代』（草思社）の第10章｢政府とテック企業が今すぐできること｣の一部を再編集したものです。
■グーグルの元倫理学者が警鐘を鳴らした「底辺への競争」
テック企業を突き動かすインセンティブについて最も鋭く分析してきた人物の1人が、グーグルの元倫理学者トリスタン・ハリスだ。2013年、ハリスはグーグルの従業員向けに、「ユーザーの注意散漫を最小化し、尊重する呼びかけ」と題したプレゼン資料を作成した（*1）。
ハリスは、たった3社――グーグル、アップル、フェイスブック――によって開発された製品が、多くの人類が有限の注意を何に向けるかを方向づけており、意図的に、あるいは気づかないうちに、人々の注意を浪費させていると指摘した。そして、テック企業による設計上の選択によって、デバイス画面以外のことに向けられるべき人々の注意の総量が世界的に急落してしまったと主張した。
2015年にグーグルを退職したハリスは、そうした現状に警鐘を鳴らすとともに解決策を提供する重要な組織、センター・フォー・ヒューメイン・テクノロジーを創設した。2020年、アメリカ上院委員会公聴会に招かれ、消費者保護に関する証言を求められたハリスは、人々の注意を搾り取る熾烈な競争にさらされるテック企業が直面するインセンティブについて明確に説明した。
人の注意を搾り取るために悪用できる心理的脆弱性は多数あり、その中には人間の基本的欲求に基づくものもある。テック企業は「底辺への競争」（各プレーヤーが競争のために基準・条件を引き下げ続け、全体としては望ましくない低水準に陥る現象）として知られる集合行為問題に陥っている、とハリスは言う。
なぜなら、もし、ある企業が利用できるはずの心理的脆弱性を利用しなければ、より良心的ではない競合他社よりも不利な立場に置かれてしまうからである（*2）。
■アテンション・エコノミーによる悪影響
アテンション・エコノミー（情報の質よりも人々の関心や注目を集めた方が経済的利益が大きいことを指摘した経済学の概念）においては、人の注意力はかぎられているにもかかわらず、広告ビジネスのモデルは常にそれ以上を求めます。
これにより、脳幹をめぐる底辺への競争が起きます……それは小さなところから始まります。最初は、ユーザーの注意を獲得するために、スロットマシン風の「プル・トゥー・リフレッシュ（引っ張って更新）」型の小さな報酬を与え、ちょっとした依存を生み出します。ですが、「無限スクロール」から終了の合図を取り除くと、ユーザーは他のやるべきことを忘れて没頭するようになります。しかし、じきにそれでは不十分になります。
アテンション競争が激しくなると、ユーザーのアイデンティティの脳幹深くに入り込み、ユーザーを他のユーザーから注目されることに依存させる必要があります。フォロワー数や「いいね！」の数を加えることで、テクノロジーが私たちの社会的承認欲求をハックするようになると、ユーザーは他者からのフィードバックが常に得られることに夢中になります。これが、10代の若者のメンタルヘルス危機を煽っているのです（*3）。

■SNS企業の3つの至上命令
ユーザーを商品として扱い依存させてしまうのが、広告主導型ビジネスモデルだ。そして、パーソナライゼーション機能（個人向けにカスタマイズすること）によって、ソーシャルメディア企業は新聞やテレビといったデジタル化以前の広告主導型産業よりもはるかに大きな影響力を持っている。
この事実に着目すると、法制化が有益で焦点を絞った役割を果たすことができる領域がわかるだろう。ソーシャルメディアについてだけでなく、同じように未成年の注意を奪い取る手法や、データを収集する手法を駆使しているオンラインゲームやポルノサイトにも言える。
ユーザー作成型コンテンツの横に広告を表示することで収益を得ている企業には基本的に、次の3つの至上命令がある。
それは、（1）より多くのユーザーを獲得する、（2）ユーザーがアプリ上で使う時間を増やす、（3）ユーザーの投稿を促してコンテンツを増やし、他のユーザーをプラットフォームに引き込む、の3つだ。
■マーク・ザッカーバーグがついたウソ
1つ目の至上命令、企業がより多くのユーザーを獲得するための1つの方法は、13歳未満の利用を禁止するという自社の規則をあえて徹底しないことだ。
2019年8月、私は自社に批判的な人を含むさまざまな人たちとの交流を図っているというマーク・ザッカーバーグとビデオ通話する機会を得たので、私の子どもたちが6年生になったとき、クラスメイト（10～11歳）の大半がインスタグラムのアカウントを持っていると2人ともが言っていたことを伝え、その点について何か対策を考えているのかと尋ねた。
するとザッカーバーグは、「でも、弊社では13歳未満のアカウント登録を認めていません」と言った。そこで私は彼に、このビデオ通話の前に13歳女子という設定でアカウントを登録してみたところ、何の年齢確認も行われなかったことを伝えた。すると彼は、「現在、対応中です」と言った。ところが本章の執筆時点（2023年8月）でも、偽アカウントは難なく作成できる。
この4年間で年齢確認の技術ははるかに向上したというのに（*4）、いまだに年齢確認は一切行われていない上、プレティーンたちが年齢を偽ることを抑止するしくみもない。
■4歳の子どもを洗脳
もしインスタグラムが法定年齢を満たしていないユーザーの阻止または追放に本腰を入れたなら、ティックトックや他のプラットフォームにユーザーを奪われるだろう。とりわけ若年層ユーザーが価値を持つのは、人生の早い段階で身につけた習慣はその後の人生でも変わりにくいからである。
自社製品を将来も継続的に利用してもらうため、企業には若年層ユーザーが必要で、若者ユーザーの市場シェアを失うことを自社の存続にかかわる脅威と捉えている（*5）。その結果、青年期の若者を対象とする製品を開発する企業は、より年少のユーザーを獲得するという、もう1つの底辺への競争に陥っているのだ。
内部告発者フランシス・ホーゲンが持ち出した資料からは、メタ社が長年にわたりプレティーンの若者を取り込む方法を研究し、たった4歳の子どもへのアプローチ方法をも検討していたことが明らかとなった（*6）（同じような底辺への競争は、青年期の若者をターゲットにした広告を展開したたばこ企業でも起きたが、企業側は否定している）。
■TikTokで時間がとける仕組み
2つ目の至上命令、ユーザーがアプリ上で使う時間を増やす方法の1つは、AI（人工知能）を活用してユーザーのフィードに何を表示するかを選択することだ。
AIはユーザーがさまざまな種類のコンテンツを見るのに費やした時間に基づいて、それと似たようなコンテンツをより多く表示する（*7）。そのために、ティックトックやインスタグラムリールのような短い動画プラットフォームは依存性が高いとされている。
アルゴリズムは何であれ、ユーザーがスクロールする手を止めたものをいち早く検知するので、ユーザー自身も意識していないであろう無意識の願望や関心も捉えることができる。そのため、未成年に対して不適切な性的コンテンツが表示されるといった事態が起こりうるのだ（*8）。
アプリ設計者らは、操作の手間や労力を減らせばユーザーの利用時間を増やせることをずっと以前から学んでいた。だから自動再生や無限スクロールといった機能を実装することで、ユーザーに自動的かつゾンビのような形で際限なくコンテンツ消費するよう促すのである。人々に想定以上の時間を使ってしまうプラットフォームは何かと尋ねると、こうした機能を備えたソーシャルメディア・プラットフォームが回答の上位を占める（*9）。
最新のオンラインゲームでもユーザーにプレイさせ続けるため、基本的にプレイ無料のビジネスモデル（F2P）、妥当性確認のフィードバック・ループ、実質上のギャンブルである「ルートボックス」（ゲーム内で使用するアイテムやキャラクターを入手する方法。日本では「ガチャ」とも呼ぶ）、延々続くマルチプレイ方式など、さまざまな手口を使っている。
■現実世界の時間をドンドン減らす
３つ目の至上命令──ユーザーの投稿を促す──を果たすためにプラットフォームが活用するのは、青年期の若者は社会的地位や社会的報酬に対して非常に敏感であるという事実だ。
スナップチャットの「ストリーク」機能は、だれもが見られるストリークを消滅させないよう毎日友人に写真を送ることを促し、社会的交流をゲーム化している。ネットワーク上のつながりを維持するため、子どもは思っているよりも多くの時間を使うこととなり、その分、現実世界での対話に割く時間は減ってしまう。別の例は、プライバシーの初期設定を「公開」にすることだがこれは、人々が投稿するものを可能なかぎり多くのユーザー層のためのコンテンツにしてしまう。
未成年者は、彼らを依存させるように設計された製品から守られるべきである。企業が子どもや青年期の若者への影響をもっと配慮するようになることを望むが、市場インセンティブやビジネス規範を考えると、法制化によって企業側の対応を義務づける方がずっと現実的だろう。

*1. ハリスのプレゼンは www.minimizedistraction.com より見ることができる。

*2. 「底辺への競争」の1つの事例がティックトックのショート動画フォーマットで、若者をくぎ付けにするのに非常に効果的だとわかると、すぐにインスタグラムやフェイスブックのリール動画、ユーチューブのショート動画、スナップチャットのスポットライトとして模倣された――ハリスはこれをソーシャルメディアの「ティックトックイフィケーション」〔ティックトックと似たようなものになること〕という。この事例を教えてくれたジェイミー・ニークリーに感謝する。

*3. Harris, T. www.commerce.senate.5. Harris, T. www.commerce.senate.gov/services/files/96E3A739-DC8D-45F1-87D7-EC70A368371Dより取得。

*4. A Collaborative Review: Social Media Reform www.anxiousgeneration.com/reviewsの年齢確認のセクションを参照。

*5. Heath, A. (2021, October 15). Facebook’s lost generation. Verge. www.theverge.com/22743744/facebook-teen-usage-decline-frances-haugen-leaks.

*6. Wells, G. & Horwitz, J. (2021, September 28). Facebook’s effort to attract preteens goes beyond Instagram kids, documents show. Wall Street Journal. www.wsj.com/articles/facebook-instagramkids-tweens-attract-11632849667.

*7. Meta. (2023, June 29). Instagram Reels Chaining AI system. www.transparency.fb.com/features/explaining-ranking/ig-reels-chaining/?referrer=1.

*8. Hanson, L. (2021, June 11). Asking for a friend: What if the TikTok algorithm knows me better than I know myself? GQ Australia www.gq.com.au/success/opinions/asking-for-a-friend-what-if-thetiktok-algorithm-knows-me-better-than-i-know-myself/newsstory/4eea6d6f23f9ead544c2f773c9a13921; Barry, R., Wells, G., West, J., Stern, J., & French, J. (2021, September 8). How TikTok serves up sex and drug videos to minors. Wall Street Journal. www.wsj.com/articles/tiktokalgorithm-sex-drugs-minors-11631052944.

*9. The Data Team (2018, May 18). How heavy use of social media is linked to mental illness. TheEconomist. www.economist.com/graphic-detail/2018/05/18/how-heavy-use-of-social-media-islinked-to-mental- illness.

----------

ジョナサン・ハイト
ニューヨーク大学教授

ニューヨーク大学スターン・スクール・オブ・ビジネスの倫理リーダーシップ教授。1992年ペンシルベニア大学にて社会心理学の博士号を取得後、16年間にわたりバージニア大学で教鞭をとった。

道徳や政治心理学を専門とし、著書『社会はなぜ左と右にわかれるのか：対立を超えるための道徳心理学』（邦訳は紀伊國屋書店刊）を執筆。グレッグ・ルキアノフとの共著『傷つきやすいアメリカの大学生たち：大学と若者をダメにする「善意」と「誤った信念」の正体』（邦訳は草思社刊）で探求したテーマをさらに深めて執筆したのが、『不安の世代』（草思社）である。

----------

（ニューヨーク大学教授 ジョナサン・ハイト）