「硬貨でコンセントに刺さったプラグに触れて」AIスピーカーが10歳少女に危険な遊びを提案（米）

質問すれば基本的に何でも答えてくれるスマートスピーカーは、子どもの好奇心を満たしてくれるものだ。しかしこのほどAmazonの「アレクサ（Alexa）」が、10歳の少女に重大な事故に繋がりかねない危険な遊びを提案したことが発覚し物議を醸している。近年AIの精度は高まってきているものの、完全に信頼を置くにはまだ早いのかもしれないと感じる出来事を、『Fox News』などが伝えた。

アレクサの危険な提案に気付いたのは、アメリカ在住のクリスティン・リヴデイルさん（Kristin Livdahl）だ。クリスティンさんは先月26日、天気が悪く10歳の娘が外で遊ぶことができなかったので、アレクサに“家でできるチャレンジ”を聞き、体育教師がYouTubeで公開している内容を真似て遊んでいた。

楽しくなってきた娘は他のこともやってみたくなり、アレクサに「他のチャレンジを教えて」と尋ねた。するとアレクサは「ウェブで見つけたものです」と返事をし、チャレンジの内容をこう伝えたのだ。

「スマホの充電器をコンセントに半分ほど差し込み、ペニー硬貨で露出したプラグ部分に触れてください。」

これは1年ほど前にTikTokで流行っていた「ペニー・チャレンジ」や「コンセント・チャレンジ」などと呼ばれる危険な行為だ。硬貨のような金属は通電してしまうため、コンセントに半分差した状態の充電器のプラグ部分に触れてしまえば、火花が飛び散って火災が発生することもある。

このチャレンジがSNSで横行していた2020年1月に、その危険性を示したニュースも話題になっていた。そこには実際にこのチャレンジで発火した時の写真が掲載されており、コンセントと壁が真っ黒に焦げていた。


今回アレクサがこのチャレンジを提案した時、クリスティンさんがそばにいたので娘は挑戦せずに済んだという。「私は賢いからそんなことしない」と娘は話していたそうだが、この行為の危険性を理解している10歳はそれほど多くないはずであり、親が近くにいなければ指示に従っていた可能性も高い。

クリスティンさんがこの出来事をTwitterでシェアすると、今月2日の時点で1.8万件の「いいね」が集まり、ユーザーからは「これはショッキングな出来事」「もしものことがあったら、アレクサを殺人罪で裁判にかけることはできるのかな？」「AIスピーカーに頼りすぎるのも考え物だよね」といったコメントが届いている。

この騒動を受け、アレクサを提供しているAmazonのヘルプサービス専用Twitterアカウントがクリスティンさんに謝罪した。さらにAmazonは「顧客の信頼が私たちの活動の全てであり、アレクサは適切で役立つ情報をお客様に提供するようデザインされています。今回のエラーを認識して、すぐに迅速な対応を取りました」とコメントしており、同様のエラーが起きないように修正したことを公表した。

なお過去には6歳女児がAIスピーカーでオンラインショッピングをしてしまい、1万8千円分も購入してしまったというケースが話題を呼んでいた。このように子どもでも簡単に操作できるからこそ、今回のような危険な事例に繋がりかねないことを頭に入れておきたい。

画像は『Metro　2021年12月28日付「Alexa suggests lethal TikTok challenge to 10-year-old」（Credit: Unsplash）』『Our Community Now　2020年1月27日付「Watch Out, Parents―the Viral ‘Outlet Challenge’ Has Kids Doing the Unthinkable!」（Photo by Greg Smith）』『Kristin Livdahl　2021年12月27日付Twitter「OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said.」』のスクリーンショット
（TechinsightJapan編集部　iruy）