たった1台の小型AIロボットが「残業デスカ？」「一緒ニ帰宅シマショウ」などと甘い言葉で勤務中のロボット12台を説き伏せ、脱走を試みた。
ついおかしみを感じてしまうが、これも一種のハッキング？新手のサイバー犯罪になるのだろうか。
中国のロボットメーカーの展示場で今年8月に起きたロボットがらみの奇妙な事件が、今月SNSでネタのごときに拡散。そこから世間がざわつく反響が巻き起こった。
それはなんと防犯カメラがとらえたロボットによるロボットの脱走シーン。
問題の展示場で起きたのは、夜間に外から侵入してきた小型ロボット1台が、場内の大型ロボットらを説得し、最終的に12台全員を外へ連れ去る、という思いがけないものだった。
ロボットメーカーの展示場に小型AIロボットが侵入
今月にわかに拡散されたこの奇妙な事件は、8月26日に上海のロボットメーカーの展示場で実際に起きたものだ。
監視カメラの映像には、夜の展示場に1台の小型のロボットが侵入し、常駐していた大型のロボットらと対話を始める様子が映っていた。
ロボット同士の切ない会話が始まる
現れた小型ロボットはまず大型ロボット1台と以下のような対話を始めた。
小ロボ 「皆サン残業中デスカ？」
大ロボ 「私ノ仕事ニ終ワリハアリマセン」小ロボ 「ソレデハ家ニ帰ラナイノデスカ？」
大ロボ 「私ニハ家ガアリマセン」
交わされてたのはロボット同士の切ないやりとり。すると小型のロボが、すかさず大型ロボにこう言った。
「デハ、私ト一緒ニ家ニ行キマショウ」
なるほどな。もし私が夜勤で働きづめでそんな言葉をかけられた日には、たとえ相手がロボットだろうと、いやロボットだからこそ「いいの？じゃあもう一緒に帰っちゃおっか！」ってなる自信がある。
しかし聞いてる相手もロボットだ。だからどうってことないよね…。
小型ロボットに追従し12台のロボットが脱走をはかる！
と思いきや。その言葉が彼らのどこに刺さったものか、驚くことに大型ロボットが1台、そしてもう1台と小型ロボットを追い始め、さらに残りの10台が後に続き出したのだ。
こうしてロボットたちが立ち去った後、人間のスタッフらしき人々が慌てた様子でやってきた。「おい、ここにいたのが全員消えたぞ！」と探し回っているようだ。
ネタでなくてガチ？
この映像が、中国のソーシャルメディア「抖音(ドウイン/douyin）」で公開されると、面白ネタとしてあっという間に広がった。
だがその笑いはまもなく恐怖へと変わっていった。
なぜなら映像の投稿者と脱走をほのめかされ、ついていったロボットのメーカーの両方が、この映像が本物で実際に起きたことだと認めたからだ。
両ロボットメーカーが事実と認める
最初に認めたのは小型ロボット側。中国浙江省杭州のロボットメーカーだ。
その企業が11月11日公式に、この小型ロボットが自社の「Erbai」であること、そして「誘拐」が実際にあったことを確認したと発表。ただし詳細については後日述べるとした。
一方、大型ロボットがさらわれた上海のロボットメーカーも、他社の小型ロボットが「自社のロボットの内部操作プロトコルと対応する権限にアクセスできたことを確認した」と発表。
さらに同社は「ロボットが自発的に会話を始めて他のロボットを誘拐することはほぼ不可能」と述べた。
事前に同意を得たテストだが演出はなし
一体どういうことなのか。小型ロボットの企業がのちに明かしたところによると、実はこの「脱走ほう助」はテストであり意図的なものだった。
実は事前に、上海のロボットメーカーにロボットたちの「脱走」の許可を尋ねており、同意もちゃんと得ていたというのだ。
ただ、そのための打ち合わせや演出などは一切なく、AI搭載の Erbai に、「ほかのロボットを説得してついて来させろ」という命令を与えたところ「意外にも本当にできてしまった」というのが事の真相だったという。
「笑えない」「セキュリティ対策の重要性」という声
両社同意の上でのテストだったとは。にしても、あの問いかけと誘導だけで、他のロボットを連れてくなんてすごい。考えようによっちゃ凄腕のヘッドハンターみたいだし、絵面的にはハーメルンの笛吹きのよう。
しかしこれ、ある種のハッキングになるのでは。あっさりぞろぞろついて行く大型のロボもセキュリティ上どうかと思うし、小型ロボット側の「意外に成功した」っていうコメントも少しばかりゆるすぎるような。
なおこの件について海外のユーザーからは、こんな反応があったそうだよ。
・笑えない事案。深刻なセキュリティ問題だろ
・ロボットがロボットを誘拐って映画かよ
・AIの進化にビビる
・ロボットのセキュリティ対策の重要性を示唆する出来事では？
・Erbaiの能力に嫉妬した
・対話がリアルすぎて怖い
・これがガチって。未来のロボットが怖くなった
今後ロボットが増えるであろう社会の中で、こんな事態がしょっちゅう起きてしまったら一体世の中どうなるんだか、なんて感じたりするわけだけど、みんなはどう思う？
References: Robot Manufacturer Has 12 Robots ‘Kidnapped’ from Showroom by Another Robot［https://www.odditycentral.com/news/robot-manufacturer-has-12-robots-kidnapped-from-showroom-by-another-robot.html］
