AIが急速に社会に浸透し、驚きと混乱をもたらしている。
国内では首相の発言をディープフェイクで拡散した事例や、CMキャラが生成AIによるものとわかり炎上した事例が記憶に新しい。
オーストラリアのラジオ局では、秘密裏にパーソナリティーをAIに任せたことが物議をかもした。
一方、ビジネスシーンでは、コールセンターでAIが人手不足を補完する活躍ぶりで“救世主”として重宝され始めるなど、生産性の激的な向上で驚きを与えている。
人間の役割を奪う「脅威」ともなり得るが、頼もしいパートにもなり得るAI。法整備も不十分な発展途上段階における、その活用法や向き合い方はどうあるべきなのか。（ITジャーナリスト：井上トシユキ）

メディアでのAI活用が問題視されるとき

オーストラリアのラジオ局で若者向けの音楽番組のパーソナリティーがAIに任せられていたことが判明し、波紋を広げたことは、日本でも報じられた。
ニュースの読み上げについては、今年1月からNHKのラジオ国際放送でAIが導入されている。中国籍スタッフによる領土問題への不適切な発言を受け、人が介入できない再発防止措置として講じられた。いまのところリスナーからも特にクレームはなく、不自然な部分も指摘されていないようだ。
ラジオ局とNHK、二つのメディアの賛否を分けた分岐点は「AIの使用を事前周知していたか否か」にあると考えられる。
NHKはAI導入を前もって広報し、それを受け報道もされた。一方、オーストラリアのラジオ局はリスナーらから批判を受けた後に「『ライブラジオ』の概念そのものに挑戦する実験的な取り組み」だと発表。それまではAI導入を公表していなかった。
特にパーソナリティーの声については、AI作成だと告知しないまま、あたかも実在する人間かのようにプロフィール画像まで作成。
公式サイトでも公開しており、リスナーを欺く悪質さを示す証拠として、ヤリ玉にあげられた。

AI浸透により考えられる弊害

OpenAIが2022年11月にChatGPTをリリース以降、AIは驚異的なスピードで進化し、知らぬ間に社会と生活に浸透している。
プログラミングや画像、オフィスワークなどさまざまな場面で生産性向上などに寄与する一方で、あまりの影響領域の広さに、言い知れない不安やモヤモヤを感じる人も少なくないだろう。
とりわけ、ディープフェイクと呼ばれるAIを利用した顔や声の成りすまし（偽造）には、社会的、経済的な実害が発生するリスクがあることは疑いがない。
表面上は本物と見紛うだけに、一体、どの情報の、なにを信じればいいのかわからなくなるといった不安と混乱を社会に引き起こしかねない…。
実際、2023年には当時の岸田首相が、2024年には米バイデン元大統領やトランプ現大統領が、言ってもいないことをディープフェイクによってねつ造され、その動画が拡散してしまう事件が起きている。
昨年の能登半島地震でも、関係のない災害の動画がAIを通すことであたかも能登での出来事のように改変され、現地での救援活動や報道に混乱を招いた。飲食店店舗で「コロナ陽性者が確認された」という誤情報が大量に拡散されたこともあった。
このようなAIを利用した悪事や犯罪、デマ拡散は、今後ますます増えると同時に巧妙になり、社会に不安をもたらすだろう。身近な生活にAIが浸透していくことを歓迎ばかりしていられない、大きな理由のひとつだ。

ビジネスシーンでAIが“救世主”になるケース

同じようにAIが人間のようにユーザーに対応しても、混乱が生じることはなく、むしろ“救世主”となるケースもある。人手不足、コスト削減に悩むビジネスの現場だ。
その代表格といえるのがコールセンター。
購入した商品への問い合わせ、クレームなどの受付窓口となるコールセンターは、ネットを通じたショッピングが当たり前となった現在、もはや不可欠な存在といえる。
ところが、一定の教育期間が必要なことや日本語の壁、働き方に多様性を欠くこともあり、慢性的な人材不足が続いている。
そこで、同業界ではAI導入が積極的にはかられてきた。
当初は、カスタマーからの問い合わせに対し、的確な回答ができるよう、AIが過去事例やFAQと連携し、担当者に指示を行う仕組みが整えられた。定型的なやりとりでは問題ないものの、イレギュラーな事例には十分に対応できない弱点があった。
現在では、もはや人間と変わらないクオリティーで、ごく自然にカスタマーと対話が行えるシステムが登場。受付業務やクレーム対応の場面で人間に取って代わりつつある程の進化を遂げている。

偽の声を判別、詐欺予防も

さらに、コールセンターへかかってきた通話をチェック。不自然なフレーズや言い回しをピックアップし、ディープフェイクで作成された「偽の声」による詐欺を未然に防ぐAIの実用化も進む。
開発元は「代替品と引き換えに不具合のある購入品を送るとだましたり、購入したふりをしたりして代金の返金を求めるといった『AIによる顧客成りすまし詐欺』をかなりの精度で排除できる」と説明している。
こうしたAIによる顧客（人間）の成りすましは、これまでなら10人単位で担当者が集まり、時間をかけて合議しながら判別していたという。
その労力と時間がAI導入により削減できるとなれば、より創造的な仕事や人手が足りない仕事へと人員を振り向けることが可能となり、使わない手はないといえる。

AIは人間を超えられるのか

とはいえ、現在の生成AIや対話型AIの核心部分は尤度（ゆうど）、つまり「もっともらしさ」であり、人間が経験を積むことにより獲得するひらめきや臨機応変さが実装されているわけではない。
相当に練り上げられた「もっともらしさ」であっても、応対している相手に対する誠意や配慮が必ずしもあるわけではない点には注意が必要だ。

もっともらしい音声を使い、もっともらしい回答を作成する。ただし、あくまで本物の人間に似せているに過ぎない。だからこそ、AIが顧客の対応する場合には、その旨を事前に告知し、了解を得ることが必須といえる。
AIが人間の作業の代行で削減できるのは、無駄な時間と仕事と人員、要するに「コスト」だ。だから必要とされる場面も多く、社会から注目もされている。
一方で切り捨てられる職能や取りこぼされる属人的な知見もある。
すべてをAI任せにしてしまうことにはリスクがある。人が担当する選択肢も残しておくことは、企業、そして顧客にとってもとりわけ心理的な安心につながるのではないだろうか。
最近、専門家の間では、「AIが人間の能力を超えてしまうシンギュラリティはそう簡単には来ない」とする見解が増えつつある。どこまで行ってもAIはAIであり、人間は人間。両者の間に埋めようのない溝があることが改めて認識されつつある。
急速な進化とともに社会に浸透するAIだが、まだ序章にすぎない。

AIを使いこなし、より良い世の中にしていくのに必要なノウハウやルール、法律が確立されていくのは、まさにこれからであり、依存しすぎる段階では決してないことは認識しておく必要があるだろう。
■ 井上 トシユキ
1964年京都市生まれ、同志社大学卒業。会社員を経て1998年より取材執筆活動を開始。IT、ネットから時事問題まで各種メディアへの出演、寄稿および 論評多数。企業および学術トップへのインタビュー、書評も多く手がける。


編集部おすすめ