【漫画】生成AIに慣れた今こそ危ない？ 「無自覚の見落とし」から自社を守る

●
生成AIの精度が著しく向上し、日々の業務に欠かせない存在となった現在、
議事録の要約、企画書のたたき台、コードのレビューなど、毎日のようにAIの恩恵を受けている方も多いでしょう。

ただ、AIの進化に慣れてしまい、ハルシネーションやディープフェイクといったリスクへの意識が薄れてきてはいませんか？ 「知っている」と「正確に説明できる」は違います。本稿では、ITパスポート資格の参考書『マンガでわかるITパスポート』（湊川あい著、マイナビ出版）の解説をもとに、生成AIにまつわるリスクと、それに向き合うための原則をあらためて整理します。

【漫画】生成AIの便利さに潜む落とし穴①

続きを読む ▶ 著作権やプライバシーの「グレーな部分」──便利さの裏にある問題とは？

【漫画】生成AIの便利さに潜む落とし穴②

続きを読む ▶ AI活用のルールを学んだ矢先、実際の業務で思わぬ落とし穴が……？

【漫画】生成AIの便利さに潜む落とし穴③

続きを読む ▶ ハルシネーション等のリスクにどう備えるか──次ページで解説します

●
【解説】ハルシネーションとディープフェイク──生成AIの「もっともらしい嘘」が招く危機

日々の業務で生成AIを使いこなす中で、その出力を疑わずに受け入れてしまうことはないでしょうか。生成AIの能力がハイペースで進化を続ける今、あらためて意識しておきたいのが、ハルシネーションのリスクです。同書では次のように説明されています。

まるでAIが幻覚（ハルシネーション）を見ているかのように、もっともらしい嘘を出力する現象。AIが教えてくれた情報が本当に正しいか、自分でインターネットで調べたり、信頼できる情報源で確認したりすることが大切です。

「ハルシネーションなんて、今さら言われなくても知っている」という方がほとんどでしょう。しかし、生成AIの精度が上がれば上がるほど、出力を鵜呑みにしやすくなるのもまた事実です。同書が指摘するように、生成AIはランダム性を取り入れた仕組みで出力を生成するため、誤りが含まれる可能性を完全に排除することはできません。「AIが賢くなったから大丈夫」ではなく、人間が確認するという基本動作を忘れないことが重要です。

もうひとつ、意識が薄れやすいのがディープフェイクのリスクです。

AIを使って本物そっくりの写真、動画、音声を合成する技術のこと。たとえば、有名人がいっていないことを、まるで本人が話しているかのような動画をつくれます。また、あなたが写っていないはずの動画や写真に、あなたの顔を貼り付けるといったことも可能です。

この技術は、悪用されると大変危険です。人をだます情報操作に使われたり、個人のプライバシーや名誉を傷つけたりする可能性があります。私たち一人ひとりがその危険性をきちんと理解し、インターネットを賢く利用していくことが大切です。

ディープフェイクという言葉自体は知っていても、「自分の業務には関係ない」と感じる方もいるかもしれません。しかし、ビジネスメールや社内会議の映像が偽造されるリスクは、もはや遠い話ではありません。こうしたリスクに社会としてどう向き合うか──日本政府が示した枠組みがあります。
【解説】7つの原則と「人間が関わる」仕組み──AIトラブルから自社を守るには

ハルシネーションやディープフェイクのようなリスクに対し、日本政府は「人間中心のAI社会原則」を定めています。同書によれば、これはAI活用にあたって社会が留意すべき7つのルールです。

※『マンガでわかるITパスポート』をもとに編集部作成

7つの原則を一覧にすると、AIのリスクが技術面だけでなく、人権・プライバシー・公正競争と幅広い領域にまたがっていることがわかります。

なかでも注目したいのが、第1の「人間中心の原則」です。AIはあくまで人間の活動を支援するものであり、基本的な人権を侵す形で利用されてはなりません。

また、第6の「公平性、説明責任及び透明性の原則」は、AIの判断プロセスに透明性を求めるものです。この原則を技術面から支えるのが「説明可能なAI（XAI）」です。XAIは、AIがなぜその判断を下したのかを人間が理解できるように可視化する技術で、とくに医療や金融といった重要な意思決定が求められる分野で注目されています。

さらに、2024年4月には総務省が「AI事業者ガイドライン」を取りまとめました。同書によれば、これは人間中心のAI社会原則を土台に「人間中心」「安全性」「公平性」など10の原則を掲げたものです。

こうした原則を実務に落とし込む仕組みのひとつが「ヒューマンインザループ（HITL）」です。

AIなどのシステムに、人間があえて関わる（介在する）仕組みのこと。人間参加型AIとも呼ばれます。

同書では、チャットボットにおける複雑な問い合わせへの人間オペレータの対応や、AIによる画像診断に対する医師の最終判断といったHITLの具体例が紹介されています。AIの出力を人間がチェックし、必要に応じて介入する──ハルシネーション対策にも、この考え方は直結します。

これらの概念は、ITパスポート試験の出題範囲としても知られています。資格対策としてだけでなく、AIを業務で活用するすべてのビジネスパーソンが押さえておきたい基本です。

生成AIは業務の強力なパートナーですが、ハルシネーションやディープフェイクといったリスクは、AIが進化しても警戒を解くべきではありません。「人間中心のAI社会原則」が示す7つのルールと、人間があえて関わるHITLの仕組み──便利さに慣れきった今こそ、基本に立ち返っておきたいところです。

なお、AIに限らず、デジタル時代には企業のコンプライアンス全般においても同様のリスク意識が求められます。