画像生成AI学習防止ツール「emamori」と「Glaze」でクリエイターの権利を守る（前編）

ChatGPTの日本語版が広く使われ始めてから約1年が経とうとしています。その後、さまざまな生成AIが登場し世の中に大きな社会変動をもたらしています。そんな生成AIの中でも、注目されているのが画像生成AIです。   

しかし、画像生成AIは無断で学習されたデータによるものが広く普及しており、クリエイターの権利を侵害していると問題になっています。一方で、画像生成AIからクリエイターの作品を守るAI技術も研究開発が徐々にリリースされはじめています。   

そこで、今回はイラストレーターの作品を、不正な生成AIから保護するツールとして注目されている「emamori」と「Glaze」について前編と後編に分けて解説します。前編である本稿では「emamori」の使い方やメリット・デメリットなどをメインに紹介します。  
※後編「Glaze」の解説についてはこちら

目次

画像生成AIを取り巻く最新事情

生成AIから保護するツールについて解説する前に、画像生成AIを取り巻く最新事情を簡単に振り返っておきましょう。

▶不正な学習データを利用していると考えられる生成AIとは

優れた最新の技術であると肯定的に報道されてきた画像生成AIや動画生成AIの多くは、ネット上に配信されているクリエイターの著作物を無断で学習したデータベースを利用しており、著作権法においても非常に問題のあるシステムであることが分かってきました。また、フェイクコンテンツや児童ポルノなどに悪用されるリスクもあり、生成AI技術に対する法的規制の必要性も叫ばれています。

特に「Stable Diffusion」や「Midjourney」という画像生成AIは、著作権侵害となる画像が含まれてる無断学習システムを利用した技術であると各所で問題を起こしています。こうした、無断学習システムを利用した技術は、Stable Diffusionのモデル拡張機能であるLoRAとMidjourneyの他にも、LAION-5B、NAIといったAIシステムがあります。これらの画像生成AIは、画像を生成しているのではなく、学習したデータを一部改変して復元しているだけではないかという見方も存在し、学習データの量が増えるほどその傾向が強まると検証する専門家もいるのです。

▶生成AIを規制する法律周りの動向

こうした生成AIの問題を受けて各国で生成AIを規制する法案が提出・制定されはじめています。アメリカではまだ包括的にAI規制法は制定されていませんが、各州議会でAI規制法に関する動向が伝えられています。例えば、アメリカ合衆国テネシー州では「エルヴィス法」と呼ばれるアーティストの声の肖像権を保護する法律が2023年3月21日に成立し、同年7月1日に施行されています。この「エルヴィス法」の制定は、生成AIの法規制に関する議論に大きな影響を与えました。また、2024年2月にはカルフォルニア州議会が、企業に生成AIコンテンツを利用した場合に、それを明示することを義務付ける法案を提出、2024年3月にはニューヨーク州議会が、ディープフェイクの制作や配布を違法とする法案を提出しています。  
参照記事：The king and AI: Elvis vs copyright infringement（CTech） 

EUでは、欧州委員会がAIを包括的に規制する「人工知能法（Artificial Intelligence Act）」　を提案しており、欧州議会と欧州理事会で審議された後に、2024年中に成立見込みであると報道されています。この法案は、AIシステムのリスクを4段階に分類して、それぞれのレベルで規制を設けている法案です。
参考URL：EU AI Act: first regulation on artificial intelligence（European Parliament）

日本国内もでも、文化庁が「AIと著作権に関する考え方について（素案）」に対するパブリリックコメントを踏まえた上で審議会の議事内容や配布資料を公開しており、今後の法規制に関する指針を示しています。この文化庁の審議結果に対して、一定の評価を与える有識者もいれば、全く権利が守られておらず日本政府の対応が不十分であると懸念を示すクリエイターもおり賛否は分かれています。日本政府は、AIに関する規制を強化するよりも、AI導入によって得られる経済効果や産業創出を優先したいといった思惑が透けて見えるのも確かなので、今後の動向は注視しておく必要があるでしょう。

ただ、AIのリスクに関する問題は国内の動向だけでは見極められない部分があります。著作権には「ベルヌ条約」という国家間での著作権の取り扱いを制定した国際的な法律があるため、日本における生成AIに対する法規制にも前述の海外での動向が影響を与えると考えられるからです。
参照URL：文化審議会著作権分科会法制度小委員会（第7回）（文化庁）  
参照URL：AI戦略会議（内閣府）

▶AIの動向

現在の生成AIには問題が山積していますが、一方で今後生成AIを一切触れずに生活を営んでいけるかというとまた別問題でしょう。AIに仕事を奪われる可能性がある職種というのはクリエイターだけではありません。第1次～第3次産業革命までは、主にブルーワーカーを中心とした業種が機械にとって代わられてきた訳ですが、現在私たちが直面している第4次産業革命はオフィスでデスクワークを中心に活動するホワイトワーカーの職業領域の変革で、AIに仕事を奪われる側でなく、生成AIを使いこなす側になれるのかというのがビジネス上の課題になっています。  

また、GAMAMと言われるような世界トップランクのビックテック企業が軒並みAI開発を強化しています。いままでAI開発に関して目立った動きを見せていなかったAppleもAI関連求人が急増しており、次のiOSで生成AI機能が搭載されると報道されています。クリエイターに利用者が多いAppleの端末も、生成AIが標準搭載されることで、さらに普及が加速していくと予想されるのです。また、Microsoftは日本市場においてもAI関連サービスの増強を図っており、先ごろOpen AI Japanも設立されています。  
参照記事：Apple posts 28 new AI positions in May, says generative AI will ‘transform’ iPhone
（9to5Mac） 
参照記事：アップル、新AIツール準備－マイクロソフト「Copilot」に対抗（Bloomberg 日本語版）  
参照記事：マイクロソフト、生成AI需要で日本のデータセンター増強などに4400億円投資
（日経クロステック）   
参照記事：OpenAI Japanスタート　3倍速い日本語特化モデルも公開へ（Impress Watch）

 

AI学習からのイラストを保護する「emamori」

こうした生成AIによるリスクからコンテンツを保護するサービスとして注目を集めているのが、今回紹介する「emamori」です。 

▶emamoriとは
「emamori」は、SnackTime株式会社という日本のベンチャー企業が開発したクリエイターのイラストを無断のAI学習から保護するサービスです。「emamori」は中国の上海交通大学の研究チームが開発した画像のスタイルと内容の模写を防ぐ画像処理技術である「Mist」というシステムを基に提供されているサービスです。

「Mist」はオープンソースとして提供されている技術で、イラストに人間の目では見えにくい特殊な電子透かし・ノイズを挿入することで、AI学習を妨げ、模倣AIイラストの生成を一定範囲で阻止することが可能になるシステムです。

画像はMistドキュメントから引用上の画像はMistのドキュメントからの引用です。保護後のイラストをAI学習に読み込ませても、同じような絵柄・タッチのイラストが生成されにくくなっていることが確認できます。  
参照URL：mistのGithubページ

▶emamoriの料金プラン

 emamoriは基本的に無料で利用できるツールですが、サーバー代が予想以上にかかるといった背景から追加機能を搭載した一部有料プランが提供されるようになりました。有料版は「Mist v2」という最新の保護機能を搭載したバージョンで、透かし模様も無料版の「Mist v1」より目立たなくなっています。また、上限枚数や同時アップロード可能数などによって「Standard」「Pro」「Premium」の3つの有料プランが用意されています。

 

｢emamori」の基本的な使い方

ここからはemamoriの基本的な使い方を説明します。 

1.「アカウント登録」をクリック～認証コード送信

「アカウント登録」をクリック 「認証コード送信」をクリックemamoriの公式ページへアクセスします。アカウントを新規作成する場合は、TOPページにある「アカウント登録」をクリックします。「アカウント登録」の入力項目へ画面が切り替わりますので、任意アカウント名を入力し、アカウント登録で利用したいメールアドレスを入力します。アカウント名とアドレスが入力できたら「認証コード送信」をクリックします。   

この「認証コード送信」ですが、bot対策のためにエラーになってしまうことがあります。エラーになった場合は、ページをリロードして再度同様の手順を踏んでみてください。私はメールアドレス等を手入力してみたり、アドレスを変えてもエラーになってしまったのですが、リロードすることで認証コード送信が完了できました。

2.認証コード送信～「イラストの保護」をクリック

認証コードを入力しアカウント登録 「イラストの保護」をクリック登録したメールアドレスに送られた認証コードを、認証コード入力欄に入力します。利用規約を確認して、チェックボックスにチェックを入れたら「アカウント登録」をクリックします。アカウントの登録が完了すると右上の画像のようなメイン画面に切り替わります。

emamoriには保護された作品を閲覧できるSNSのような機能も搭載されていますが、今回はイラストの保護についての使用方法を解説していきます。左側サイドバーに「イラストの保護」という項目がありますので、これをクリックします。

3.保護したいイラストを選択

「選択」をクリック 画像を選択し「開く」右側の画面に表示されるイラスト選択という項目の中に、「mist v1」という欄があります。この欄の中にある「選択」をクリックします。「選択」で表示されたポップアップウィンドウで端末にある保護したい画像を選択し「開く」をクリックします。

4.保護したい画像をアップロード～保護処理中の待機

「アップロード」をクリック 保護処理を待機画像が選択できたら「mist v1」という欄に、選択した画像のサムネイルが表示されます。欄内に「アップロード」というボタンが表示されますので、これをクリックします。保護処理には少し時間を要しますので、処理中は右上の画像のように「待機中...」と表示されます。

5.保護が完了した画像をダウンロード

「ダウンロード」をクリック 保護処理されたイラストが端末にダウンロードされる保護処理が完了したら緑色の「ダウンロード」というボタンが表示されますので、これをクリックします。これで、保護処理されたイラストが端末にダウンロードできました。

6.保護処理前後の比較 

保護処理前後の比較（全体） 保護処理前後の比較（拡大）保護処理される前後で、どのように違うか確認しておきましょう。サムネイル画像やSNSのアイコンといったサイズの画像であれば、見る人によって個人差があると思いますが保護処理の模様はそれほど気になりません。一方で、少し拡大すると保護処理の模様は、かなり目立ちます。

 

｢emamori」のメリット・デメリット

▶emamoriのメリット
emamoriを利用するメリットは以下のような点があります。 

手軽に利用できる 
emamoriは画像処理に少し時間を要しますが、アカウントを作成したらすぐに利用でき、操作方法もわかりやすいので手軽に利用できます。

日本国内のサービス   
基になっているオープンソースのシステムは中国の大学研究チームによるものですが、emamoriのサービスの提供自体は日本の企業が行なっています。そのため、表記も日本語でガイドラインや利用規約なども日本語で確認できるので安心して利用できます。 
参照URL：利用規約のページ 
参照URL：ガイドラインのページ

有料版ではLoRAに対する保護機能を持つことが検証されている   
有料版で使われている「Mist v2」というバージョンは、LoRAに対する保護機能を持つことが検証されています。  

プロのイラストレーター・漫画家が利用している   
プレスリースにも記載されるように、すでにプロのイラストレーターがemamoriを利用しています。すでに、利用者としての感想や、画像処理されたプロの作品も確認できますので、それを確認して有料版の利用などを検討できるのもメリットです。

▶emamoriのデメリット
emamoriを利用するデメリットは以下のような点があります。 

画像のクオリティが低下する
emamoriは画像処理を行うことでイラストを保護するため、どうしても画質が低下してしまいます。特に無料版のMist v1は画像処理の模様が目立つため、SNSのアイコン等に利用する場合にはあまり気にならないかもしれませんが、ポートフォリオなどに掲載する画像として利用するには難があります。ただし、Mist v2にすると画像処理の模様も、より分かりづらくなるそうです。また、イラストの内容によっても左右され、背景までしっかり描き込まれているイラストのほうが意外と模様が目立ったなかったりするケースもあるように感じます。  

出力できるファイル形式が決まっている
出力できるファイル形式についての記載は公式サイトに見当たらなかったのですが、無料版でファイルのアップロードの際、利用できるファイル形式はPNG、JPGだけのようです。また、出力されるファイル形式はPNGになることを確認しています。有料版については確認できていませんが、おそらく利用できるファイル形式は限定されていると思われます。  

ヘビーユースする場合はコストがかかる   
emamoriは基本的は無料でサービスを提供したいというポリシーがあるようですが、前述のように、それなりに高い負荷がサーバーにかかるためより高度な機能は有料版で提供されています。それぞれ枚数制限がありますので、複数ページにわたる漫画作品などを保護する場合などはコストが高くなるでしょう。

まとめ

今回は、不正な生成AIから保護するツールの注目株である「emamori」を中心に、現在の画像生成AIを取り巻く状況と、その対策方法について考察してみました。現状は、決して完璧とは言えない「emamori」の機能ですが、こうしたサービスが日本国内からリリースされたのは歓迎すべき動きだと思います。

画像生成AIによるリスクから自身のコンテンツを保護するニーズというのは、クリエイティブワークに従事する方々だけでなく、自分や自分の家族の写真をディーブフェイクやポルノコンテンツに利用してほしくないといったインターネットを利用する人全てにあるでしょう。そうしたリスクを未然に防ぎたいという政治家・法曹関係者もいれば、ニーズを上手く汲み取ることでビジネスチャンスにつなげたいと考えるITベンチャー企業の経営者やエンジニアもいるでしょう。また、画像生成AIから著作物を保護するツールは、主に世界各国の大学研究機関によって開発されていることからも分かる通り、AI技術研究の最先端であることもわかります。

「emamori」のようなツールが成功することが、不正にAIコンテンツを利用する者たちへの抑止力になることを期待したいところです。本記事で興味をもったイラストレーターの方も、ぜひ一度試してみてください。