生成AIへの抵抗を明示した新SNS「Cara」が話題！ 背景にはクリエイターのInstagramなどへの不信感も

「Cara」アプリ公式画像アーティスト向けのSNS「Cara」が、クリエイターの間でにわかに注目を集めています。「現在の非倫理的なかたちでの生成AIツールには同意しません」というスタンスが明示されており、自動的な生成AI画像の検出とフィルタリングを特徴とする新たなプラットフォームです。

【目次】

生成AIによる画像を自動検出して除外するSNS

「Cara」プロジェクトは、20年間にわたりデジタルアートのコミュニティで活動してきた张晶娜氏（Jingna Zhang／別名：zemotion）によって設立されました。チームのメンバーとして、シニアエンジニアのKatie Borisov氏と、博士課程（Ph.D）の学生でフルスタックエンジニアのJake RT氏もWebサイトで紹介されています。

「Cara」公式ページのAbout欄で紹介されているTeam
https://cara.app/aboutまた、さまざまな企業や職種の友人やアートディレクターなどからもフィードバックを受けたとのことで、「Who’s On Board?」という欄には、Marvel Studios、NVIDIA、Sony Santa Monica、SpaceXといった記載も見られます。

「Cara」では、iOS用とAndroid用のモバイルアプリも提供されています。サードパーティのサービスを使用して画像の検出とモデレーションが自動化されていますが、「Cara」がユーザーのコンテンツをAIモデルのトレーニングに使用することはなく、サードパーティ企業にも「Cara」のユーザーデータを機械学習に使う権限は付与されていない、と明確に示されています。

「Cara」では、AI検出によって「ユーザーのポートフォリオからAI画像が自動的に除外」されるようです。また、勝手にAIスクレイピングされることから作品を保護する機能として、「Glaze」プロジェクトとの連携によって「Cara」に統合された「Cara Glaze」を利用できるようになります。

「Glaze」についての参考記事：画像生成AI学習防止ツール「emamori」と「Glaze」でクリエイターの権利を守る（前編）
https://www.mdn.co.jp/web/helpful_tips/7084画像生成AI学習防止ツール「emamori」と「Glaze」でクリエイターの権利を守る（後編）
https://www.mdn.co.jp/web/helpful_tips/7085

AI学習に対してのアーティストからの “NO” の声

「Cara」がクリエイターに注目された背景には、「InstagramやFacebookを運営するMeta社がユーザーの投稿をAIのトレーニングに使う」「オプトアウトの方法が非常に面倒で不確実」と一部メディアやユーザーが報じ、日本国内でもSNSで噂・伝聞として爆発的に広まったことがあります。

イメージ画像Meta社による正式なプレスリリースでは、2024年5月22日（水）に同社が生成AI機能（およびエクスペリエンス、それらを動かすモデルのコレクション）をヨーロッパを含む世界中のより多くの人々に拡大する予定であること、2024年6月6日（木）にビジネス向けの「Meta Verified」などの新しいAIツールを開発中であることなどが公開されており、AIの分野に非常に力を注いでいることがうかがわれます。

「Bringing Generative AI Experiences to People in Europe」
Meta社発表／2024年5月22日（水）
https://about.fb.com/news/h/bringing-generative-ai-experiences-to-people-in-europe/「New AI Tools, Meta Verified and More for Businesses on WhatsApp」
Meta社発表／2024年6月6日（木）
https://about.fb.com/news/2024/06/new-ai-tools-meta-verified-and-more-for-businesses-on-whatsapp/また、AIのトレーニングについては、2024年6月10日（月）のプレスリリースで説明されており、さまざまな補足はあるものの、その中で「Models may be trained on people’s publicly shared posts（モデルは人々が公開した投稿に基づいてトレーニングされる可能性がある）」といった記述は見られます。

「Building AI Technology for Europeans in a Transparent and Responsible Way」
Meta社発表／2024年6月10日（月）
https://about.fb.com/news/2024/06/building-ai-technology-for-europeans-in-a-transparent-and-responsible-way/これらの姿勢に大きく反応（抵抗）したのが、Instagramで日常的に作品を投稿しているクリエイターたちでした。Instagramからの派生サービスであるThreadsでは、連日にわたり特に多くの不安の声が上がっていました。

今後の進化に期待の新しいプラットフォーム

「Cara」は日本語には対応していませんが、アプリのダウンロードや登録自体は、割と簡単に進められます。投稿についても既存のSNSに慣れているユーザーであれば、さほど問題なく直感的に操作できるでしょう。

プラットフォーム全体では、やはりイラスト作品の投稿が圧倒的に多いように感じられました。「Bluesky」では最近になってDMの機能が実装されて再び注目されましたが、「Cara」にはあらかじめ既にメッセージ機能や通知機能も用意されています。

通知やDMの機能も実装済み  ざっくりとしたファーストタッチの雑感として、投稿のタイプを「Portfolio」と「Posts」の2つから選べるのは独特であると感じました。「Posts」として投稿した場合には、プロフィール画面の「Timeline」タブには表示されますが、たとえ画像を含めても「Portfolio」タブには表示されないようです。テキストのみの投稿は「Posts」として処理されます。

「Posts」での投稿は表示されないPortfolioタブ 「Posts」も含まれるTimelineタブ「Cara」は現在はベータ版となっています。「Post」ボタンを押してから実際に投稿されるまでは多少の時間がかかり、ほかのSNSの速度に慣れてしまったためか、ややストレスを感じるほど動作が重いように感じられました（ブログでは「Caraへの攻撃」も混ざったトラフィックの急増が原因であることも報告されています）。また、なぜかプロフィールの画像を変更できないなど、不具合なのかどうかじっくり調べてみないと分からないような部分も多かったです。

なお、肝となるAIのフィルタリングなどについては、今後じっくりと時間をかけて検証していく必要があり、5月29日（水）の時点での報告では、セキュリティ対策のため「Glaze は一時的に無効になっています」ともアナウンスされています。

＊　＊　＊　＊　＊　＊　＊　＊　＊　＊

「Cara」については大きな期待の声が上がる一方で、「イラストレーターたちには注目されているが、そのほかの多くのユーザーが参加するかどうかは予想できない」「日本語対応でないのがつらい」といった感想も聞こえてきます。さらに、ただでさえSNSが乱立している中で「また新しいSNSを始めなければいけないのか……」といった “SNS疲れ” を感じるクリエイターが増えていることも確かです。

とはいえ、AI問題に一石を投じる試みであることは確実で、今後の動向も注視していきたいプラットフォームであるように感じられました。現在は誕生して間もないベータ版であり、これからのさらなる進化・発展にも期待してみたいところです。

Cara Project
URL：https://cara.app/

2024/06/14