モザイク破壊の話をする前に、そもそも「モザイク」という映像加工について触れておきましょう。そもそもモザイク処理とは、特定部分の色の平均情報を算出して解像度を下げるという映像処理のこと。非可逆変換なので、いわゆる「除去」というのは理論的に不可能です。しかし、TecoGANによるモザイク破壊動画はそれを可能にします。
TecoGANはAIを使って高解像度化する
モザイクはブロックが大きいと全く見えず、細かいとある程度は想像できますが、元の情報が失われてしまっている以上、どんなにがんばってもモザイクを取り除いた映像が見えるようになることはありません。
実際、モザイク部分を拡大してみると、映像がブロック状になり単色で塗り潰されていることが分かるはず。ここに加工前の情報は一切含まれていません。
それでは、AIによるモザイク除去とはどういうものなのでしょう。そこで使われているのが「TecoGAN(TEmporally COherentGAN)」というアルゴリズムです。
TecoGANはAIを用いた動画向けのアップコンバータで、解像度の低い映像を機械学習によって高解像度化するというもの。つまり、TecoGANによるモザイク破壊動画とは、モザイク部分をAIを使って高精度に高解像度化したものといえるでしょう。
TecoGANの実力をサンプルで体験できる
直前のフレームの動きと低解像度フレームを元に、高解像度フレームを生成するのがTecoGANの仕組みで、前後のコマの動きからAIが映像を予測して補完するのが特徴です。