NIIのフェイク顔映像自動判定プログラム「SYNTHETIQ VISION」を、サイバーエージェントが採用

近年、顔、音声、自然言語などの人間由来のデータを大量にAIに学習させることで、本物と見紛う顔映像、音声、文章といった「シンセティックメディア」の生成が技術的に可能となり、芸術などの表現活動やバーチャルリアリティなどでの活用が期待されている。

一方、悪用された場合には、詐称や情報操作などが起きる可能性もある。とりわけ、映像中の人物の顔を他人の顔に置き換えたDeepfake映像による偽情報の流布が、現在では社会問題となっている。

そうした中、大学共同利用機関法人情報・システム研究機構国立情報学研究所（以下、NII）のシンセティックメディア国際研究センター長の越前功氏と副センター長の山岸順一氏の研究チームが開発した、AIが生成したフェイク顔映像の真偽を自動判定するプログラム「SYNTHETIQ VISION（シンセティックビジョン）」が、株式会社サイバーエージェントに採用され、タレントなどの著名人のDeepfakeディープフェイク映像検知で実用化される。

NIIはこれまで、Deepfake映像の真贋判定を行う深層学習モデルを研究してきた。このモデルでの判定方法は、大量のデータに基づく自動識別によるもので、人間による分析などを一切必要としない手法だ。

さまざまな画質の映像を学習しているため、圧縮やダウンコンバージョンなどのメディア処理で画質が低下した映像でも、一定の信頼度による判定を行うことができる。

しかし、この技術を実際の映像に適用して真偽判定するには、複数の高度な深層学習技術を直接操作できる技術レベルが必要であった。

そこで、他のアプリケーションにもこの技術を導入できるパッケージとして、真贋判定を行う映像をサーバにアップロードし、判定結果を示した映像をダウンロードするまでの全てのプロセスを利用可能なプログラム、「SYNTHETIQ VISION」を開発した。