№391| ディープフェイクが誕生してしまった今、人類はそれを陳腐化できるか?

鍵を握るのはリテラシーのパラダイムシフトか

Published on 2021.02.16

TEXT BY: Sachi Yamaguchi


発展し続ける画像や動画の処理技術

最近、「ディープフェイク」という言葉を、ネットやニュースなどでよく見かけるようになった。

ディープフェイクと聞くとどのようなイメージが思い浮かぶだろうか。犯罪に悪用されているケースが多いことや、名前に「フェイク」と付いていることもあり、良いイメージを思い浮かべられない人も多いかもしれない。

そもそもディープフェイクは、「ディープラーニング」と呼ばれる技術と、偽物という意味を持つ「フェイク」を組み合わせた造語。つまり、ある人の動画や画像を別の動画の特定の人に合成させて作る「偽動画」のことを指す言葉だ。

2017年以降にディープフェイクのアルゴリズムが公開され、一般人の我々でも公開された技術を駆使してディープフェイク動画を作成できるようになった。

これにより、最新技術を使って作られたディープフェイク動画が広がっていき、それに伴ってクオリティも格段に上がっている。

こうして画像や動画の処理技術が進歩する中で、昨今ではそのディープフェイクを、悪意を持って作成されることが多くなり、それらはニュースで取り上げられているような犯罪に繋がっている。

そういったニュースなどで見る画一的な悪い情報から、「ディープフェイクという技術=悪」というイメージが出来上がってしまっている。

エイミー・アダムスに、男優ニコラス・ケイジの顔を移植
出典:Wikipedia

しかし、ディープフェイクはあくまで技術を駆使して作りあげられた偽動画などのことであり、技術ではない。この辺りが混同してしまっている人も多くなっているのではないだろうか。

では、果たしてその偽動画を作る技術は、ディープフェイク のようなネガティブなものしか生み出さないのだろうか。

それを再考するために、まずはディープフェイク自体を紐解き、その背景にある技術が生み出すポジティブな側面を見てみる必要があるだろう。

ディープフェイクとフェイクポルノ

ディープフェイクに関する問題で最も多いのが、ディープフェイクを使用して作成されたポルノ動画。

実際に、ディープフェイクを使った動画のうちの96%がポルノ動画であると言われており、そのポルノ動画に悪用されているのは、ほとんどが女性有名人である。

実際に、女性芸能人とポルノ動画を合成したディープフェイク動画を自身のサイトに掲載した運営者が逮捕されたニュースも記憶に新しい。

こうしたディープフェイクを悪用したポルノ動画に関する逮捕者は国内初であったことから、ディープフェイクを問題視する動きが出てきたと言える。

ディープフェイクとフェイクニュース

現在危惧されている問題は、プライバシーやポルノ動画だけではない。このディープフェイクの技術を使えば、政治家の発言を捏造してデマを流すこともできる。

実際に、海外では大統領の演説の動画を使ったディープフェイクも存在する。動画では、大統領の顔はもちろん、声や話し方、表情までもがそっくり合成されており、デープフェイクと言われなければ本物の大統領が話している動画だと勘違いしてしまいそうなほどである。

しかし、話の内容を聞いてみると、実際の動画とは全く異なったことを話している。

オバマ大統領の動画を使用したディープフェイク

これがもっと話の内容も巧妙に作られ、大統領選の前にSNSなどで拡散されるとどうだろうか。真実がどれかわからなくなり、選挙はもちろん、国自体に混乱が起きる。実際に大統領が公式にあげた動画でさえも信じてもらえなくなることだってあり得るだろう。

つまり、近年まで編集が困難だった動画は、信憑性が高いコンテンツだと思われていたが、ディープフェイクの登場によって、段々と信憑性の低いコンテンツへと変化してきていると言える。

また、「風刺」と銘打った、ただの「嫌がらせ」となる恐れも出てくる。問題はディープフェイクを悪意を持って使用する主犯の人物だけでなく、それを知らずに真実だと信じて拡散してしまう人々も、罪には問われずとも共犯となる可能性があるということである。

私たちの身近にも迫っている「悪意」

さらに、ここまで技術が一般に普及した今、ディープフェイクの矛先は、何も芸能人や政治家といった著名人だけではなく、私たち一般人にも向けられる。

普段、私たちは様々なSNSに自分や友人、家族の写真を載せることが以前より格段に多くなり、知人以外の多くのフォロワーを抱えたインフルエンサーも増加している。

そうしたSNSに投稿した動画や画像がディープフェイクの悪用のターゲットとなる可能性も高いだろう。

例えば、多くのフォロワーを抱えたインフルエンサーがSNSに挙げた画像を使ってポルノのディープフェイクが作られたり、知人のみをフォローしているアカウントであったとしても、SNSの画像を使ったディープフェイクによっていじめが起きたりする事態も考えられる。

ディープフェイクの技術に見出される利点

こうしたニュースや問題がクローズアップされると、私たちはつい「ディープフェイク=悪」だという風に考えてしまいがちである。

確かに、ディープフェイクがもたらすと考えられる様々な問題点は軽視できず、状況が悪化すると政治的にも、世界的にも大きな問題のきっかけになりかねない。

そういった面だけを見ると、ディープフェイクを悪者だと決めつけて、厳しく規制する方が良い、という見方も現れるかもしれない。

しかし、ディープフェイクには当然、利点もある。

例えば、アメリカのフロリダ州にある「サルバドール・ダリ美術館」では、既に亡くなった画家のダリの姿を、ディープフェイクを使って蘇らせ、美術館を訪れる人を魅了している。こうしたアートの領域にも、ディープフェイクは活用することができる。

ディープフェイク技術によって蘇ったサルバドール・ダリ

そうしたディープフェイクの活用は日本でも行われている。実際に、2019年のNHK紅白歌合戦では、今は亡き美空ひばりをディープフェイクの技術を使って蘇らせた「AI美空ひばり」が登場し、新曲を披露し、多くのファンを驚かせた。

しかし、ディープフェイクの技術で死者を蘇らせることについて、「死者への冒涜だ」と倫理的な観点から批判の声も多く上がっており、まだまだ審議が必要な問題だと言えるだろう。

さらに、現在、新型コロナウイルスの影響で急増したビデオ会議における困りごととして、顔を見て話したいのに、カメラに目を向けて会話をしないとお互いに目線が合わず、しかもカメラに話かけているようでコミュニケーションができている気がしない、ということが度々話題にあがる。

そこで、アメリカの半導体メーカーであるNVIDIAは、ディープフェイクの技術を使って、お互いが向き合っているように顔の調整がされ、また視線も補正できる機能を生み出した。これによって、コロナ禍でビデオ電話や会議をする時でも、画面越しの弊害を受けることなくコミュニケーションを行うことができる。

NVIDIAが生み出したディープフェイク技術によるビデオ電話越しの顔の調整

他にも、ディープフェイクは世界的なキャンペーンにも使用されている。実際に、マラリアの撲滅運動のために行われたキャンペーンで、デビッド・ベッカムが9カ国語で語りかけるディープフェイク動画が、Synthesiaによって作成された。

ディープフェイクは、こうしたキャンペーンは勿論、ビジネスに新しい風を吹き込むと考えられる。

このような例に挙げられるディープフェイクの可能性は、現在注目されている問題点やそれを報じるニュースによって隠されていると言える。勿論、故人を蘇らせることに対する倫理的な問題や、私たちのプライバシーの問題など、危険性や懸念点は存在する。

しかし、そのためにこうした高度な技術を「悪」と言ってしまうことは、本当に良いことなのだろうか。

ディープフェイクに使われる技術は「悪」か? 私たちに求められていること

ここで大事なことは、「ディープフェイク=悪」だからと言って、「ディープフェイクに使われる技術=悪」ではない、と物事を分解して考えることだ。

問題やデメリットのみにフォーカスを置きいっしょくたに否定しては、将来に役立つ可能性を持った技術を失うことにも繋がりかねない。

しかし、その技術を過信し過ぎてもいけない。

こうした画像や動画の処理技術が急速に進化し続けている今、これまで無条件に信頼できていた画像や動画というコンテンツが、信用できない時代に突入している。

そこで私たちが考えるべき点は、ディープフェイクそのものを排除して問題を取り除くことではなく、どう上手く付き合っていくか、ということだ。

ディープフェイクが、私たちの生活に深く浸透してきている今、いつの間にか私たちが普段見ているニュースやSNSに紛れ込んでくる可能性も高くなってきている。昨今のコロナ禍では、その可能性が以前にも増して危ぶまれている。

そんなディープフェイクと上手く付き合っていくために、私たちが求められているのは、今一度自分自身のネットリテラシーを見直し、技術の進歩と同じようにアップデートしていくことだろう。

それは、何もディープフェイクを見極める力を持たなければならない、ということではない。ただただ目に入るものを鵜呑みにするのではなく、疑いの目で見る必要がある、ということだ。

出典:REUTERS / buzzfeed

そのためには、現在の技術が、どこまで精巧なフェイクを作ることができるのかを知っておく必要がある。なぜなら、従来の画像や動画の処理技術の知識では、疑いの目を持つことさえもできないほど現在の技術が進歩しているからだ。

それはディープフェイクだけではなく、日々進歩し続けている技術全てに当てはめることができる。

常に享受する立場にいる私たちは、ただ手放しで享受するのではなく、技術の進歩に合わせて自分の頭を働かせながら向き合う必要がある。それを再度考える時が、ディープフェイクの弊害と共に訪れていると言えるだろう。

それと向き合うにあたって、実際にディープフェイクに触れてみるのもひとつの手だ。例えば、「Reface」と呼ばれるアプリでは、誰でも自分の写真を様々な動画や画像に当てはめて楽しむことができる。

ドナルド・トランプと勝新太郎の合成

こうして私たちでも手軽にクオリティの高いものが作れるものが、今では当たり前に普及している。実際に自分で触れてみることで、その進歩の速さを実感することができるかもしれない。

 (TEXT:Sachi Yamaguchi)

SHARE