ディープフェイク(Deepfake)とは|歴史と表出した恐怖・その対策について

このエントリーをはてなブックマークに追加

AIを用いて作り出される偽動画、ディープフェイクにより、私たち周りの「情報の信憑性」が問われています。その理由は、ディープフェイクが普及することで、正しい情報と間違った情報の判断がつかなくなっているからです。本稿では今のネット・SNS時代を生き抜くために、ディープフェイクの歴史と生み出す恐怖、現在の対策について実例を通して詳しく解説していきます。

ディープフェイク(Deepfake)とは

photo by pixabay

ディープフェイク(Deepfake)とは
高度な画像生成技術を駆使して合成され、偽物とは容易に見抜けないほど作り込まれた偽動画の通称であるby Weblio 辞書 

もう少し詳しく解説すると、ディープフェイクは、Aさんの顔を数万点ものパーツに分解し、表情ひとつひとつにAI (人工知能)がディープラーニング(深層学習)という手法を用いることで、Bさんの顔をAさんの顔にすり替えて顔の表情を自然に動かすことができます。単純に顔の静止画を切り抜いて動画に当てはめるのではなく、映っている人の表情に合わせてそれぞれのパーツが自在に動くため、何も知らない人が見て「加工された動画だ」と気付くことは困難です。

ディープラーニングとは
機械学習の実装手法の一つで、人間が行うタスクをコンピュータに覚えさせ、複雑な問題を解決するための技術

ディープフェイク(Deepfake) は最近使われ始めた言葉でまだ一概には定義されていませんが、「深層学習 (deep learning)」「偽物 (fake)」から派生した言葉です。元は映画などで活用するために開発された技術だといわれています。

ディープフェイクの歴史

photo by pixabay

つい最近までは、動画の加工や偽造は大変な作業であり、動画作りの専門家にとっても気の遠くなるような作業が必要でした。しかし、今ではAIによる機械学習によってこのプロセスが容易になり、加工や偽造された動画は加速度的に増えています。

ディープフェイクが出現したのは2017年です。ネット上にディープフェイクを用いて有名人の顔を入れ替えたポルノ動画が初めて登場し、話題を呼びます。その後、ディープフェイクのアルゴリズムがコード共有プラットフォーム、「GitHub」に一般公開されることにより、誰でもその技術やノウハウを習得できるようになりました。これを機にディープフェイク動画が一気にネット上にアップされるようになります。

今ではネット上では250枚ほどの写真をアップロードすると、2日程度でディープフェイク動画を作成するオンラインサービスもあり、1本あたり2.99ドル(約300円)ほどの低価格で取引されています。さらに、中国の顔画像交換アプリ「ザオ」も極めて手軽にディープフェイクを作成できるとして、注目を集めました。ディープフェイクは私たちの間で次第に身近になってきています。

中には無害なディープフェイク動画もありますが、最近ではディープフェイクされるターゲットが女性や著名人に向けられ、悪質なフェイク動画が急増しています。

オランダのサイバーセキュリティ企業、ディープトレースが公表した報告書「ディープフェイクスの現状 情勢、脅威、そしてインパクト」によると、2019年に同社がネット上で確認したディープフェイク動画は1万4,678件に上ります。これは前年の2018年に比べて84%も増しています。その内訳をみると、96%は有名なハリウッド女優などの顔をはめ込んだポルノ動画で、ポルノ以外の動画はわずか4%だったと言います。

このデータからもいえる通り、ディープフェイクを用いた女性に対する人権侵害は増え続けている状況です。

ディープフェイクの恐怖

残念ながらディープフェイクは、決して良い意味での注目を浴びている訳ではありません。最近特に問題視されているのが、ディープフェイクを用いた著名人の顔すり替え動画です。

出典:バラク・オバマ前大統領のディープフェイク

有名なのは2018年にYouTubeで公開された、バラク・オバマ前大統領が喋っている動画です。

この動画はディープフェイクの恐ろしさを物語っています。20秒を過ぎたあたりで、“オバマ前大統領”が「トランプ大統領は救いようのないマヌケだ(President Trump is a total and complete dipshit)」と元大統領としては、らしくない発言をしています。一見すると本当にオバマ氏がドナルド・トランプ大統領の悪口を言っているように見えます。

しかし動画の最後では画面が二分割されて俳優兼監督のジョーダン・ピールが現れることにより、これが偽物の動画、ディープフェイクであることが分かります。動画の中でのネタばらしがなければ、誰もオバマ氏ではない偽物が喋っているとは気づかなかったはずです。ディープフェイクという技術は、赤の他人を使って、これほど忠実に本物の人を再現できるのです。

このようなディープフェイク動画は、世界の政治を揺るがしかねません。ディープフェイク動画が拡散し、視聴者に真に受けられれば、場合によっては選挙の結果を大きく左右し、候補者の評判を大きく下げる可能性も拭えません。この動画も、現時点で762万回以上再生されています。

問題となっているのはディープフェイクを用いたフェイク動画そのものよりも、むしろ別の点にあると指摘する人もいます。動画を活用し、人権侵害の告発などに取り組むNPO「ウィットネス」のプログラムディレクター、サム・グレゴリー氏は、ディープフェイクによって以下の事態が発生していると述べています。

「これは権力者に新たな武器を与えることになる:つまり権力を持たない人々が、汚職や人権侵害を明らかにする証拠として使おうとしているもの(動画)について、“これはディープフェイクスだ”ということができてしまうのだ。」

出典:WITNESS | Human Rights Video

これはつまり、ディープフェイクを口実に、リアルな動画の信憑性を疑い、否定する権力者が出てきているということです。

その一例として、トランプ氏がNBCの番組の収録現場で「スターならやらせてくれる。何でもできる」などと卑猥な発言をしていた動画が、2016年の大統領選中に発覚した問題があります。当初はこの発言を認めていたトランプ氏でしたが、大統領に就任した後に、上院議員や側近に、「動画は偽物のディープフェイクだった」と公言しています。

photo by pixabay

自分には都合の悪いリアルな動画が証拠として提示された場合に、ディープフェイクを口実に嘘をつくという逃げ道を権力者に与えてしまったのです。ディープフェイクの本当の脅威は、リアルの定義と、情報の信憑性を揺るがすことにあるのかもしれません。

ディープフェイクvs表現の自由

photo by pixabay

何かと良くない話題を生んでいるディープフェイクですが、果たしてディープフェイクのどこまでが制限され、どこまでが許容されるべきなのでしょうか。

フェイスブック社は今年、ディープフェイクの一部を削除する方針を打ち出しました。しかし、どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしています。フェイスブック社のプロダクトマネージャーであるアントニア・ウッドフォード氏は、ディープフェイクへの対策について、「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」と述べています。

実は日本でも、ディープフェイクのポルノ動画が拡散されるようになっています。しかし、日本にはディープフェイク自体を規制する法律はないため、現時点でディープフェイク動画は作りたい放題の状況です。これからディープフェイクの悪用による著名人の被害者が出てくることも予想されます。

ディープフェイクの対策

photo by pixabay

現在、悪質なディープフェイクに対抗しようとさまざまな研究チームが動き出しています。ニューヨーク州立大学のリュー・シーウェイ氏が率いるチームは、AIを用いてディープフェイク動画を見破る技術の開発に成功しました。チームが特に注目したのは「まばたき」です。

人は通常、2~3秒に1回、自然にまばたきをします。対してDeepfakeアルゴリズムは、入力された画像から動画をつくり出しますが、画像に写っている人は通常、目を閉じていません。AIは人間が自然に発する生理学的信号すべてを完璧に再現することはできないため、動画の人物は滅多にまばたきをしないことになります。

そこで研究チームは、ディープフェイクを用いた動画内でまばたきがない箇所を検出するAIアルゴリズムの設計に成功しました。リュー氏のチームは、この技術をさらに発展させ、瞬きの頻度や継続時間といった複雑なことを習得させる方法に取り組んでいます。近い将来には、呼吸などのさまざまな自然な生理学的信号を検出できるようになるのが目標だと言います。

AI技術に頼るディープフェイクをAIを用いて見破る攻防戦はまさに、「AI同士の対立」と言っていいかもしれません。

良くも悪くも、ディープフェイクという技術を最終的に活用するのは人間です。私たち自身がネットのモラルを守ることは勿論、正しい情報と誤った情報を適確に判断する能力を身につける必要があります。ディープフェイクとその問題について理解を深めることは、これからのネット・SNS時代を生きていく私たちにとって重要だと感じます。