AIを用いて作り出される偽動画、ディープフェイクにより、私たち周りの「情報の信憑性」が問われています。その理由は、ディープフェイクが普及することで、正しい情報と間違った情報の判断がつかなくなっているからです。本稿では今のネット・SNS時代を生き抜くために、ディープフェイクの歴史と生み出す恐怖、現在の対策について実例を通して詳しく解説していきます。
ディープフェイク（Deepfake）とは
photo by pixabay
ディープフェイク（Deepfake）とは、ディープラーニング（深層学習）を用いて、2つ以上の写真や動画の一部を入れ替える技術です。現在では、単に「フェイク動画」「偽動画」の意味でも使われます。
もう少し詳しく解説すると、ディープフェイクは、Aさんの顔を数万点ものパーツに分解し、表情ひとつひとつにAI (人工知能)がディープラーニング用いることで、Bさんの顔をAさんの顔にすり替えて顔の表情を自然に動かすことができます。単純に顔の静止画を切り抜いて動画に当てはめるのではなく、映っている人の表情に合わせてそれぞれのパーツが自在に動くため、何も知らない人が見て「加工された動画だ」と気付くことは困難です。
機械学習の実装手法の一つで、人間が行うタスクをコンピュータに覚えさせ、複雑な問題を解決するための技術
ディープフェイク(Deepfake) は最近使われ始めた言葉でまだ一概には定義されていませんが、「深層学習 (deep learning)」と「偽物 (fake)」から派生した言葉です。元は映画などで活用するために開発された技術だといわれています。
ディープフェイクの歴史
photo by pixabay
つい最近までは、動画の加工や偽造は大変な作業であり、動画作りの専門家にとっても気の遠くなるような作業が必要でした。しかし、今ではAIによる機械学習によってこのプロセスが容易になり、加工や偽造された動画は加速度的に増えています。
ディープフェイクが出現したのは2017年です。ネット上にディープフェイクを用いて有名人の顔を入れ替えたポルノ動画が初めて登場し、話題を呼びます。その後、ディープフェイクのアルゴリズムがコード共有プラットフォーム、「GitHub」に一般公開されることにより、誰でもその技術やノウハウを習得できるようになりました。これを機にディープフェイク動画が一気にネット上にアップされるようになります。
今ではネット上では250枚ほどの写真をアップロードすると、2日程度でディープフェイク動画を作成するオンラインサービスもあり、1本あたり2.99ドル（約300円）ほどの低価格で取引されています。さらに、中国の顔画像交換アプリ「ザオ」も極めて手軽にディープフェイクを作成できるとして、注目を集めました。ディープフェイクは私たちの間で次第に身近になってきています。
中には無害なディープフェイク動画もありますが、最近ではディープフェイクされるターゲットが女性や著名人に向けられ、悪質なフェイク動画が急増しています。
オランダのサイバーセキュリティ企業、ディープトレースが公表した報告書「ディープフェイクスの現状 情勢、脅威、そしてインパクト」によると、2019年に同社がネット上で確認したディープフェイク動画は1万4,678件に上ります。これは前年の2018年に比べて84％も増しています。その内訳をみると、96％は有名なハリウッド女優などの顔をはめ込んだポルノ動画で、ポルノ以外の動画はわずか4％だったと言います。
このデータからもいえる通り、ディープフェイクを用いた女性に対する人権侵害は増え続けている状況です。
ディープフェイクの恐怖
残念ながらディープフェイクは、決して良い意味での注目を浴びている訳ではありません。最近特に問題視されているのが、ディープフェイクを用いた著名人の顔すり替え動画です。
出典：有名なのは2018年にYouTubeで公開された、バラク・オバマ前大統領が喋っている動画です。
この動画はディープフェイクの恐ろしさを物語っています。20秒を過ぎたあたりで、“オバマ前大統領”が「トランプ大統領は救いようのないマヌケだ（President Trump is a total and complete dipshit）」と元大統領としては、らしくない発言をしています。一見すると本当にオバマ氏がドナルド・トランプ大統領の悪口を言っているように見えます。
しかし動画の最後では画面が二分割されて俳優兼監督のジョーダン・ピールが現れることにより、これが偽物の動画、ディープフェイクであることが分かります。動画の中でのネタばらしがなければ、誰もオバマ氏ではない偽物が喋っているとは気づかなかったはずです。ディープフェイクという技術は、赤の他人を使って、これほど忠実に本物の人を再現できるのです。
このようなディープフェイク動画は、世界の政治を揺るがしかねません。ディープフェイク動画が拡散し、視聴者に真に受けられれば、場合によっては選挙の結果を大きく左右し、候補者の評判を大きく下げる可能性も拭えません。この動画も、現時点で762万回以上再生されています。
問題となっているのはディープフェイクを用いたフェイク動画そのものよりも、むしろ別の点にあると指摘する人もいます。動画を活用し、人権侵害の告発などに取り組むNPO「ウィットネス」のプログラムディレクター、サム・グレゴリー氏は、ディープフェイクによって以下の事態が発生していると述べています。
出典：WITNESS | Human Rights Video
これはつまり、ディープフェイクを口実に、リアルな動画の信憑性を疑い、否定する権力者が出てきているということです。
その一例として、トランプ氏がNBCの番組の収録現場で「スターならやらせてくれる。何でもできる」などと卑猥な発言をしていた動画が、2016年の大統領選中に発覚した問題があります。当初はこの発言を認めていたトランプ氏でしたが、大統領に就任した後に、上院議員や側近に、「動画は偽物のディープフェイクだった」と公言しています。
photo by pixabay
自分には都合の悪いリアルな動画が証拠として提示された場合に、ディープフェイクを口実に嘘をつくという逃げ道を権力者に与えてしまったのです。ディープフェイクの本当の脅威は、リアルの定義と、情報の信憑性を揺るがすことにあるのかもしれません。
ディープフェイクvs表現の自由
photo by pixabay
何かと良くない話題を生んでいるディープフェイクですが、果たしてディープフェイクのどこまでが制限され、どこまでが許容されるべきなのでしょうか。
フェイスブック社は今年、ディープフェイクの一部を削除する方針を打ち出しました。しかし、どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしています。フェイスブック社のプロダクトマネージャーであるアントニア・ウッドフォード氏は、ディープフェイクへの対策について、「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」と述べています。
ディープフェイクの対策
photo by pixabay
現在、悪質なディープフェイクに対抗しようとさまざまな研究チームが動き出しています。ニューヨーク州立大学のリュー・シーウェイ氏が率いるチームは、AIを用いてディープフェイク動画を見破る技術の開発に成功しました。チームが特に注目したのは「まばたき」です。
人は通常、2～3秒に1回、自然にまばたきをします。対してDeepfakeアルゴリズムは、入力された画像から動画をつくり出しますが、画像に写っている人は通常、目を閉じていません。AIは人間が自然に発する生理学的信号すべてを完璧に再現することはできないため、動画の人物は滅多にまばたきをしないことになります。
そこで研究チームは、ディープフェイクを用いた動画内でまばたきがない箇所を検出するAIアルゴリズムの設計に成功しました。リュー氏のチームは、この技術をさらに発展させ、瞬きの頻度や継続時間といった複雑なことを習得させる方法に取り組んでいます。近い将来には、呼吸などのさまざまな自然な生理学的信号を検出できるようになるのが目標だと言います。
AI技術に頼るディープフェイクをAIを用いて見破る攻防戦はまさに、「AI同士の対立」と言っていいかもしれません。
日本のディープフェイク対策
実は日本でも、ディープフェイクのポルノ動画拡散が問題視され始めています。先日ディープフェイク関連の事件により、「名誉毀損」と「著作権侵害」の罪で2人が逮捕されました。日本でディープフェイク関連の事件で逮捕者が出るのは初の事例だとし、各メディアで大体的に報じられました。
逮捕された大学生（21）は40～50人の芸能人の顔写真を使用し、250本の動画を作成したうちの150本を公開していました。また、大学生にメールで技術的な相談を受けていたエンジニア（47）は80～90人の芸能人の顔写真を使用して1000本以上の動画を作成し、そのうち250本以上を公開していたといいます。供述によれば、1人につき3万枚の画像データを100万回学習させることで、1週間ほどで約10分のディープフェイクが制作できたとのことです。
注目すべきは、今回の事件が被害者側から「名誉毀損」と「著作権侵害」の罪を告訴した後に、容疑者2人が摘発されたことです。日本にはディープフェイク自体を規制する法律はないため、現時点でディープフェイク動画は作りたい放題の状況です。ディープフェイクに対し何かしらの法規制がされない限り、これからもディープフェイクの悪用による著名人の被害者が出てくることが予想されます。
良くも悪くも、ディープフェイクという技術を最終的に活用するのは人間です。私たち自身がネットのモラルを守ることは勿論、正しい情報と誤った情報を適確に判断する能力を身につける必要があります。ディープフェイクとその問題について理解を深めることは、これからのネット・SNS時代を生きていく私たちにとって重要だと感じます。
