エンジニアリング - ENGINEERING -

我が子や親の声をAIがまねる「ディープフェイクボイス」詐欺 SNSの3～4秒のデータから1回700円で生成可能

:::small 画像出典：写真AC ::: 我が子や親の音声をAIが模倣する「ディープフェイクボイス」による詐欺の懸念が各国で高まっている。米国や中国ではすでに被害が出ており、あらためてニュースメディアを騒がせている。 2023年5月の[The Washington Post]{target=“_blank”}などの報道がこの問題を取り上げている。AIを利用すると3～4秒の音声から高精度の合成が可能。かかる費用は1件につき日本円にして700円程度という。素材は動画共有SNS「TikTok」などで個人が家族や友達向けに投稿した映像などから集められる。 米国や中国ではこうした音声による詐欺もすでに起きているもようだ。[米連邦取引委員会（FTC）]{target=“_blank”}によれば、2022年には親族や友人を装う詐欺電話が約5,000件あり、被害総額は約16億円。 ディープフェイクボイスによる犯罪を含むと見られ、顕著な例として[CNN]{target=“_blank”}が2023年4月に報道した事件が最近注目を浴びている。同年1月にアリゾナ州のとある母親のもとに娘の声で助けを求める電話があった。犯罪者は娘を誘拐したとして日本円にして約1億4,000万円相当の身代金を要求。実際は詐欺で、報道時点でAI生成だったという証拠は見つかっていないが、母親は音声の迫真性からほかに考えられないと述べている。 ![main.png] :::small 画像出典：マカフィー ::: 5月の[マカフィーの調査]{target=“_blank”}によると、7か国の18歳以上の成人7,054人のうち10%の人が「AI音声を用いた詐欺に遭遇した」と回答。また知人が遭遇したと答えた人（15%）を合わせた25%のうち、約8割が金銭を詐取された。 日本はAI音声詐欺に遭遇した割合が少なく、潜在的な被害がある可能性がある。専門家は、被害が広がるのも時間の問題と指摘した。日本国内の2022年の特殊詐欺被害額は370億8,000万円で8年ぶりに増加しており、いわゆる「オレオレ詐欺」が多い。被害防止のための技術が研究されており、一部の金融機関ではすでに実用化している。 :::box [関連記事：ディープフェイク（Deepfake）とは｜基本知識、表出した恐怖とその対策について] ::: :::box [関連記事：東京大学がディープフェイクの検出で世界最高性能を達成 AIでわずかな不整合を高精度に判定] :::