もう少し詳しく
「ディープフェイク（Deepfake）」とは、AIの学習手法の一つである「深層学習（ディープラーニング）」と、偽物を意味する「フェイク（Fake）」を組み合わせた造語です。実在する人物の顔や声の特徴をAIに学習させ、その人物が実際には言っていない発言をしているかのような画像・音声・動画を作り出す技術、またはその技術で作られた偽物のコンテンツそのものを指します。技術自体は映画制作などにも応用できる一方、悪用されると本人になりすました偽情報の拡散に使われるおそれがあります。
どこで使われるか
ディープフェイクという言葉自体は、悪用された事例とともに広まってきました。実在の著名人が特定の商品を薦めているかのように見せかける偽広告や、政治家や経営者が発言していない内容をあたかも本人の発言であるかのように見せる偽動画などが、海外を中心に確認されています。一方で、こうした偽物を自動的に見分けるための検知技術や、AIが生成した画像・動画であることを示す電子透かし（ウォーターマーク）の研究・実装も、対抗策として進められています。
身近な例
友人や家族の声を真似た音声で電話をかけ、緊急のお金の振り込みを求める詐欺の手口が報告されており、これもディープフェイク技術の悪用例の一つです。また、SNS上で著名人の偽動画が拡散され、後から「AIによる合成映像だった」と判明する騒動も繰り返し起きています。
注意点
動画や音声だからといって、本人が本当に話している証拠にはならない時代になっています。特に、有名人が高額な利益を約束するような投資話や、緊急性を強調してお金の振り込みを急かすような内容は、本人になりすましたディープフェイクである可能性を疑う姿勢が大切です。発信元が公式のアカウントか、他の信頼できる情報源でも同じ内容が確認できるかを、慌てずに確かめる習慣が被害を防ぐ助けになります。