嫌がらせとしてのディープフェイク
投稿者: Sameer Hinduja、Justin W. Patchin
2023年9月14日
ディープフェイクとは何か
「ディープフェイク」(「ディープラーニング+フェイク」)という言葉は、オンラインコミュニティのユーザー同士が有名人の偽のポルノをシェアし始めたことが発端とされています。ディープフェイクの作成には、人工知能ソフトウェアを使います。本物であるかのように見せるために、本物と見間違うほどリアルな捏造コンテンツ(写真や動画など)を生成するのです。まずは学習モデルの作成ということで、計算能力を利用して、膨大な量のコンテンツ(ある人物の、何時間もの動画や何千枚もの写真)を、顔の主要な特徴、身振りや姿勢などに着目して分析します。
次に、アルゴリズムを利用して、学習結果を画像やフレームに適用します。例えば、オリジナルコンテンツに唇の動きを重ね合わせ、音声には吹き替えを行い、ある人が実際には口にしていないことを言ったように見せるといったかたちです。さらに、アーティファクト(普通または偶発的に見える「グリッチ」など)を加えたり、マスキングや編集で現実感を高めたりする手法を適用します。これにより、驚くほど本物そっくりのコンテンツが完成します。ディープフェイクの例をウェブで検索してみると、その本物らしさに驚くことでしょう。以下では、ディープフェイクの被害からお子様を守り、事実とフィクションを区別するための知識をお子様に身につけさせるにあたって、知っておくべき重要なポイントを紹介します。
ディープフェイクを見抜く方法
技術の進歩に伴い、ディープフェイクはますます本物に近づいてきています。しかし多くの場合、写真や動画のコンテンツに含まれる特定の情報(まばたきが不自然に見えるなど)を注意深く観察することで、ディープフェイクを特定できます。コンテンツを拡大して、口元、首、襟元、胸元などに不自然な部分やぼやけた部分がないか探してみることも、非常に効果的です。多くの場合、これらの部位には、オリジナルコンテンツと重ね合わされたコンテンツの間に不整合や不一致が見られるためです。
動画の場合は、クリップの再生速度を落として、リップシンクやジッターなど、視覚的な不整合がないかどうか確認するとよいでしょう。さらに、本来なら感情を込めて話している内容のはずなのに、感情に欠けている瞬間がないか、単語の発音を間違えているように聞こえないか、そのほか妙な矛盾がないかをチェックします。最後に、写真(または動画のスクリーンショット)を逆画像検索すると、加工される前のオリジナルの動画にたどり着くことができます。ここで、2つのコンテンツを注意深く比較して、どちらが加工されたものなのかを判断します。つまり、自分の感覚を信じることです。通常、じっくりと落ち着いてコンテンツを見たり聞いたりすれば、何かがおかしいと感じることができます。
自分がオンラインで投稿したものはすべて、ディープフェイクの作成に悪用される可能性があることを、お子さんに知っておいてもらうことは重要です。お子さんがソーシャルメディアアカウントでコンテンツのライブラリを作成している場合、他の利用者がアクセスして、お子さんの同意なく操作できる状態なのかもしれません。その場合、本人の顔、動き、声、その他の特徴が盗用されて、誰かの画像に重ね合わされる恐れがあり、その誰かの行為によって、多大な風評被害を受ける可能性があります。この点について対話をスムーズに進めるために、偏見を持たず理解のある態度で、以下の質問を投げかけてみましょう。
ディープフェイクは、それによって被る感情的、心理的、風評的なダメージを考えると、お子さんの心身の健康を損なう危険があります。聴覚的、視覚的、時間的な不一致は、人間の感覚では観察しきれないかもしれません。しかし、画像や動画のコンテンツの不統一を識別してフラグするソフトウェアは、継続的に改善されています。こうしたテクノロジーが進歩する中で、親や保護者、若者を支援する成人は、ディープフェイクの実態について認識を高め、その作成と拡散による影響を防ぐよう努めることが求められます。同時に、お子さんに対して、いつもあなたがそばにいて、オンラインで受けるその他の危害はもちろん、ディープフェイクによる困難な状況から抜け出せるよう手助けできることを定期的に伝えましょう。
- 自分と対立したり、争ったりする可能性のある人を受け入れた可能性はあるか。
- これまで、自分を傷つけるとは思ってもみなかった人に傷つけられたことがあるか。また同じようなことが起こる可能性はあるか。
- 新しいフォロワーリクエストや友達リクエストが届いたとき、その人のプロフィールをチェックして、正当なものであることを確認しているか。その人を信用できるか。
- 友達の投稿が他の人に不正に利用されたことはあるか。自分の身にも起こる可能性はあるか。
ディープフェイクは、それによって被る感情的、心理的、風評的なダメージを考えると、お子さんの心身の健康を損なう危険があります。聴覚的、視覚的、時間的な不一致は、人間の感覚では観察しきれないかもしれません。しかし、画像や動画のコンテンツの不統一を識別してフラグするソフトウェアは、継続的に改善されています。こうしたテクノロジーが進歩する中で、親や保護者、若者を支援する成人は、ディープフェイクの実態について認識を高め、その作成と拡散による影響を防ぐよう努めることが求められます。同時に、お子さんに対して、いつもあなたがそばにいて、オンラインで受けるその他の危害はもちろん、ディープフェイクによる困難な状況から抜け出せるよう手助けできることを定期的に伝えましょう。
関連リソース
The Jed Foundation
続きを読む
