嫌がらせとしてのディープフェイク

作成者: Sameer Hinduja、Justin W. Patchin

2023年9月14日

ディープフェイクとは何か

「ディープフェイク」(「ディープラーニング+フェイク」)という言葉は、オンラインコミュニティのユーザー同士が有名人の偽のポルノをシェアし始めたことが発端とされています。ディープフェイクを作成するには、本物であるかのように見せるために、人工知能ソフトウェアを使って本物と見間違うほどリアルな捏造コンテンツ(写真や動画など)を生成します。まず、計算能力を利用して、膨大な量のコンテンツ(何時間もの人物動画や何千枚もの人物写真)を、顔の主要な特徴、身振り、身のこなしなどに着目して分析することで、学習モデルを作成します。

次に、アルゴリズムを利用して、学習結果を画像やフレームに適用します。例えば、オリジナルコンテンツに唇の動きを重ね合わせ、音声には吹き替えを行い、ある人が実際には口にしていないことを言ったように見せるといったかたちです。さらに、アーティファクト(正常または偶発的に見える「グリッチ」など)を加えたり、マスキングや編集で現実感を高めたりする手法を適用します。これにより、驚くほど本物そっくりのコンテンツが完成します。ディープフェイクの例をウェブで検索してみると、その本物らしさに驚くことでしょう。以下では、ディープフェイクの被害からお子様を守り、事実とフィクションを区別するための知識をお子様に身につけさせるにあたって、知っておくべき重要なポイントを紹介します。

ディープフェイクを見抜く方法

技術の進歩に伴い、ディープフェイクはますます本物に近づいてきています。しかし多くの場合、写真や動画のコンテンツに含まれる特定の情報(まばたきが不自然に見えるなど)を注意深く観察することで、ディープフェイクを特定できます。コンテンツを拡大して、口元、首、襟元、胸元などに不自然な部分やぼやけた部分がないか探してみることも非常に効果的です。多くの場合、これらの部位には、オリジナルコンテンツと重ね合わされたコンテンツの間に不整合や不一致が見られるためです。

動画の場合は、クリップの再生速度を落として、リップシンクやジッターなど、視覚的な不整合がないかどうか確認するとよいでしょう。さらに、本来なら感情を込めて話しているはずなのに、感情に欠けている瞬間がないか、単語の発音を間違えているように聞こえないか、それ以外におかしな矛盾がないかをチェックします。最後に、写真(または動画のスクリーンショット)を逆画像検索すると、加工される前のオリジナルの動画にたどり着くことができます。ここで、2つのコンテンツを注意深く比較して、どちらが加工されたものであるかを判断します。つまるところ、自分の感覚を信じることです。通常、じっくりとコンテンツを見たり聞いたりすれば、何かがおかしいと感じることができます。

自分がオンラインで投稿したものはすべて、ディープフェイクの作成に悪用される可能性があることを、お子さんに知っておいてもらうことは重要です。お子様がソーシャルメディアアカウントでコンテンツを作成している場合、他の利用者がそのライブラリにアクセスして、お子様の同意なく操作できるようになっているかもしれません。その場合、本人の顔、動き、声、その他の特徴が盗用されて、誰かの画像に重ね合わされる恐れがあり、その誰かの行為によって、多大な風評被害を受ける可能性があります。この点について対話をスムーズに進めるために、偏見がなく、理解のある態度で、以下の質問を投げかけてみましょう。

自分と対立したり、争ったりする可能性のある人を受け入れた可能性はあるか。
これまで、自分を傷つけるとは思ってもみなかった人に傷つけられたことがあるか。また同じようなことが起こる可能性はあるか。
新しいフォロワーリクエストや友達リクエストが届いたとき、その人のプロフィールをチェックして、正当なものであることを確認しているか。その人を信用できるか。
友達の投稿が他の人に不正に利用されたことはあるか。自分の身にも起こる可能性はあるか。

ディープフェイクは、それによって被る感情的、心理的、風評的なダメージを考えると、お子さんの心身の健康を損なう危険があります。聴覚的、視覚的、時間的な不一致は人間の目では観察できないかもしれませんが、画像や動画のコンテンツの不統一を識別してフラグするソフトウェアは継続的に改善されています。こうしたテクノロジーが進歩する中で、親や保護者、若者を支援する成人は、ディープフェイクの実態について認識を高め、その作成と拡散による影響を防ぐよう努めることが求められます。同時に、お子さんに対して、いつもあなたがそばにいて、(オンラインで受けるその他の危害はもちろん)ディープフェイクの状況から抜け出す手助けをする用意ができていることを定期的に伝えましょう。

機能とツール

1日の時間制限を設定する

Instagramのペアレンタルコントロールツール

休憩を取る

時間制限を設定する