Deepfakes als Mittel der Belästigung

Der Begriff „Deepfake“ – zusammengesetzt aus „Deep Learning“ und „Fake“ – hat seinen Ursprung vermutlich in Online-Communitys, in denen Nutzer*innen gefälschte pornografische Inhalte von berühmten Persönlichkeiten untereinander austauschen. Dabei wird Software mit künstlicher Intelligenz eingesetzt, um Inhalte wie Fotos oder Videos zu erstellen, die erstaunlich realistisch aussehen und einen authentischen Eindruck erwecken sollen. Durch die rechenintensive Analyse großer Mengen von Inhalten (z. B. mehrere Stunden Videomaterial einer Person, Tausende von Bildern einer Person) entstehen Lernmodelle, bei denen ein besonderes Augenmerk auf die wichtigsten Gesichtszüge und die Körpersprache bzw. die Körperhaltung der Person gelegt wird.

Anschließend wird das Gelernte algorithmisch auf Bilder/Frames angewandt, die man manipulieren oder neu erzeugen möchte (z. B. durch die Überlagerung von Lippenbewegungen über Originalinhalte (sowie eine Nachvertonung), um den Anschein zu erwecken, dass eine Person etwas sagt, was sie in Wirklichkeit nie gesagt hat). Zur weiteren Realitätssteigerung kommen darüber hinaus weitere Techniken zum Einsatz, wie etwa das Hinzufügen von Artefakten (z. B. „Glitches“, die ganz gewöhnlich oder wie rein zufällig wirken) oder Masking bzw. manuelle Bearbeitung. Die Endergebnisse sind oft unglaublich überzeugend. Wenn du im Internet nach Beispielen für Deepfakes suchst, wirst du von ihrer authentischen Wirkung wahrscheinlich verblüfft sein. Hier findest du einige wichtige Informationen, um dein Kind davor zu bewahren, selbst Opfer eines Deepfakes zu werden, und um es dafür zu sensibilisieren, Fakten von Fiktion zu unterscheiden.

Obwohl Deepfakes im Zuge des technologischen Fortschritts immer realistischer wirken, erkennt man sie in der Regel, wenn man auf bestimmte Details im Foto- oder Videomaterial achtet (z. B. Augen, die unnatürlich zu blinzeln scheinen). Es kann auch sehr hilfreich sein, näher heranzuzoomen und nach unnatürlichen oder verschwommenen Rändern um den Mund, den Hals/Kragen oder die Brust zu suchen. An diesen Stellen lassen sich oft Verschiebungen und Diskrepanzen zwischen dem ursprünglichen Inhalt und dem überlagerten Inhalt erkennen.

Bei Videos empfiehlt es sich, den Clip langsamer abzuspielen und auf visuelle Unstimmigkeiten zu achten, wie etwa Anzeichen für eine Nachvertonung (wenn das Gesagte nicht zu den Lippenbewegungen passt) oder ein Ruckeln. Achte außerdem auf Szenen, in denen die betreffende Person keine Emotionen zeigt, obwohl man das bei dem Gesagten erwarten würde, in denen sie ein Wort falsch ausspricht oder in denen es andere seltsame Ungereimtheiten gibt. Zu guter Letzt kannst du mit einer Rückwärtssuche von Fotos (oder einem Screenshot aus einem Video) oft das ursprüngliche, nicht manipulierte Video ausfindig machen. Jetzt kannst du die beiden Inhalte aufmerksam miteinander vergleichen und feststellen, welcher von ihnen bearbeitet wurde. Fazit: Vertraue deinen Sinnen. Wenn wir uns die Inhalte in Ruhe ansehen und genau hinhören, erkennen wir normalerweise, wenn irgendetwas nicht stimmt.

Es ist wichtig, Jugendliche immer wieder daran zu erinnern, dass alles, was sie online veröffentlichen, zur Erstellung eines Deepfakes verwendet werden könnte. Auf ihren Social-Media-Konten haben sie wahrscheinlich eine umfangreiche Sammlung von Inhalten erstellt, die andere ohne ihre Zustimmung einsehen und manipulieren können. Ihr Gesicht, ihre Bewegungen, ihre Stimme und andere Merkmale könnten kopiert und über das Abbild einer anderen Person gelegt werden – einer Person, die ein Verhalten an den Tag legt, das ihrem Ruf erheblichen Schaden zufügen kann. Für einen leichteren Gesprächseinstieg zu dieser Thematik findest du hier einige unvoreingenommene und verständnisvolle Fragen, die du deinem Kind stellen kannst:

• Ist es möglich, dass du Personen als Follower*innen hast, die mit der Zeit in einen Konflikt oder eine Konkurrenzsituation mit dir geraten könnten?
• Wurdest du jemals von einer Person verletzt, von der du das niemals erwartet hättest? Könnte das wieder passieren?
• Wenn du neue Follower*innen- oder Freundschaftsanfragen erhältst, überprüfst du das Profil der Personen, um sicherzustellen, dass sie authentisch sind? Kannst du ihnen vertrauen?
• Wurden die Beiträge von einem*einer deiner Freund*innen schon einmal von einer anderen Person auf unzulässige Weise verwendet? Könnte das auch dir passieren?

Deepfakes können das Wohlbefinden von Jugendlichen potenziell gefährden. Man muss dabei nur an die Rufschädigung sowie den emotionalen und psychischen Schaden denken, den sie verursachen können. Da akustische, visuelle und zeitliche Unstimmigkeiten dem menschlichen Auge leicht entgehen, werden mittlerweile Softwarelösungen entwickelt, die Unregelmäßigkeiten in Bild- oder Videoinhalten erkennen und kennzeichnen. Angesichts der kontinuierlichen Verbesserung von Deepfake-Technologien müssen Eltern, Bezugspersonen und andere Erwachsene, die mit Jugendlichen arbeiten, ein Bewusstsein für die Existenz von Deepfakes schaffen und versuchen, den Folgen ihrer Erstellung und Verbreitung vorzubeugen. Gleichzeitig solltest du deinem*deiner Teenager*in regelmäßig versichern, dass du ihm*ihr immer zur Seite stehst, um ihm*ihr bei Problemen mit Deepfakes zu helfen – und natürlich auch bei jedem anderen Leid, das ihm*ihr im Internet widerfährt.