Galileo WM CopyCreated with Sketch.
  1. Galileo WM CopyCreated with Sketch.Galileo
  2. Technik
Ein Video von Barack Obama wird bearbeitet

Deepfakes: Wenn KI Gesichter und Stimmen perfekt verfälscht

Deepfakes legen Politiker:innen falsche Worte in den Mund oder machen Prominente zu Porno-Stars. Der Identitäts-Betrug und die Verbreitung von Fake News erreichen so eine ganz neue Dimension. Die Technik bietet aber auch neue Möglichkeiten, etwa in der Medizin oder in der Film-Branche.
Deepfakes: Wenn KI Gesichter und Stimmen perfekt verfälscht
0

Das Wichtigste zum Thema Deepfakes

  • Deepfakes sind täuschend echte Manipulationen von Videos, Bildern und Ton-Aufnahmen mithilfe von künstlicher Intelligenz (KI). Der Begriff fiel erstmals in 2017.

  • Die KI scannt die Mimik von Menschen anhand von Bild-Material und ahmt sie dann nahezu perfekt nach. Am häufigsten kommt "Face Swapping" zum Einsatz: Dabei werden Gesichter von Personen in Fotos und Videos ausgetauscht oder auch Stimmen und Worte sehr authentisch verändert.

  • Die Deepfake-Technik ist sogar in der Lage, echt wirkende Personen zu kreieren, die eigentlich nicht existieren. Inzwischen geht das sogar live, also in Echtzeit, zum Beispiel während Video-Konferenzen.

  • Das Ganze ist nicht ungefährlich - vor allem, wenn es um vertrauliche Informationen oder politische Hetze geht. Die stetig smarter werdende Technik macht es selbst Expert:innen schwer, Täuschungen zu enttarnen. In der Technologie steckt aber auch nützliches Potential. Weiter unten erfährst du mehr dazu.

Live-Deepfakes: So echt sehen die gefälschten Videos aus

Live-Deepfakes: So echt sehen die gefälschten Videos aus

In Zeiten von Online-Meetings boomen Live-Deepfakes. Jeder kann sich als Markus Söder, Angela Merkel oder Donald Trump ausgeben. Deepfakes zu erkennen ist äußerst schwer. Unsere Expert:innenen geben dir Tipps.

Deepfake-Chronik: bekannte Fälle

  • 😲

    2017 wurde ein Video veröffentlicht, in dem der ehemalige US-Präsident Barack Obama unter anderem Donald Trump als "kompletten Volltrottel" betitelt.

  • 🤔

    Natürlich hat Obama das nie wirklich gesagt. Es war eine Deepfake-Aktion des amerikanischen Kabarettisten Jordan Peele und Buzzfeed. Sie zeigte erfolgreich, wie einfach selbst Laien Medien-Material manipulieren können.

  • 👯‍♀️

    Noch im selben Jahr tauchten Deepfake-Videos mit Stars wie Emma Watson, Scarlett Johansson und Taylor Swift als Porno-Darstellerinnen auf. Per "Face Swapping" tauschten die Verantwortlichen die Gesichter der echten Darstellerinnen mit denen der Prominenten aus.

  • 🧐

    2021 wunderten sich Millionen Menschen über kuriose Blödel-Videos des Schauspielers Tom Cruise auf TikTok und YouTube. Die Clips stammten jedoch nicht wirklich von ihm, sondern waren Deepfakes des belgischen Video-Künstlers Chris Umé. Er wollte mit "@deeptomcruise" eine Debatte anstoßen: Wie gefährlich sind Deepfakes?

  • 🇺🇦

    Die Kriegs-Propaganda wird durch Deepfakes auf die Spitze getrieben - mit gefährlichen Folgen. 2022 kursierte ein Video auf zwei gehackten ukrainischen Fernsehsendern sowie im Netz. Darin befahl der ukrainische Präsident Wolodymyr Selenskyj seinen Streitkräften, im Krieg gegen Russland zu kapitulieren. Zwar war der Fake schlecht gemacht - doch bis das Video entfernt und vom wahren Selenskyj dementiert wurde, hatten es allein auf Twitter über 85.000 Menschen bereits angeklickt.

  • 📱

    Es mehren sich intuitive Apps, die Deepfakes auch Laien zugänglich machen - wie "FaceSwap", "DeepFaceLab" (nach eigenen Angaben für rund 95 Prozent der Deepfakes im Netz zuständig), "ZAO" oder "Reface".

  • 😳

    Die Deepfake-Technik entwickelt sich ständig weiter. Expert:innen vermuten, dass sich die Anzahl der Fake-Inhalte im Netz alle sechs Monate verdoppelt.

"Deeptomcruise" revealed: So fälschte ein Video-Künstler den Schauspieler

Externer Inhalt

Dieses Element stammt von externen Anbietern wie Facebook, Instagram und Youtube.

Um diese Inhalte anzuzeigen, aktiviere bitte Personalisierte Anzeigen und Inhalte sowie Anbieter außerhalb des CMP Standards in den

Die Identität wechseln wie ein Chamäleon: Das macht Deepfakes so gefährlich

Deepfakes bergen ein großes Gefahren-Potenzial. Sie können nicht nur rufschädigend sein. Expert:innen warnen auch vor Fake News durch manipuliertes Material in den Medien. Das kann vor allem in der Politik für Unruhe sorgen.

Auch für die digitalisierte Geschäftswelt stellen Deepfakes ein Risiko dar. Die Fälschungen können bereits live in Video-Konferenzen erstellt werden. Auf diese Weise könnten sich zum Beispiel Kriminelle für Angestellte ausgeben und so an sensible Daten gelangen.

Dieses Deepfake-Video mit Obama zeigt, wie echt die Täuschungen wirken können

Externer Inhalt

Dieses Element stammt von externen Anbietern wie Facebook, Instagram und Youtube.

Um diese Inhalte anzuzeigen, aktiviere bitte Personalisierte Anzeigen und Inhalte sowie Anbieter außerhalb des CMP Standards in den

Wie kannst du dich gegen Deepfakes schützen?

  • 🤨

    Dein Gegenüber im Video verhält sich komisch oder du hast ein ungutes Gefühl? Dann bitte ihn oder sie doch mal höflich, die Hand vors Gesicht zu führen. Entsteht dabei eine Störung im Bild, handelt es sich mit hoher Wahrscheinlichkeit um einen Live-Deepfake.

  • 🌫

    Achte auf den Hintergrund: Vom Computer erzeugte Hintergründe wirken manchmal verschwommen oder unnatürlich und lassen die Kanten/Linien der Person verwaschen wirken.

  • 🤓

    Accessoires und Haare: Schmuck wie Ohrringe, Brillen und Hüte können für Softwares zum Problem werden und unvollständig erscheinen. Dasselbe gilt für Haare und Haar-Linien.

  • 👨‍💻

    Einige Firmen und Forschungs-Einrichtungen arbeiten bereits an Technologien, um Deepfakes zu entlarven.

  • 🤔

    Facebook rief gemeinsam mit Partnern wie Microsoft oder Amazon die "Deepfake Detection Challenge" (kurz: DFDC) ins Leben: Ein Algorithmus soll KI-gesteuertes Material von echtem unterscheiden.

  • 🔍

    Microsoft will zukünftig mit dem Video Authenticator Foto- und Videomaterial analysieren - und so Deepfakes ermitteln.

Die guten Seiten von Deepfakes

  • 😃

    Deepfakes sorgen bei Apps wie "Reface" für Lacher. Es ist lustig, wenn James Bond oder Madonna performen und plötzlich dein Gesicht tragen.

  • 🗣️

    Project Revoice ist ein medizinisches Projekt: Menschen, die krankheitsbedingt nicht mehr sprechen können, erhalten durch die Deepfake-Technik einen authentischen Ersatz für ihre Stimme.

  • 🎥

    In der Film-Branche sind Deepfakes eine sichere Alternative für gefährliche Stunts, in denen Doubles bisher ihr Leben riskierten.

  • 🎙

    Das Start-Up Flawless möchte die Synchron-Branche revolutionieren - mihilfe von Deepfakes. Die Firma stellte bereits eine Software vor, bei der sich die Lippen der Schauspieler:innen in Filmen den Synchron-Stimmen anpassen. Zusammen mit einer künstlichen Intelligenz wird das Film-Erlebnis so unglaublich authentisch: Sie überträgt nämlich die Stimmen der Original-Darsteller:innen in alle beliebigen Fremdsprachen.

Verwandte Themen

Social Media
Veröffentlicht: 28.06.2022 / Autor: Carina Neumann-Mahlkau