Galileo WM CopyCreated with Sketch.
Deepfakes von Trump auf Bildschirm

Deepfakes - wenn KI Gesichter und Stimmen verfälscht

Deepfakes machen Prominente zu Porno-Stars und legen Politiker:innen falsche Worte in den Mund. Der Identitätsbetrug erreicht so ein ganz neues Level. Die Fakes bieten aber auch neue Möglichkeiten, etwa in der Medizin oder Filmbranche.
0

Das Wichtigste zum Thema Deepfakes

  • "Deepfakes" sind täuschend echte Fake-Manöver, bei denen Videos, Bilder oder Ton-Aufnahmen mithilfe von künstlicher Intelligenz manipuliert werden.

  • Der Begriff setzt sich aus den Worten "Deep Learning" (besonders smarte, KI-gesteuerte Technik) und "Fake" für Täuschung zusammen. Die KI scannt durch echtes Foto- und Video-Material die Mimik von Menschen - und ahmt sie dann in Fakes nahezu perfekt nach.

  • Deepfakes sind ein relativ neues Phänomen. Erstmals fiel der Begriff im Jahr 2017. Während die ersten Fälle noch einfach zu entlarven waren, fällt es durch die stetig [smarter werdende Technik] (https://www.galileo.tv/technik/emoji-jacke-und-co-smarte-gadgets-schuetzen-dich-als-fahrrad-fahrer/) mittlerweile selbst Expert:innen schwer, die Täuschungen zu enttarnen.

  • Am häufigsten kommt das sogenannte "Face Swapping" zum Einsatz: Bei Fotos oder Videos werden Gesichter von Personen ausgetauscht. Aber auch Stimmen und Worte werden überraschend authentisch verändert.

  • Die KI-gesteuerte Technik ist sogar in der Lage, real wirkende Personen zu faken, die es im echten Leben überhaupt nicht gibt. Und dafür musst du gar kein Profi sein - es gibt immer mehr Softwares und Apps für Laien.

  • Inzwischen können Deepfakes sogar live, in Echtzeit erzeugt werden - zum Beispiel während [Video-Konferenzen] (https://www.galileo.tv/video/video-konferenzen-tipps-und-tricks/). Nicht ungefährlich, wenn es um vertrauliche Informationen geht.

  • Neue Deepfake-Anwendungen zeigen aber auch die Potentiale, die in der Technik stecken. Weiter unten erfährst du mehr dazu.

Live-Deepfakes: So echt sehen die gefälschten Videos aus

In Zeiten von Live Calls und Online Meetings boomen die Live-Deepfakes. Jeder kann sich als Söder, Merkel oder Trump ausgeben. Deepfakes zu erkennen ist allerdings äußerst schwer. Unsere Experten geben uns hierfür Tipps.

Deepfake-Chronik: Die bekanntesten Fälle

  • 😲

    2017 wurde ein Video veröffentlicht, in dem Barack Obama unter anderem Donald Trump als "kompletten Volltrottel" betitelt.

  • 🤔

    Natürlich hat der Ex-Präsident das nie wirklich gesagt. Es war eine Deepfake-Aktion des amerikanischen Kabarettisten Jordan Peele und Buzzfeed. Sie zeigte erfolgreich, wie einfach selbst Laien Medien-Material manipulieren können.

  • 👯‍♀️

    Noch im selben Jahr tauchten Deepfake-Videos mit Stars wie Emma Watson, Scarlett Johansson und Taylor Swift als vermeintliche Porno-Darstellerinnen auf.

  • 🧐

    Per "Face Swapping" tauschten die Verantwortlichen die Gesichter der echten Darstellerinnen mit denen der Prominenten aus.

  • 📱

    Es folgten einige intuitive Apps, die Deepfakes auch Laien zugänglich machen - wie "FaceSwap", "DeepFaceLab" (nach eigenen Angaben für rund 95 Prozent der Deepfakes im Netz zuständig), "ZAO" oder "Reface".

  • 👀

    2019 ging die App "DeepNude" an den Start. Mittlerweile ist sie aus Angst vor Missbrauch nicht mehr erhältlich - hier konnte man Fotos von Frauen hochladen und die App verwandelte diese in vermeintliche Nackt-Fotos.

  • 😳

    Die Deepfake-Technik entwickelt sich immer weiter. Expertinnen und Experten vermuten, dass sich die Anzahl der Fake-Inhalte im Netz alle 6 Monate verdoppelt.

Dieses Deepfake-Video mit Obama zeigt, wie echt die Täuschungen wirken können

Externer Inhalt

Dieses Element stammt von externen Anbietern wie Facebook, Instagram und Youtube.

Um diese Inhalte anzuzeigen, aktiviere bitte Personalisierte Anzeigen und Inhalte sowie Anbieter außerhalb des CMP Standards in den

Die Identität wechseln wie ein Chamäleon - das macht Deepfakes so gefährlich

Deepfakes bergen ein großes Gefahren-Potenzial. Der Fall rund um die Porno-Inszenierungen zeigt bereits, dass sie rufschädigend sein können. Expertinnen und Experten warnen aber auch vor Falsch-Meldungen durch manipuliertes Material. Das kann vor allem in der Politik für Unruhe sorgen.

Auch für die digitalisierte Geschäftswelt stellen Deepfakes ein Risiko dar. Die Fälschungen können bereits "live" in Video-Konferenzen erstellt werden. Auf diese Weise könnten sich zum Beispiel Kriminelle für Angestellte ausgeben und so an sensible Daten gelangen.

Die guten Seiten der Deepfakes

  • 😃

    Deepfakes sorgen bei Apps wie "Reface" für Lacher. Es ist lustig, wenn James Bond oder Madonna performen und plötzlich dein Gesicht tragen.

  • 🗣️

    Project Revoice ist ein medizinisches Projekt: Menschen, die krankheitsbedingt nicht mehr sprechen können, erhalten durch die Deepfake-Technik einen authentischen Ersatz für ihre Stimme.

  • 🎥

    In der Filmbranche sind Deepfakes eine sichere Alternative für gefährliche Stunts, in denen Doubles bisher ihr Leben riskierten.

  • 🎙

    Das Start-Up Flawless möchte die Synchronbranche revolutionieren - mit Hilfe von Deepfakes. Anfang Mai hat die Firma ihre Software TrueSync vorgestellt. Dank ihr passen sich die Lippen der Schauspieler:innen in Filmen den Synchronstimmen an. Zusammen mit der KI deepdub wird das Filmerlebnis unglaublich authentisch. Sie überträgt die Stimmen der Originaldarstellenden in alle beliebigen Fremdsprachen.

TrueSync von Flawless: So wird die Synchronisierung zum Kinderspiel

Externer Inhalt

Dieses Element stammt von externen Anbietern wie Facebook, Instagram und Youtube.

Um diese Inhalte anzuzeigen, aktiviere bitte Personalisierte Anzeigen und Inhalte sowie Anbieter außerhalb des CMP Standards in den

Wie kannst du dich gegen Deepfakes schützen?

  • 🤓

    Sich gegen Deepfakes zu schützen fällt selbst Profis immer schwerer. Dennoch gibt es ein paar Tipps:

  • Dein Gegenüber im Videochat verhält sich irgendwie komisch oder du hast ein ungutes Gefühl? Dann bitte ihn oder sie doch mal höflich, die Hand vors Gesicht zu führen.

  • Entsteht eine Störung, handelt es sich mit hoher Wahrscheinlichkeit um einen Live-Deepfake.

  • 👨‍💻

    Einige Firmen und Forschungseinrichtungen arbeiten bereits an Technologien zum Entlarven von Deepfakes.

  • 🤔

    Facebook rief gemeinsam mit Partnern wie Microsoft oder Amazon die "Deepfake Detection Challenge" (kurz: DFDC) ins Leben: Ein Algorhythmus soll KI-gesteuertes Material von echtem unterscheiden.

  • 🔍

    Microsoft will zukünftig mit dem Video Authenticator Foto- und Videomaterial analysieren - und so Deepfakes ermitteln.

Veröffentlicht: 28.05.2021 / Autor: Carina Neumann-Mahlkau