Prof. Michael Schwertel spricht per Video beim GDC Localization Townhall des United Nations Office for Digital and Emerging Technologies über Deepfakes und Vertrauen, daneben Moderatorin vor UN-Hintergrund

Deepfakes und der Liar’s Dividend: Warum Vertrauen Infrastruktur braucht

Deepfakes sorgen dafür, dass Vertrauen stirbt

Stellen Sie sich vor, morgen taucht ein Video auf, das Korruption im Rathaus Ihrer Stadt zeigt. Das Video ist echt. Trotzdem genügt ein einziger Satz, um es zu entwerten: „Das ist doch KI.“ Und viele Menschen glauben diesen Satz eher als ihren eigenen Augen.

Genau dieses Szenario habe ich am 18. November 2026 bei den Vereinten Nationen beschrieben. Beim GDC Localization Townhall des United Nations Office for Digital and Emerging Technologies habe ich vor über 200 Teilnehmenden aus Stadtverwaltungen und UN-Organisationen weltweit gesprochen. Es ging darum, wie Städte den Global Digital Compact, den die UN-Mitgliedstaaten 2024 verabschiedet haben, vor Ort umsetzen können.

Meine These dort war, dass die größte Gefahr von Deepfakes vielleicht gar nicht darin liegt, dass wir Fälschungen glauben. Viel gefährlicher ist es, wenn wir echten Bildern nicht mehr vertrauen.

Wer lügt, profitiert von perfekten Deepfakes

Die Rechtswissenschaftler Robert Chesney und Danielle Citron haben für dieses Phänomen 2019 einen Begriff geprägt, den „liar’s dividend“, also die Dividende des Lügners. Je bekannter es wird, dass sich Bilder, Videos und Stimmen täuschend echt fälschen lassen, desto leichter können Menschen echte Beweise als Fälschung abtun. Wer lügt, muss nichts mehr fälschen. Es reicht, Zweifel zu säen.

Am härtesten trifft das die lokale Ebene. In vielen Städten und Gemeinden gibt es nur noch eine kleine Redaktion oder gar keine mehr. Vertrauen hängt dort an einzelnen Personen, etwa an der Bürgermeisterin oder am Lokalreporter. Wenn deren Bilder und Aussagen pauschal als KI abgetan werden können, fehlt schnell jede gemeinsame Grundlage für Debatten im Gemeinderat oder vor einer Kommunalwahl.

Warum Kennzeichnung von Deepfakes allein nicht reicht

Die naheliegende Antwort lautet, Deepfakes zu kennzeichnen und die Medienkompetenz zu stärken. Beides ist wichtig. Aber beides stößt an Grenzen.

Selbst Fachleute können echte und generierte Bilder heute oft nicht mehr zuverlässig unterscheiden. Und eine Studie der University of Bristol zeigt, dass selbst ein ausdrücklicher Hinweis die Wirkung eines Deepfakes nicht aufhebt. Simon Clark und Stephan Lewandowsky haben in drei Experimenten untersucht, wie Menschen auf ein gefälschtes Video reagieren, das ihnen vorher als Fälschung angekündigt wurde. Die Warnung schwächte den Einfluss ab, beseitigte ihn aber nicht. Viele Teilnehmende wussten, dass das Video ein Fake war und hielten die gezeigte Person trotzdem für schuldig (Studie in Communications Psychology).

Wenn das Kennzeichnen von Fälschungen nur begrenzt wirkt, müssen wir den Blick umdrehen. Wir müssen nachweisbar machen, was echt ist.

Vertrauen braucht Infrastruktur

Städte kümmern sich ganz selbstverständlich um die Infrastruktur für Wasser und Straßen. In Zeiten von Deepfakes braucht auch Vertrauen eine Infrastruktur. Zwei Schritte lassen sich sofort angehen.

Digitale Siegel für echte Inhalte. Jeder kann seine Fotos und Videos mit einem digitalen Siegel versehen, Behörden und Redaktionen genauso wie Einzelne. Der offene Standard C2PA, bekannt als Content Credentials, hält nachprüfbar fest, wer ein Bild aufgenommen und wie es bearbeitet hat und macht spätere Veränderungen sichtbar. Wenn eine Stadt ihre offiziellen Fotos und Videos so kennzeichnet, können Bürgerinnen und Bürger prüfen, was wirklich von ihr stammt. Wer behauptet, ein solches Video sei KI, muss sich dann an einem überprüfbaren Nachweis messen lassen.

Ein Plan für den Ernstfall. Jede lokale Digitalstrategie sollte festlegen, was passiert, wenn ein Deepfake die eigene Stadt trifft. Wer prüft, wer informiert und wie schnell? Besonders vor Wahlen entscheidet die erste Stunde darüber, welche Version sich durchsetzt.

Der Global Digital Compact verpflichtet die Staaten bereits zur Integrität von Informationen. Jetzt geht es darum, das im Lokalen umzusetzen, denn dort entscheidet sich, ob Menschen einander noch glauben.

Worauf es jetzt ankommt

Wo auch immer auf der Welt sich eine Gemeinschaft nicht mehr einigen kann, was passiert ist, kann sie auch nicht mehr entscheiden, was als Nächstes zu tun ist. Deshalb geht es bei Deepfakes nicht nur um Technik, sondern um die Grundlage demokratischer Entscheidungen.

Ich beschäftige mich seit 2015 mit Künstlicher Intelligenz und arbeite mit Redaktionen, Verbänden und öffentlichen Einrichtungen zu KI-Deepfakes und Desinformation. Wenn Sie in Ihrer Stadt, Ihrer Redaktion oder Ihrer Organisation darüber sprechen möchten, wie Sie Vertrauen in echte Informationen absichern, freue ich mich über Ihre Nachricht.


Prof. Michael Schwertel spricht und berät zu Künstlicher Intelligenz in Medien, Kommunikation und Organisationen. Themen wie dieses bringt er als Keynote oder Workshop in Redaktionen, Medienhäuser und Unternehmen. Kontakt und Vortragsthemen

 

Table of Contents

Prof. Michael Schwertel spricht per Video beim GDC Localization Townhall des United Nations Office for Digital and Emerging Technologies über Deepfakes und Vertrauen, daneben Moderatorin vor UN-Hintergrund
Vortrag Prof. Michael Schwertel Robotik, KI Film- und Musikwirtschaft
Zwei humanoide Roboter stehen sich in einer Arena gegenüber, der linke wird von einer Fliegenhirn auf seinem Kopf gesteuert
Prof. Michael Schwertel als Panel-Speaker bei Besser Online 2026 KI im Journalismus
Nach oben scrollen