Desinformationskampagnen stellen eine ernsthafte Bedrohung für Demokratien und das Vertrauen in politische Institutionen dar. Desinformationskampagnen sind nichts Neues und werden seit Jahrhunderten von politischen, religiösen und militärischen Akteuren eingesetzt, um die öffentliche Meinung zu manipulieren, Gegnern zu schaden oder Kriegsstrategien zu beeinflussen. Insbesondere in den letzten Jahren, mit zunehmender Digitalisierung und immer einfacherem Zugang zu neuen Technologien, nehmen solche Kampagnen jedoch zu.
Deepfakes haben das Arsenal von Desinformationskampagnen um eine gefährliche Waffe erweitert. Immer häufiger tauchen Videos auf, in denen Politiker Aussagen machen, die sie nie gemacht haben. Die Verbreitung solcher gefälschter Inhalte kann dazu genutzt werden, Zweifel zu säen, Feindbilder zu schaffen oder sogar politische Instabilität zu erzeugen.
Wie werden Deepfakes in Desinformationskampagnen eingesetzt?
Reputationsschaden
Ein besonders häufiger Einsatzzweck von Deepfakes ist die Diffamierung politischer Gegner. Dabei werden oppositionelle Politiker oder Aktivisten in kompromittierende Situationen gebracht, in denen sie Bestechungsgelder annehmen oder unmoralisches Verhalten an den Tag legen. Ein bekanntes Beispiel kommt aus den USA: 2020 tauchte ein gefälschtes Video des demokratischen Politikers und amtierenden Präsidenten Joe Biden auf, in dem er angeblich rassistische Äußerungen machte. Obwohl das Video als Deepfake entlarvt wurde, sorgte es in den sozialen Medien für Aufsehen und weckte Misstrauen. In autoritären Regimen werden solche Videos genutzt, um Oppositionelle zu diskreditieren und ihren Ruf zu zerstören, wodurch die Bevölkerung das Vertrauen in sie verliert.
Wahlen
Ein weiteres Beispiel ist der gezielte Einsatz von Deepfakes zur Beeinflussung von Wahlen. Der aktuelle Präsidentschaftswahlkampf in den USA liefert hierfür ein beispielloses Beispiel. US-Megastar Taylor Swift hat auf Instagram einen Beitrag veröffentlicht, in dem sie ihre Unterstützung für die US-Präsidentschaftskandidatin Kamala Harris verkündet. Swifts Motivation für diesen Schritt waren KI-generierte Bilder, die suggerierten, Swift würde Donald Trump unterstützen. Trump hatte diese Bilder auf seiner sozialen Plattform „Truth Social“ geteilt, um Swifts Unterstützung für seinen Wahlkampf zu zeigen. Dieses Beispiel illustriert eindrucksvoll die weitreichenden Folgen von Desinformation.
In Indien wurde Deepfake-Technologie erstmals während eines Wahlkampfs eingesetzt. Die BJP (Bharatiya Janata Party) erstellte ein Video, in dem ein lokaler Politiker, Manoj Tiwari, in verschiedenen Sprachen sprach, um unterschiedliche Wählergruppen zu erreichen. In diesem Video wurde Deepfake-Technologie verwendet, um es so aussehen zu lassen, als würde der Politiker die jeweilige Sprache fließend sprechen. Dies wurde zwar nicht als Desinformationskampagne eingesetzt, zeigt aber das Potenzial von Deepfakes in Wahlkämpfen zur Manipulation von Wählergruppen.
Untergrabung des Vertrauens in Institutionen
Deepfakes werden auch eingesetzt, um das Vertrauen in staatliche Institutionen gezielt zu untergraben. Dies geschieht, indem Politiker, Regierungsvertreter oder Institutionen selbst durch manipulierte Inhalte diskreditiert werden. Ein Beispiel hierfür ist der Einsatz von Deepfakes während des Krieges in der Ukraine, als ein Video des ukrainischen Präsidenten Wolodymyr Selenskyj auftauchte, in dem er angeblich zur Kapitulation aufrief. Das Video wurde zwar schnell als Fälschung erkannt, doch der Versuch, die moralische Stabilität des ukrainischen Volkes zu untergraben, war deutlich. Dies verdeutlicht, wie Deepfakes als psychologische Kriegsführung eingesetzt werden können.
Wie werden solche Kampagnen konkret umgesetzt?
Die Umsetzung solcher Kampagnen erfordert eine strategische Kombination aus technologischem Know-how, sozialer Manipulation und Verbreitung über geeignete Kanäle.
- Erstellen von Deepfakes
Die Erstellung eines Deepfakes beginnt in der Regel mit der Sammlung von ausreichend Bild- und Videomaterial der Zielperson. Mittels maschineller Lernverfahren, wie Generative Adversarial Networks (GANs), wird dann ein realistisches Modell der Person erstellt, welches später in beliebige Szenarien eingefügt werden kann. Dies ist insbesondere dann gefährlich, wenn die Zielperson in einen ohnehin belastenden Kontext gebracht wird, beispielsweise in ein vertrauliches Gespräch oder in einen Raum mit anderen fragwürdigen Personen. - Gezielte Verbreitung über Social Media
Ist der Deepfake erst einmal erstellt, geht es im nächsten Schritt darum, ihn gezielt zu verbreiten. Dabei kommt den sozialen Medien eine entscheidende Rolle zu. Über Plattformen wie X (früher Twitter), Facebook und YouTube können Videos in hoher Geschwindigkeit eine enorme Reichweite erzielen. Besonders perfide dabei ist, dass solche Inhalte oft durch Bots und Fake-Accounts verbreitet werden und so der Eindruck entsteht, sie seien von echten Nutzern geteilt worden. Dadurch entsteht ein sogenannter „Viral-Effekt“, bei dem das Video innerhalb weniger Stunden Millionen von Menschen erreicht, bevor es möglicherweise als Fake entlarvt wird. - Integration von Fake News und Narrativen
In vielen Fällen geht ein Deepfake mit einer breiteren Erzählstrategie einher, die von Fake News und Artikeln flankiert wird. So wird beispielsweise ein Video veröffentlicht, das einen Politiker in einen Skandal verwickelt zeigt, und gleichzeitig erscheinen Fake News-Berichte, die diesen Vorfall weiter ausschmücken und zusätzliche Details liefern, die das öffentliche Vertrauen weiter untergraben. Diese Berichte werden oft auf Websites und Blogs veröffentlicht, die vertrauenswürdig erscheinen, in Wirklichkeit aber Teil eines orchestrierten Desinformationsnetzwerks sind. - Zielgruppenspezifisches Targeting
Eine der größten Stärken moderner Desinformationskampagnen ist die Möglichkeit, gezielt bestimmte Gruppen anzusprechen. Mit modernen Algorithmen können Deepfake-Videos genau jenen Menschen gezeigt werden, die am ehesten auf die Fälschung hereinfallen. So könnten beispielsweise Videos, die sich gegen eine bestimmte politische Partei richten, an deren Wählergruppen gesendet werden, um sie zu verunsichern und ihre Meinung zu beeinflussen.
Der Zweck der Kampagnen
Das Ziel von Desinformationskampagnen mit Deepfakes ist vielfältig und kann je nach politischem oder militärischem Kontext variieren:
- Spaltung der Gesellschaft: Schaffung eines tiefen Misstrauens gegenüber Medien und politischen Institutionen, um soziale Unruhen und Spaltungen zu fördern.
- Schwächung der Demokratien: In Demokratien geht es oft darum, die Bevölkerung zu verunsichern und das Vertrauen in den Wahlprozess und die Legitimität der Politiker zu untergraben.
- Psychologische Kriegsführung: In Konfliktsituationen werden Deepfakes eingesetzt, um Verwirrung zu stiften, die Moral zu brechen und den Feind zu destabilisieren.
Quellen:
