{"id":808,"date":"2024-10-15T22:48:43","date_gmt":"2024-10-15T20:48:43","guid":{"rendered":"https:\/\/deepdetectai.de\/?p=808"},"modified":"2024-10-15T22:48:44","modified_gmt":"2024-10-15T20:48:44","slug":"disinformation-campaigns-with-deepfakes","status":"publish","type":"post","link":"https:\/\/deepdetectai.de\/de\/disinformation-campaigns-with-deepfakes\/","title":{"rendered":"Desinformationskampagnen mit Deepfakes"},"content":{"rendered":"

Desinformationskampagnen stellen eine ernsthafte Bedrohung f\u00fcr Demokratien und das Vertrauen in politische Institutionen dar. Desinformationskampagnen sind nichts Neues und werden seit Jahrhunderten von politischen, religi\u00f6sen und milit\u00e4rischen Akteuren eingesetzt, um die \u00f6ffentliche Meinung zu manipulieren, Gegnern zu schaden oder Kriegsstrategien zu beeinflussen. Insbesondere in den letzten Jahren, mit zunehmender Digitalisierung und immer einfacherem Zugang zu neuen Technologien, nehmen solche Kampagnen jedoch zu.<\/p>\n\n\n\n

Deepfakes haben das Arsenal von Desinformationskampagnen um eine gef\u00e4hrliche Waffe erweitert. Immer h\u00e4ufiger tauchen Videos auf, in denen Politiker Aussagen machen, die sie nie gemacht haben. Die Verbreitung solcher gef\u00e4lschter Inhalte kann dazu genutzt werden, Zweifel zu s\u00e4en, Feindbilder zu schaffen oder sogar politische Instabilit\u00e4t zu erzeugen.<\/p>\n\n\n\n

Wie werden Deepfakes in Desinformationskampagnen eingesetzt?<\/h2>\n\n\n\n

Reputationsschaden<\/h3>\n\n\n\n

Ein besonders h\u00e4ufiger Einsatzzweck von Deepfakes ist die Diffamierung politischer Gegner. Dabei werden oppositionelle Politiker oder Aktivisten in kompromittierende Situationen gebracht, in denen sie Bestechungsgelder annehmen oder unmoralisches Verhalten an den Tag legen. Ein bekanntes Beispiel kommt aus den USA: 2020 tauchte ein gef\u00e4lschtes Video des demokratischen Politikers und amtierenden Pr\u00e4sidenten Joe Biden auf, in dem er angeblich rassistische \u00c4u\u00dferungen machte. Obwohl das Video als Deepfake entlarvt wurde, sorgte es in den sozialen Medien f\u00fcr Aufsehen und weckte Misstrauen. In autorit\u00e4ren Regimen werden solche Videos genutzt, um Oppositionelle zu diskreditieren und ihren Ruf zu zerst\u00f6ren, wodurch die Bev\u00f6lkerung das Vertrauen in sie verliert.<\/p>\n\n\n\n

Wahlen<\/h3>\n\n\n\n

Ein weiteres Beispiel ist der gezielte Einsatz von Deepfakes zur Beeinflussung von Wahlen. Der aktuelle Pr\u00e4sidentschaftswahlkampf in den USA liefert hierf\u00fcr ein beispielloses Beispiel. US-Megastar Taylor Swift hat auf Instagram einen Beitrag ver\u00f6ffentlicht, in dem sie ihre Unterst\u00fctzung f\u00fcr die US-Pr\u00e4sidentschaftskandidatin Kamala Harris verk\u00fcndet. Swifts Motivation f\u00fcr diesen Schritt waren KI-generierte Bilder, die suggerierten, Swift w\u00fcrde Donald Trump unterst\u00fctzen. Trump hatte diese Bilder auf seiner sozialen Plattform \u201eTruth Social\u201c geteilt, um Swifts Unterst\u00fctzung f\u00fcr seinen Wahlkampf zu zeigen. Dieses Beispiel illustriert eindrucksvoll die weitreichenden Folgen von Desinformation.<\/p>\n\n\n\n

\"\"
Quelle: https:\/\/www.instagram.com\/p\/C_wtAOKOW1z\/<\/a><\/figcaption><\/figure>\n\n\n\n

In Indien wurde Deepfake-Technologie erstmals w\u00e4hrend eines Wahlkampfs eingesetzt. Die BJP (Bharatiya Janata Party) erstellte ein Video, in dem ein lokaler Politiker, Manoj Tiwari, in verschiedenen Sprachen sprach, um unterschiedliche W\u00e4hlergruppen zu erreichen. In diesem Video wurde Deepfake-Technologie verwendet, um es so aussehen zu lassen, als w\u00fcrde der Politiker die jeweilige Sprache flie\u00dfend sprechen. Dies wurde zwar nicht als Desinformationskampagne eingesetzt, zeigt aber das Potenzial von Deepfakes in Wahlk\u00e4mpfen zur Manipulation von W\u00e4hlergruppen.<\/p>\n\n\n\n

Untergrabung des Vertrauens in Institutionen<\/h3>\n\n\n\n

Deepfakes werden auch eingesetzt, um das Vertrauen in staatliche Institutionen gezielt zu untergraben. Dies geschieht, indem Politiker, Regierungsvertreter oder Institutionen selbst durch manipulierte Inhalte diskreditiert werden. Ein Beispiel hierf\u00fcr ist der Einsatz von Deepfakes w\u00e4hrend des Krieges in der Ukraine, als ein Video des ukrainischen Pr\u00e4sidenten Wolodymyr Selenskyj auftauchte, in dem er angeblich zur Kapitulation aufrief. Das Video wurde zwar schnell als F\u00e4lschung erkannt, doch der Versuch, die moralische Stabilit\u00e4t des ukrainischen Volkes zu untergraben, war deutlich. Dies verdeutlicht, wie Deepfakes als psychologische Kriegsf\u00fchrung eingesetzt werden k\u00f6nnen.<\/p>\n\n\n\n

\"\"
Quelle: Youtube<\/figcaption><\/figure>\n\n\n\n

Wie werden solche Kampagnen konkret umgesetzt?<\/h2>\n\n\n\n

Die Umsetzung solcher Kampagnen erfordert eine strategische Kombination aus technologischem Know-how, sozialer Manipulation und Verbreitung \u00fcber geeignete Kan\u00e4le.<\/p>\n\n\n\n

    \n
  1. Erstellen von Deepfakes<\/strong>
    Die Erstellung eines Deepfakes beginnt in der Regel mit der Sammlung von ausreichend Bild- und Videomaterial der Zielperson. Mittels maschineller Lernverfahren, wie Generative Adversarial Networks (GANs), wird dann ein realistisches Modell der Person erstellt, welches sp\u00e4ter in beliebige Szenarien eingef\u00fcgt werden kann. Dies ist insbesondere dann gef\u00e4hrlich, wenn die Zielperson in einen ohnehin belastenden Kontext gebracht wird, beispielsweise in ein vertrauliches Gespr\u00e4ch oder in einen Raum mit anderen fragw\u00fcrdigen Personen.<\/li>\n\n\n\n
  2. Gezielte Verbreitung \u00fcber Social Media<\/strong>
    Ist der Deepfake erst einmal erstellt, geht es im n\u00e4chsten Schritt darum, ihn gezielt zu verbreiten. Dabei kommt den sozialen Medien eine entscheidende Rolle zu. \u00dcber Plattformen wie X (fr\u00fcher Twitter), Facebook und YouTube k\u00f6nnen Videos in hoher Geschwindigkeit eine enorme Reichweite erzielen. Besonders perfide dabei ist, dass solche Inhalte oft durch Bots und Fake-Accounts verbreitet werden und so der Eindruck entsteht, sie seien von echten Nutzern geteilt worden. Dadurch entsteht ein sogenannter \u201eViral-Effekt\u201c, bei dem das Video innerhalb weniger Stunden Millionen von Menschen erreicht, bevor es m\u00f6glicherweise als Fake entlarvt wird.<\/li>\n\n\n\n
  3. Integration von Fake News und Narrativen<\/strong>
    In vielen F\u00e4llen geht ein Deepfake mit einer breiteren Erz\u00e4hlstrategie einher, die von Fake News und Artikeln flankiert wird. So wird beispielsweise ein Video ver\u00f6ffentlicht, das einen Politiker in einen Skandal verwickelt zeigt, und gleichzeitig erscheinen Fake News-Berichte, die diesen Vorfall weiter ausschm\u00fccken und zus\u00e4tzliche Details liefern, die das \u00f6ffentliche Vertrauen weiter untergraben. Diese Berichte werden oft auf Websites und Blogs ver\u00f6ffentlicht, die vertrauensw\u00fcrdig erscheinen, in Wirklichkeit aber Teil eines orchestrierten Desinformationsnetzwerks sind.<\/li>\n\n\n\n
  4. Zielgruppenspezifisches Targeting<\/strong>
    Eine der gr\u00f6\u00dften St\u00e4rken moderner Desinformationskampagnen ist die M\u00f6glichkeit, gezielt bestimmte Gruppen anzusprechen. Mit modernen Algorithmen k\u00f6nnen Deepfake-Videos genau jenen Menschen gezeigt werden, die am ehesten auf die F\u00e4lschung hereinfallen. So k\u00f6nnten beispielsweise Videos, die sich gegen eine bestimmte politische Partei richten, an deren W\u00e4hlergruppen gesendet werden, um sie zu verunsichern und ihre Meinung zu beeinflussen.<\/li>\n<\/ol>\n\n\n\n

    Der Zweck der Kampagnen<\/h2>\n\n\n\n

    Das Ziel von Desinformationskampagnen mit Deepfakes ist vielf\u00e4ltig und kann je nach politischem oder milit\u00e4rischem Kontext variieren:<\/p>\n\n\n\n