Der Deepfake-Moment der Demokratie

Der Deepfake-Moment der Demokratie

Ein muskulöser Olaf Scholz in Bodybuilder-Pose, mit nacktem Oberkörper, in einem Video auf TikTok. Sieht beeindruckend aus, und vor allem: täuschend echt. Immer mehr Deepfake-Versionen vom Kanzler und anderen Politikern und Politikerinnen kursieren zur Zeit auf Social-Media-Plattformen, in Deutschland und fast überall auf der Welt. Die meisten sind harmlos, manche weniger. Einige sind als Satire gekennzeichnet, viele andere nicht.

Die KI-manipulierten Pics und Reels sind technisch mittlerweile nahezu perfekt. Selbst beim längeren Betrachten merkt man oft kaum noch, dass es sich um eine Fälschung handelt, erst recht nicht beim schnellen Scrollen. Meist liefert erst der fragwürdige Kontext den entscheidenden Hinweis. Niemand wird ernsthaft glauben, dass der Kanzler derart muskelbepackt ist – und dann auch noch ein Selfie-Video im Fitness-Studio dreht. Aber was, wenn das Video raffinierter ist, der Kontext plausibel, der Zeitpunkt passend?

Wir befinden uns mitten im Superwahljahr 2024, in dem fast die Hälfte der Weltbevölkerung zu den Urnen geht. In vielen Ländern herrscht die Sorge, Deepfakes und KI-generierte Desinformationen könnten die Wahlen beeinflussen. Man denkt an gefälschte Videos von Wahlzetteln in Müllcontainern, an kompromittierendes Deepfake-Material über Politiker und Politikerinnen – an Joe Biden im Krankenhaus oder Donald Trump im Knast.

Gut möglich, dass wir in den nächsten Monaten einen »Deepfake-Moment« der Demokratie erleben, bei den bevorstehenden Europawahlen oder natürlich im November, wenn der US-Präsident gewählt wird.

Vielleicht kommt der eine große Deepfake-Moment aber auch nicht. Vielleicht liegt die eigentliche Gefahr für die Demokratie auch gar nicht so sehr darin, dass eine besonders raffinierte Fälschung auf einen Schlag eine Wahl entscheidet. Viel gefährlicher könnte sein, dass gerade jüngere Wählerinnen und Wähler überhaupt nicht mehr zwischen echt und unecht, zwischen wahr und falsch unterscheiden können.

In den sozialen Medien verschwimmen die Inhalte mehr und mehr zu einem einzigen Trash-TV-Strom, in dem alle Inhalte nivelliert werden, in dem es kaum mehr eine Rolle spielt, ob der Kanzler nun wirklich so durchtrainiert ist, wer was wirklich gesagt oder getan hat. Einen solchen Strom kann man womöglich nicht mehr damit bekämpfen, dass man an den gesunden Menschenverstand der Nutzer und Nutzerinnen appelliert.

Was wir jetzt brauchen, das sind nicht nur wirksame Schutzmaßnahmen gegen Deepfakes, sowohl technischer wie rechtlicher Art. Wir brauchen vor allem eine klare Vorstellung davon, was Demokratie in einer KI-Welt heißt, in der die Konturen der Realität immer mehr verschwinden.

Back To Top

human ist das Leitmedium für strategische Entscheider:innen und alle, die mit KI arbeiten und leben werden. Wir stellen den Menschen in den Mittelpunkt. Für eine lebenswerte Zukunft aller.

Folgen Sie unserer Einladung zum Dialog – werden Sie Teil einer spannenden Reise…

Social