Das ist alles nur gefälscht

von Rieke C. Harmsen

Amelia trägt eine knappe Schuluniform, lila Haare und steht auf „dark romantic“. In den Videos, die auf Social-Media-Kanälen wie X oder Facebook kursieren, läuft das junge Mädchen durch London, posiert im Unterhaus, schwenkt Union-Jack-Fähnchen und verbreitet rassistische Parolen. Die Botschaften sind emotional, einfach und eindeutig – und sie werden weltweit verbreitet. Denn Amelia ist eine Kunstfigur, die mit gängigen KI-Tools beliebig kopiert und verbreitet werden kann.

Bitter ist die Geschichte von Amelia vor allem deshalb, weil die Figur ursprünglich für ein von der britischen Regierung mitfinanziertes Videospiel entwickelt wurde, mit dem Jugendliche zwischen 13 und 18 Jahren lernen sollten, rechtsextremen Tendenzen zu widerstehen. Amelia diente im Spiel als abschreckendes Beispiel – doch das Spiel geriet außer Kontrolle, als rechte Aktivisten die Figur kaperten und umdeuteten. Sie fluteten das Netz mit Amelia als Mangafigur, als Knetpuppe und mit KI-generierten Videos, bei denen Amelia rechtsextreme Parolen schwingt.

Der Fall Amelia zeigt, wie schnell eine Figur heute medial transformiert, umgedeutet und missbräuchlich verwendet werden kann – ganz egal, ob sie wirklich oder nur virtuell existiert. Wer aktuell in sozialen Medien unterwegs ist, dem begegnen irgendwann zwangsläufig gefälschte Profile und KI-generierte Figuren, die selbst von Experten kaum mehr als echt oder unecht erkannt werden können.

Viele Studien belegen, wie stark Fake News und gezielte Desinformationen unsere persönlichen Haltungen und Entscheidungen beeinflussen können. Aber was macht diese Lügen so erfolgreich? Sie setzen genau dort an, wo unser Denken besonders anfällig ist. Wir neigen dazu, bevorzugt Nachrichten und Informationen aufzunehmen, die in unser Weltbild passen, erklärt der Kommunikationswissenschaftler Ralf Hohlfeld von der Universität Passau. Dieser „Confirmation Bias“ sorge aber dafür, dass wir uns nur ungern außerhalb unserer Blasen bewegen. Hinzu kommt der „Illusory Truth“-Effekt: Unabhängig vom Wahrheitsgehalt glauben wir demnach Aussagen mehr, wenn wir sie immer wieder hören oder lesen. Irgendwann beginnen wir, unser Weltbild diesen „Informationen“ anzupassen. Populisten wissen das für sich zu nutzen. Konsequent verbreiten und wiederholen sie schrille Thesen und angebliche Wahrheiten, die längst widerlegt sind. Was sie damit erreichen: eine Verschiebung des öffentlich Sagbaren zu ihren Gunsten.

Natürlich gibt es noch weitere psychologische und soziale Faktoren, die bei diesem Prozess eine Rolle spielen: unser Bedürfnis nach Klarheit und Kontrolle zum Beispiel oder der Wunsch nach Gruppenzugehörigkeit. Je unsicherer die Zeiten sind, desto attraktiver wirken einfache Antworten. Sie versprechen das Gefühl von Kontrolle und Ordnung.

Besonders gut funktioniert in den sozialen Medien zudem das Prinzip der emotionalen Manipulation. Mithilfe starker Gefühle wie Angst, Wut oder Freude lassen sich Aussagen wirkungsvoll verstärken. Fake News bewegen sich deshalb am liebsten auf dem Spielfeld emotional hoch aufgeladener Themen. Gesellschaftliche Spannungen werden zugespitzt, persönliche Verunsicherung und Polarisierung nehmen zu. Die Plattformen wiederum nutzen all diese psychologischen und sozialen Faktoren, um ihre Algorithmen zu trainieren. Es gibt Fake Accounts und Bot-Farmen, die für eine künstliche Verbreitung von Inhalten sorgen. Und die nächste Welle rollt schon auf uns zu. Künftig könnten sogenannte „KI-Schwärme“ eingesetzt werden, um einen öffentlichen Konsens vorzutäuschen.

KI-Schwärme kann man sich wie eine größere Gruppe von Personen vorstellen, die allerdings künstlich generiert werden. Diese Personen haben eine eigene Identität und ein Gedächtnis, sie verfolgen gemeinsame Ziele und können sich in Echtzeit an eine Situation anpassen. Sie benötigen nur minimale Aufsicht und können plattformübergreifend eingesetzt werden – so wirken sie authentisch und sind kaum noch von echten Menschen zu unterscheiden.

Die Gefahr, dass diese KI-Schwärme falsche Tatsachen behaupten oder einen breiten öffentlichen Konsens vortäuschen, ist groß. Ein solcher „künstlicher Konsens“ könnte Überzeugungen und Normen unserer Gesellschaft nachhaltig beeinflussen. Und natürlich ist es auch nicht ausgeschlossen, dass KI-Schwärme tief in ihr eigenes Ökosystem eingreifen, indem sie die Datenbanken mit den Trainingsdaten für die von ihnen verwendeten Large Language Models (LLM) mit einer Unmenge an frei erfundenen Behauptungen überfluten. Das, was aktuell als künstliche Intelligenz beschrieben wird, beruht ja hauptsächlich auf statistischen Methoden. Die Ergebnisse der KI können also in der Regel nur so zuverlässig sein wie die verwendete Datengrundlage.

Sind diese Daten aber erst einmal kontaminiert, dann sind grundlegende Mechanismen und Regeln der demokratischen Meinungsbildung außer Kraft gesetzt. Im Extremfall werden seriöse Nachrichten und Mitteilungen so effektiv von KI-generierten Fake-Informationen verdrängt, dass niemand mehr zwischen „wahr“ und „falsch“ unterscheiden kann. Wenn aber das Vertrauen in Fakten, in die Medien und in den Staat und seine Institutionen schwindet, ist der Zusammenhalt unserer Gesellschaft gefährdet.