Greift Regulierung zu kurz? TU Berlin warnt vor Meinungsbeeinflussung durch KI

KI-Systeme ordnen die Inhalte, auf die sie zugreifen, bevor sie ihre Antworten ausgeben. Können sie so auch unsere Wahrnehmung von Themen beeinflussen? Ob und inwiefern Sprachmodelle auf Kommunikation und Meinungsbildung wirken, hat die Technische Universität Berlin (TU) untersucht. Die Ergebnisse zeigen, dass es zukünftig einen breiter gedachten Regulierungsansatz braucht.

Wie Sprachmodelle Meinungen beeinflussen können

Eine Verschiebung, also Meinungsbeeinflussung, findet unsichtbar statt. Das haben Stefan Schmid von der Technischen Universität Berlin und Adrian Kuenzler von der University of Hong Kong in ihrer Arbeit „Communication Bias in Large Language Models: A Regulatory Perspective“ herausgearbeitet. Es geht in der Studie um große Sprachmodelle, die mit ihren Antworten nicht nur informieren, sondern Kommunikation verzerren. Das bedeutet: Manche Themen oder Argumente werden in den Antworten angegeben, manche nicht. Daraus folgt eine unsichtbare Beeinflussung der User, sagen die Wissenschaftler.

Das Ganze wird auch Kommunikationsbias genannt, der im Grunde genommen ähnlich wie Diskriminierung in KI-Modellen funktioniert. Dieser Effekt hat strukturelle Wurzeln, denn die Antworten der Maschine wurden von ihr ausgewählt und in einer bestimmten Art und Weise ausgegeben. Warum welche Perspektiven stärker oder schwächer gezeigt werden, wissen wir als User nicht. Wir sehen zunächst gar nicht, dass das überhaupt geschieht. Es entsteht ein unbewusster Spielraum zur Interpretation.

Gründe und Ursachen von Kommunikationsbias

Dieses Problem kann sich langfristig auf viele Bereiche auswirken, aber insbesondere hinsichtlich Gesellschaft und Politik. Auch der Bildungsbereich ist davon betroffen. Die Studie verdeutlicht zudem, dass das Problem so komplex ist, weil die Beeinflussung oder die Wirkung nicht eindeutig nachgewiesen werden können. Der Grund liegt in der jeweils kontextabhängigen Antwortdarstellung der KI-Modelle. Die Ursache liegt wie auch bei Bias in den Trainingsdaten.

Es gibt einen weiteren Punkt, der hier greift: Sycophancy, auf Deutsch Kriecherei. Forscherinnen und Forscher meinen damit den Effekt, dass Sprachmodelle einem häufig nach dem Mund reden. Immer wieder liest man auffällig unterstützende, bestätigende Antworten, es gibt wenig Kritik seitens der Maschine – eher nur nach expliziter Aufforderung.

Was fordern die Wissenschaftler?

Es braucht zukünftig fairen Wettbewerb und plurale Strukturen. Die Forscher fordern einen breiteren Ansatz zur Regulierung. Denn laut Studie gibt es regulatorische Lücken. Es ist zwar richtig, dass der AI Act, der Digital Services Act und der Digital Markets Act ihren Fokus auf Sicherheit, Transparenz sowie Risiken legen. Jedoch decken diese Aspekte, so meinen die Forscher, nicht oder zu wenig den Punkt der unbewussten Meinungsbeeinflussung ab.

Digital Compliance für die Zukunft

In den Bereichen KI und Digital Compliance können in der Zukunft mehr Pflichten für regelmäßige Audits oder erweiterte Aufsichts- und Überprüfungsmaßnahmen in Unternehmen entstehen. Informieren kann man sich beispielsweise auf der Website der TU Berlin. Weitere vertiefende Quellen zum Thema, die die algorithmische Bestätigung menschlicher Vorurteile behandeln:

• Studie zu generativer KI und hyperpersonalisiertem Bestätigungsfehler
• Das Konzept der „Filter Bubbles 2.0“ (Social-Media-Algorithmen, Bestätigungsfehler)
• „Sycophancy“ in KI-Modellen (das „Nachplappern“)