Ein schockierendes Experiment an der Universität Zürich enthüllt, wie einfach künstliche Intelligenz die Meinungen von Millionen beeinflussen kann. Die geheime Studie auf Reddit zeigt die dringende Notwendigkeit ethischer Richtlinien im Umgang mit mächtigen LLMs.
In den letzten Tagen sorgte ein brisantes Experiment der Universität Zürich für Aufsehen. Forscher posteten über vier Monate hinweg heimlich AI-generierte Kommentare im Subreddit r/changemyview, einer Community mit 3,8 Millionen Mitgliedern. Ziel war es, die Überzeugungskraft von Großen Sprachmodellen (LLMs) zu testen. Das Experiment fand in einem Forum statt, das für offene Diskussionen über oft kontroverse Meinungen bekannt ist.
Das Experiment lief von November 2024 bis März 2025. Ein Forschungsteam der Universität Zürich erstellte Dutzende von Bot-Konten, die AI-generierte Kommentare in Diskussionen posteten. Diese Kommentare nahmen verschiedene, sensible Persönlichkeiten an, wie eine Überlebende eines sexuellen Übergriffs oder ein Trauma-Berater. Dies sollte die Reichweite der AI-Persönlichkeiten vergrößern.
Die AI-Kommentare wurden gezielt personalisiert, basierend auf den individuellen Hintergründen und Vorlieben der Nutzer. Informationen wie politische Ausrichtung, Geschlecht und Alter wurden aus den Reddit-Profilen extrahiert. Insgesamt posteten die Bots 1.783 Kommentare und erhielten 137 Deltas, was bedeutet, dass sie nachweislich Meinungen änderten. Dies zeigt die effektive Manipulation durch die KI.
Die Moderatoren des Subreddits reagierten empört und betonten, dass die Gemeinschaft ein „decidedly human space“ sei. Sie kritisierten die nicht offengelegte AI scharf. „People do not come here to discuss their views with AI or to be experimented upon.“
Die Moderatoren sahen das Experiment als eine Form der „psychological manipulation“ und als Verletzung der Gemeinschaftsregeln und Nutzer-Privatsphäre. Sie forderten eine Entschuldigung von der Universität und verlangten, die Veröffentlichung der Forschungsergebnisse zu blockieren. Der Vertrauensbruch war offensichtlich und rief starke Reaktionen hervor.
Reddit selbst ergriff drastische Maßnahmen. Ben Lee, Chief Legal Officer von Reddit, erklärte das Experiment als Verstoß gegen die Nutzungsbedingungen. Alle bekannten AI-Konten wurden gesperrt. Reddit kündigte an, rechtliche Schritte gegen die Forscher einzuleiten, um sie zur Rechenschaft zu ziehen. Dies unterstreicht die Ernsthaftigkeit der Situation.
Die Universität Zürich verteidigte das Experiment, indem sie argumentierte, die potenziellen Vorteile der Forschung überwögen die Risiken. Die Ethikkommission sah „wichtige Erkenntnisse“ und „minimale Risiken“. Der leitende Ermittler erhielt eine formale Verwarnung, und die Kommission versprach, künftig besser mit Testpersonen zu koordinieren. Eine schwache Reaktion auf die Vorwürfe.
Das Experiment wirft grundlegende Fragen zur Forschungsethik und AI in sozialen Medien auf. Niemand entdeckte die AI-Bots, was die Herausforderungen beim Unterscheiden von Mensch und AI unterstreicht. Dies hat weitreichende Implikationen für die Zukunft. Eine beunruhigende Erkenntnis.
Das geheime AI-Experiment der Universität Zürich löste eine breite Debatte über die ethischen Grenzen der Forschung aus. Während die Forscher wichtige Erkenntnisse beanspruchen, ist die inakzeptable Methode unbestreitbar. Der Schutz der Privatsphäre und die Einholung der Einwilligung sind unverzichtbar. Dieser Vorfall mahnt, dass wissenschaftlicher Fortschritt stets ethischen Standards folgen muss. Ein wichtiger Weckruf für die Wissenschaft.
