KI-Modelle sind anfällig für fehlerhafte Trainingsdaten. Bereits Hunderte von fehlerhaften Beispielen können die Leistung beeinträchtigen. Ursachen sind voreingenommene Daten und der Kluger-Hans-Effekt.
Ein Forschungsteam der TU Berlin wies auf den ‚Kluger-Hans-Effekt‘ hin. Modelle scheinen richtige Ergebnisse zu liefern, tun dies aber aufgrund falscher Annahmen. Dies kann in der Qualitätskontrolle oder der medizinischen Diagnostik zu Fehlern führen.
Der ‚Kluger-Hans-Effekt‘ führt dazu, dass KI-Modelle falsche Annahmen treffen und dadurch scheinbar richtige, aber tatsächlich fehlerhafte Ergebnisse liefern.
Eine Studie der Rice Universität fand heraus, dass KI-Modelle, die mit KI-generierten Daten trainiert werden, zunehmend schlechteren Output generieren. Die Modelle erzeugen im Laufe der Zeit verzerrte Bilder, besonders bei wenigen ‚frischen Daten‘.
Die Qualität der Trainingsdaten ist entscheidend. Fehlerhafte Daten können zu algorithmischen Verzerrungen führen und unfaire Ergebnisse liefern. Datensätze und Algorithmen müssen genau untersucht werden, um Verzerrungen zu identifizieren.
Regelmäßige Überprüfungen auf Bias sind notwendig, um sicherzustellen, dass KI-Systeme fair bleiben.
Es gibt Gegenstimmen, die besagen, dass KI-generierte Daten KI-Modellen nicht schaden, wenn synthetische Daten hinzugefügt, aber nicht die ursprünglichen Daten ersetzt werden.
Eine Studie der Stanford University kritisierte unrealistische Annahmen und argumentierte, dass das Verwerfen aller vorherigen Daten nach jeder Iteration im realen Einsatz nicht vorkommt.
