KI-Tools wie ChatGPT werden inzwischen häufig genutzt, um wissenschaftliche Texte zu formulieren oder Literatur zu recherchieren. Dabei entsteht schnell der Eindruck, dass auch die vorgeschlagenen Quellen zuverlässig sind. Genau das ist jedoch oft nicht der Fall.
In wissenschaftlichen Lektoraten fällt zunehmend auf, dass KI-generierte Literaturangaben zwar plausibel wirken, tatsächlich aber Fehler enthalten oder vollständig erfunden sind. Besonders problematisch ist, dass viele dieser Quellen auf den ersten Blick überzeugend aussehen. Titel, Autorennamen und Fachbegriffe wirken wissenschaftlich korrekt, obwohl die Quelle gar nicht existiert.
Gerade in Bachelorarbeiten, Masterarbeiten oder Dissertationen kann das problematisch werden.
Warum KI Quellen erfindet
Sprachmodelle arbeiten anders als wissenschaftliche Datenbanken. Sie prüfen nicht automatisch, ob eine Quelle tatsächlich existiert. Stattdessen erzeugen sie Formulierungen auf Grundlage typischer sprachlicher Muster.
Dadurch entstehen häufig nicht existierende Fachartikel, fehlerhafte DOI-Nummern, ungenaue Titel oder falsche Erscheinungsjahre.
Besonders schwierig ist dabei, dass viele dieser Angaben sehr glaubwürdig wirken.
Typische Hinweise auf KI-generierte Quellen
Auffällig sind oft ungewöhnlich allgemeine Titel oder unvollständige bibliografische Angaben. Auch Quellen, die sich in Datenbanken oder Bibliothekskatalogen nicht finden lassen, sollten kritisch geprüft werden.
In der Praxis zeigt sich außerdem häufig, dass KI reale Autorennamen mit erfundenen Titeln kombiniert. Dadurch wirken Literaturangaben zunächst seriös, obwohl sie fehlerhaft sind.
Es kommt außerdem oft vor, dass KI-generierte Quellen gesammelt am Ende eines Absatzes erscheinen, ohne dass einzelne Aussagen konkret belegt werden. Wissenschaftliche Texte erfordern jedoch eine nachvollziehbare und präzise Zuordnung von Quellen zu den jeweiligen Aussagen und Argumenten.
Darüber hinaus verweist KI teilweise auf Webseiten oder Onlinequellen, auf denen die entsprechenden Informationen gar nicht ausdrücklich enthalten sind. Die Quelle existiert zwar tatsächlich, stützt die betreffende Aussage jedoch nicht oder nur teilweise. Dadurch entsteht leicht der Eindruck einer wissenschaftlich belegten Aussage, obwohl der konkrete Nachweis fehlt.
Quellen immer überprüfen
Literaturangaben sollten deshalb niemals ungeprüft übernommen werden, besonders dann nicht, wenn sie mit KI erstellt wurden.
Hilfreich ist es, Titel in wissenschaftlichen Datenbanken zu suchen, DOI-Nummern zu prüfen, Angaben mit Originalquellen abzugleichen.
Gerade unter Zeitdruck werden solche Kontrollen oft unterschätzt.
KI kann Recherche unterstützen, aber nicht ersetzen
KI-Tools können beim wissenschaftlichen Arbeiten durchaus hilfreich sein, etwa für erste Strukturierungen oder sprachliche Formulierungen. Die eigenständige Prüfung von Quellen bleibt jedoch unverzichtbar. In wissenschaftlichen Arbeiten reicht es nicht aus, dass Literaturangaben plausibel klingen. Entscheidend ist, dass Quellen tatsächlich existieren, korrekt zitiert werden und fachlich nachvollziehbar sind.
Gerade deshalb spielt die menschliche Prüfung KI-generierter Texte eine immer größere Rolle. Im Rahmen eines wissenschaftlichen Lektorats oder KI-Post-Editings können Auffälligkeiten bei Quellenangaben, Zitierweise und Literaturverzeichnis geprüft und kommentiert werden. Dies hilft dabei, typische KI-bedingte Fehler sichtbar zu machen und die formale Konsistenz wissenschaftlicher Texte zu verbessern.