Der Beitrag Identity Theft in AI Conference Peer Review beschreibt aufgedeckte Fälle von Identitätsdiebstahl im wissenschaftlichen Peer-Review-Prozess, insbesondere im Bereich der Künstlichen Intelligenz (KI)-Forschung. Die Autoren, darunter Mitarbeiter von OpenReview.net, einer Plattform für Peer-Review-Workflows, legen dar, wie unehrliche Forscher das System manipulieren, indem sie betrügerische Gutachterprofile erstellen, um die Bewertung von Fachartikeln zu beeinflussen.
Der Betrug nutzt Schwachstellen in den Rekrutierungsprozessen für Gutachter und den Identitätsprüfungsverfahren aus. Die Betrüger geben sich als andere Forscher aus, verwenden deren Zugehörigkeiten und Publikationshistorien, aber E-Mail-Adressen, die sie selbst kontrollieren. Sobald sie im System sind, versuchen sie, sich selbst ihren eigenen Artikeln als Gutachter zuzuweisen, um positive Bewertungen zu vergeben. Es wurden 94 solcher gefälschten Gutachterprofile identifiziert, wobei viele die Möglichkeit nutzten, E-Mail-Aliase von renommierten Universitäten zu erstellen, um die Überprüfung zu umgehen.
Diese Praktiken bedrohen die Integrität der wissenschaftlichen Forschung und haben weitreichende Auswirkungen über den Peer-Review-Prozess hinaus, beispielsweise auf akademische Bewerbungsverfahren.
Um diesen Betrug zu bekämpfen, schlagen die Autoren verschiedene Strategien vor:
- Verbesserte Identitätsprüfung: Überprüfung früherer Publikationen des Gutachters, idealerweise durch Verknüpfung mit persistenten digitalen Identifikatoren wie ORCID.
- Vouching-Protokolle: Einführung von Bürgschaftssystemen für neue Gutachter.
Aufmerksamkeit für verdächtige Profile: Besondere Beachtung von Gutachterprofilen, die kurz vor Konferenzfristen erstellt werden. - Transparenz und technische Maßnahmen: Öffentliche Sichtbarkeit von Forscherprofilen, Einsatz traditioneller Anti-Betrugs-Techniken (z.B. IP-Adressen) und stärkere Deduplizierungsmethoden.
- Robustere Zuweisungsprozesse: Gestaltung der Zuweisung von Gutachtern zu Artikeln, um Manipulationen zu erschweren.
Zusätzlich werden Universitäten und Organisationen aufgefordert, die Überwachung von E-Mail-Alias-Konten zu verschärfen und die Verifizierung von E-Mail-Adressen durch Dritte zu ermöglichen. Der Bericht betont die Notwendigkeit einer transparenten Diskussion über diese Schwachstellen, um die Integrität der Wissenschaft zu schützen.