Bewertung wissenschaftlicher Zeitschriften - Impact Factor und Alternativen

Im Laufe der Zeit wurden viele Metriken entwickelt, um den Einfluss, das Prestige bzw. die Wichtigkeit von einzelnen wissenschaftlichen Zeitschriften zu vergleichen. Diese Bewertung kann sowohl bei der Auswahl einer Zeitschrift für eine eigene Publikation in Betracht gezogen werden als auch der persönlichen Leistungsmessung dienen, da man den Review-Prozess für die Zeitschrift erfolgreich überstanden hat.

Impact Factor und verwandte Metriken

Bei diesen Metriken wird die Anzahl der Veröffentlichungen mit der Anzahl der erhaltenen Zitate verglichen, so dass die folgende Definition vorausgesetzt sei:

Die Zeitschrift, die bei dieser Rechnung die größere Zahl erreicht, würde als die "bessere" gelten. Der bekannteste Index dieser Art ist der Impact Factor, wobei hier die letzten 2 Jahre betrachtet werden. Ähnliche Indizes sind der Immediacy Index (1 Jahr), der 5-year Impact Factor oder auch der Impact per Publication (3 Jahre).

Typische Kritikpunkte sind (siehe Literatur):

  • Editorials werden im Nenner nicht mitgezählt, deren Zitate jedoch im Zähler berücksichtigt 
  • Die Größe des Impact Factors ist stark abhängig von den Fachdisziplinen
  • Unterschiedlich, abhängig von der zugrunde gelegten Datenbank 
  • Zeitschriften mit vielen Übersichtsartikeln oder besonders interessanten und aktuellen Themen haben meist mehr Zitate.
  • Zudem gibt es eine sprach- und fachspezifische Bias bei der Zeitschriftenauswahl, da englischsprachige Zeitschriften dominieren und somit wichtige Fachzeitschriften anderer Sprachen wenig berücksichtigt werden

Prestige-gewichtete Metriken

Beim Impact Factor werden alle Zitate gleich gewichtet. Bei Prestige-Weighted Metrics wird der Einfluss der zitierenden Zeitschrift berücksichtigt: Erhält eine Zeitschrift ein Zitat aus einer bedeutenden Zeitschrift zählt dieses Zitat mehr als eines von einer unbedeutenden Zeitschrift. Beispiele solcher Metriken sind der Eigenfactor oder der SCIMago Journal Rank.

Bestimmung

Der Journal Citation Report von Clarivate Analytics wird jedes Jahr erstellt und bestimmt den Impact Factor, den Eigenfactor, den Immediacy Index, den 5-year Impact Factor und viele mehr, die hier nicht erwähnt wurden. Dabei werden Zeitschriften aus dem Web of Science bewertet und deren Zitate ausgewertet.

Frei im Netz verfügbar sind die Journal Metrics basierend auf der Datenbank Scopus. Enthaltende Metriken sind unter anderen der Impact per Publication und der SCIMago Journal Rank.

Die Google Scholar Metrics  bewertet Zeitschriften durch den h-Index. Zur Definition dieser Metrik siehe Unterpunkt "Messung des Einflusses von Wissenschaftler*innen".

Literatur

  • C.T. Bergstrom, J. D. West and M. A. Wiseman (2008): The Eigenfactor Metrics ; Journal of Neuroscience 28(45):11433-11434.
  • Delgardo-Lopez-Cozar E, Cabezas-Clavijo A (2013): Ranking journals: Could Google Scholar Metrics be an alternative to Journal Citation Report and Scimago Journal Rank?; Learned Publishing, 26 (2): 101-114.
  • González-Pereira B, Guerrero-Bote VP, Moya-Anegón F (2010): A new approach to the metric of journals’ scientific prestige: The SJR indicator, Journal of Informetrics, 4 (3): 379-391.
  • Ha TC, Tan SB, Soo KC (2006): The journal impact factor: Too much of an Impact? Annals Academy of Medicine, 35(12): 911- 916.
  • Kaltenborn K-F, Kuhn K (2003): Der Impact-Faktor als Parameter zur Evaluation von Forscherinnen/Forschern und Forschung. Klinische Neuroradiologie, 13 (4): 173 -193.
  • Rousseau R, Stimulate 8 Group (2009): On the relation between the WoS impact factor, the Eigenfactor, the SCImago Journal Rank, the Article Influence Score and the h-index (Preprint)

Messung des Einflusses von Wissenschaftler*innen - h-Index und Alternativen

Wissenschaftler*innen und deren Leistung zu vergleichen kann für unterschiedliche Szenarien von Bedeutung sein. Zum einen kann ein Vergleich bei Anstellungen oder beim Einwerben von Drittmitteln zum anderen auch bei der Zuweisung des Etats eine Rolle spielen. In diesem Abschnitt sollen allgemeine Metriken zur Leistungsbewertung von Forscher*innen darstellt werden. Im folgenden Abschnitt wird auf die Bewertung einzelner Publikationen eingegangen.

Klassische Metriken

Es gibt eine Reihe von einfach zu bestimmenden Metriken. Zunächst kann die Anzahl der Publikationen als Maß der Produktivität gedeutet werden. Weiter kann der Einfluss wiederum durch die Anzahl der erhalten Zitate auf alle Publikationen oder auch die Anzahl der durchschnittlichen Zitate pro Publikation gemessen werden.
Bei einer solchen Betrachtung werden Faktoren wie die Länge der Wissenschaftskarriere, die Anzahl der Autore*innen pro Publikation oder auch die Anzahl an Selbstzitaten nicht berücksichtigt.

h-Index

Der 2005 von Hirsch publizierte h-Index erfreut sich inzwischen großer Beliebtheit. Das Ziel dieser Metrik ist es, Produktivität und Einfluss durch eine Zahl auszudrücken.
Das gesuchte h ist das Maximum, so dass mindestens h Publikationen h-mal zitiert wurden. Dies kann grafisch bestimmt werden, indem man zunächst alle Publikationen nach der Anzahl der Zitate sortiert. Aufgetragen in eine Graphik (siehe unten) ergibt sich mithilfe der Winkelhalbierenden der h-Index. Im untenstehenden Beispiel gilt h=3.

Zwar hat Hirsch bereits 2005 geschrieben, dass Selbstzitationen keinen großen Einfluss auf den h-Index haben, aber Faktoren wie Fachdisziplin, Länge der Forschungskarriere oder das Alter der Publikationen werden bei der Berechnung nicht berücksichtigt. Falls ein paar wenige Publikationen besonders erfolgreich waren, spiegelt sich dies auch nicht im h-Index wieder. Unter der Annahme, dass der am meisten zitierte Artikel des Beispieles 100 mal zitiert wurde, würde dies am Ergebnis h=3 nichts ändern.

Alternativen zum h-Index

KritikpunktBeispiele alternativer Metriken
Besonders häufig zitierte Publikationeng-Index, e-Index, A-Index, R-Index
Alter der PublikationContemporary h-Index, AR-Index
Anzahl der Autorenmeist Normalisierungen
Länge der Wissenschaftskarrieresiehe z.B. Harzing (2007)

Berechnung

In Datenbanken wie zum Beispiel Web of Science oder Scopus kann nach einem Autor gesucht werden. Üblicherweise können dann die Suchergebnissen analysiert werden, wobei auch der h-Index bestimmt wird.

Alternativ kann die Auswertung mit Google Scholar erfolgen. Liefert die Suche nach einem Wissenschaftler dessen Google-Profil, so beinhaltet dieses auch den h-Index. Die Software Publish or Perish verwendet zur Bestimmung des h-Index und sehr vielen Alternativen als Grundlage Google Scholar. Durch die Verwendung des Google Calculator, ein Browser Add-On, wird bei der Suche in Google Scholar direkt eine Auswertung bezüglich unterschiedlicher Metriken durchgeführt.
Generell unterscheidet sich der h-Index der selben Person bei verschiedenen Datenbanken, da jeder Betreiber selbst die auszuwertenden Zeitschriften auswählt. Meist liefert Google Scholar den höchsten h-Index.
 

Literatur

  • Alonso S, Cabrerizo FJ, Herrera-Viedma E, Herrera F. (2009): h-Index: A review focused in its variants, computation and standardization for different scientific fields. J. Informetr. 3(4):273–89
  • Andrés A. (2009): Measuring Academic Research How to Undertake a Bibliometric Study. Oxford: Chandos Publ. 1. publ. ed.
  • Harzing A.W. (2007): Publish or Perish, available from www.harzing.com/pop.htm
  • Hirsch JE. (2005): An index to quantify an individual’s scientific research output. Proc. Natl. Acad. Sci. U. S. A. 102(46):16569–72

Messung des Einflusses von Publikationen

Natürlich kann auch die einzelne Publikation und deren Wirkung in der (Wissenschafts-)Welt betrachtet werden. Mithilfe solcher Metriken könnten die wichtigsten Publikationen z.B. für einen Drittmittelantrag bestimmt werden.

Klassische Metriken

Die einfachste Metrik ist sicherlich die Anzahl der Zitate auf eine Veröffentlichung, wobei diese leicht durch Selbstzitate zu manipulieren ist. Außerdem dauert es relativ lang bis der Einfluss sichtbar ist. Denn zunächst müssen andere Wissenschaftler den Artikel erst lesen und diesen in einem neuen Paper zitieren, wobei dieser neue Artikel auch den Veröffentlichungsprozess durchlaufen muss.

Stattdessen wird auch häufig die Metrik der Zeitschrift, in der veröffentlicht wurde, verwendet, z.B. der Impact Factor. Durch die Verwendung der Metrik der Zeitschrift wird lediglich das "Potenzial" einer Veröffentlichung sichtbar, also dass der Artikel  den Reviewprozess überstanden hat. Natürlich gibt es in einer Zeitschrift mit hohem Impact Factor auch wenige oder nicht zitierte Publikationen.

Alternative Metriken

Alternative Metriken werden auch als Article-based metrics, open metrics oder Altmetrics bezeichnet. Das Ziel ist es, durch die neuen Möglichkeiten des Internets nicht erst das Zitat als Maß zu nehmen sondern bereits früher anzusetzen, z.B. bei der Suche, beim Speichern, bei der Diskussion.
Dies betrifft zunächst die Ansicht oder den Download im Internet. Auch können in einem Literaturverwaltungsprogramm die Bibliotheken von Nutzern*innen  ausgewertet werden. Studien haben gezeigt, dass z.B. es eine Korrelation zwischen Downloadzahlen und Zitaten gibt.
Weiter können Erwähnungen der Publikation in Blogs, Twitter, Newsportalen, Wikipedia, Diskussionsplattformen, YouTube, GitHub u.v.m. gefunden werden. Hier wurde gezeigt, dass die häufige Erwähnung in Blogs nicht mit einer hohen Anzahl an Zitaten korreliert ist, denn oft sind in sozialen Medien häufig zitierte Artikel populär-wissenschaftlichere oder thematisch aktuelle Publikationen.

Berechnung

Einige Zeitschriften (z.B. PLOS, Nature, AIP, ...) bieten direkt auf den einzelnen Seiten der Artikeln Metriken an, die den Einfluss der Publikationen im Internet darstellen. Zum Teil werden solche Metriken auch auf Bücher angewandt.
Die Firma Altmetric wertet viele Internetquellen aus, um daraus einen Score zu berechnen. Das Ergebnis lässt sich genauer visualisieren und auch analysieren. Als freie Produkte kann man ein Bookmarklet herunterladen, mit dem auf der Artikelhomepage eine Suche nach Zitaten ausgelöst wird und den daraus berechneten Score darstellt.
Andere Produkte, die sich mit dieser Thematik befassen sind Plum Analytics , Webometric Analyst und Impact Story.

Literatur

  • Costas R, Zahedi Z, Wouters P (2014): Do “altmetrics” correlate with citations? Extensive comparison of altmetric indicators with citations from a multidisciplinary perspective.
  • J. Assoc. Inf. Sci. Technol. 1–17
  • Nicholas D, Rowlands I. (2011): Social media use in the research workflow. Inf. Serv. Use. 31(1):61–83
  • Opthof T (1997): Sense and nonsense about the impact factor. Cardiovasc. Res. 33(1):1–7
  • Peters I, Jobmann A, Eppelin A, Hoffmann CP, Künne S, Wollnik-Korn G (2014): Altmetrics for large, multidisciplinary research groups: A case study of the Leibniz Association. Libr. Digit. Age LIDA Proc. 13(0)
  • Peters I, Jobmann A, Hoffmann CP, Künne S, Schmitz J, Wollnik-Korn G (2014): Altmetrics for large, multidisciplinary research groups: Comparison of current tools. Bibliometr. - Prax. Forsch. 3(0):1–12
  • Priem J, Piwowar HA, Hemminger BM (2012): Altmetrics in the wild: Using social media to explore scholarly impact. ArXiv12034745 Cs

Dr. Andreas Rosteck

Leiter der Bibliothek

Fachreferent für Informatik
IT-Koordinator