Skip to main content
Erschienen in:
Buchtitelbild

Open Access 2022 | OriginalPaper | Buchkapitel

3. Voraussetzungen zur experimentellen Erforschung von Relevanzkriterien

verfasst von : Christiane Behnert

Erschienen in: Popularität und Relevanz in der Suche

Verlag: Springer Fachmedien Wiesbaden

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Für die Entwicklung eines experimentellen Studiendesigns müssen die zu untersuchenden Variablen operationalisiert werden. Einer Operationalisierung muss die Definition des Forschungsgegenstands vorangehen. Gegenstand der vorliegenden Arbeit ist der subjektive Prozess der Relevanzbewertung, der von verschiedenen Parametern beeinflusst wird und als aufeinander folgende Anwendung von Relevanzkriterien zu verstehen ist.
Für die Entwicklung eines experimentellen Studiendesigns müssen die zu untersuchenden Variablen operationalisiert werden. Einer Operationalisierung muss die Definition des Forschungsgegenstands vorangehen (Döring & Bortz, 2016, S. 222 ff.). Gegenstand der vorliegenden Arbeit ist der subjektive Prozess der Relevanzbewertung, der von verschiedenen Parametern beeinflusst wird und als aufeinander folgende Anwendung von Relevanzkriterien (Beresi et al., 2010, S. 199) zu verstehen ist. Um diesen Prozess besser zu verstehen, ist das Wissen über die Bildung und Anwendung von Kriterien bei der Relevanzbewertung notwendig (vgl. Abschnitt 1.​1). Relevanzkriterien und Relevanzbewertung zu definieren, erfordert eine Auseinandersetzung mit dem informationswissenschaftlichen Konzept von Relevanz. Diese Auseinandersetzung geschieht im Rahmen der Konzeptspezifikation, die im nachfolgenden Abschnitt 3.1 erfolgt.
Die Spezifikation beginnt mit der Darstellung verschiedener Relevanzformen, die die informationswissenschaftliche Relevanzforschung hervorgebracht hat; das Verständnis dieser Formen unterstützt die Definitionsfindung von Relevanz, welche der im weiteren Verlauf dieser Arbeit vorgestellten empirischen Studie den theoretischen Rahmen liefert (Abschnitt 3.1.1). Die Berücksichtigung der Multidimensionalität von Relevanz trägt ebenfalls zur Konzeptspezifikation bei (Abschnitt 3.1.2). Daran anknüpfend wird die Auffassung der Relevanzbewertung von Suchergebnissen als Beurteilungsprozess in Abgrenzung zur Auswahl von Dokumenten als Entscheidungsprozess begründet (Abschnitt 3.1.3). Die Relevanzbewertung als Prozess des Urteilens zu verorten, ebnet den Weg zu einer definitorischen Abgrenzung der Begriffe Relevanzmerkmale (relevance clues), Relevanzkriterien (relevance criteria) und Relevanzfaktoren (relevance factors), die als Einflüsse im Prozess der Relevanzbewertung von Surrogaten identifiziert werden (Abschnitt 3.2), insofern, dass Relevanzkriterien keine Entscheidungskriterien darstellen, sondern Kriterien für die Urteilsbildung, wobei das Urteil zu einer Entscheidung führt. Da hier ausschließlich predictive judgments betrachtet werden, wird auf eine Bezugnahme zu Urteilen und Entscheiden bei evaluative judgments verzichtet.
Das Ergebnis von Abschnitt 3.2 ist ein Modell zur subjektiven Relevanzbewertung (Abbildung 3.4), das einen Lösungsvorschlag für das Definitionsproblem auf Basis der Erkenntnisse aus der Literaturschau (vgl. Abschnitt 2.​1) bietet und die Einflussparameter bei der Relevanzbewertung von Suchergebnissen in akademischen Suchsystemen systematisch in ihrem Zusammenspiel aufzeigt. Auf diese Weise stellt das Modell ein Hilfsmittel zur Operationalisierung der für die in Kapitel 4 vorgestellten Studie dar und kann für künftige Studien nachgenutzt werden. Abschließend erfolgt die Beantwortung der Forschungsfragen F1a und F1b (Abschnitt 3.3).

3.1 Spezifikation des Relevanzkonzepts

Die in diesem Abschnitt beschriebene Konzeptspezifikation knüpft an die Erläuterungen zum Relevanzkonzept in der Problemdarstellung der Einleitung an (vgl. Abschnitt 1.​1). Wie bereits erläutert, ist das informationswissenschaftliche Relevanzkonzept sehr komplex und wird traditionell aus zwei verschiedenen Perspektiven betrachtet – der systemseitigen und der nutzerseitigen Sicht auf Relevanz. Die nutzerseitige, subjektive Perspektive auf Relevanz bestimmte die Betrachtung des Forschungsstands zu Relevanzkriterien (vgl. Kapitel 2) und wird im nachfolgenden Abschnitt 3.1.1 hinsichtlich der unterschiedlichen Formen weiterhin eingenommen. Das Wissen um die verschiedenen Formen oder Arten von Relevanz ist für eine entsprechende Verortung und letztendlich für die Definition von Relevanz notwendig.

3.1.1 Relevanzformen und Relevanzdefinition

Charakterisierend für die Komplexität der nutzerbasierten Sicht auf Relevanz sind die verschiedenen Begriffe, die in der Literatur als Formen von Relevanz bezeichnet werden. Diese verdeutlichen die Vielfalt, mit der versucht wurde, das Konzept von Relevanz wissenschaftlich zu durchdringen. Die Relevanzformen vereint neben dem dynamischen und kontextabhängigen Charakter der bedürfnisorientierte Definitionsansatz von Relevanz, der sich von dem anfrageorientierten Ansatz der systemseitigen Relevanzperspektive abgrenzt. So bezeichnet Pertinenz (pertinence) die Beziehung zwischen dem menschlichen Informationsbedürfnis1 und einem Informationsobjekt, die demzufolge nur durch die informationssuchende Person selbst beurteilt werden kann und die Dynamik des menschlichen Informationsbedürfnisses respektiert (Borlund, 2003b). Die Beurteilung von Pertinenz erfordert kognitive Ressourcen, folglich wird Pertinenz auch als kognitive Relevanz (cognitive relevance) bezeichnet (Saracevic, 1996) und betont damit die kognitiven Veränderungen im Menschen während der Informationssuche und der Bewertung der Ergebnisse. Der Begriff situative Relevanz (situational relevance) wurde von Wilson (1973) eingeführt und bezeichnet die Relevanzbeziehung zwischen einem Informationsobjekt und einem bestimmten Problem bzw. Anliegen (concern) in Bezug auf die subjektive Sicht eines Individuums auf dessen Situation. Das bedeutet, dass Informationsobjekte situativ relevant sind, wenn sie zumindest dabei helfen, Fragen bezüglich des Problems (questions of concern) zu beantworten (P. Wilson, 1973). Da sich die Sichtweise der suchenden Person in Hinblick auf ihre Situation verändern kann, ist situative Relevanz ebenfalls stark dynamisch. Eine Form der nutzerbasierten Relevanz, die im Prinzip kognitive und situative Relevanz zusammenfasst (Borlund, 2003b), ist die psychologische Relevanz (psychological relevance). Nach der Definition von Harter (1992)2 bezeichnet diese die Beziehung zwischen einem Informationsobjekt und dem jeweiligen psychologischen Zustand, in dem sich die informationssuchende Person zu dem Zeitpunkt befindet. Da sich der mentale Zustand der Person mit jedem neu hinzukommenden, als relevant beurteilten Informationsobjekt verändert, ist auch psychologische Relevanz nicht als statistisch, sondern als dynamisch zu betrachten. Ein Informationsobjekt ist für die suchende Person in ihrem Kontext psychologisch relevant, wenn es kognitive Veränderungen hervorruft (Harter, 1992).
Neben Pertinenz bzw. kognitiver Relevanz, situativer Relevanz und psychologischer Relevanz wurde das Konzept der Nützlichkeit (utility, auch usefulness3) eingeführt. Nach der Argumentation von Soergel (1994) setzt Nützlichkeit Pertinenz voraus: Ein Informationsobjekt ist dann nützlich, wenn es pertinent ist und zusätzlich sein Informationsgehalt zur Erweiterung des bereits vorhandenen Wissens der Person beiträgt (Soergel, 1994). Somit beinhaltet Nützlichkeit den kognitiven Aspekt von psychologischer Relevanz. Dagegen definieren Saracevic (1996) und Borlund (2003) situative Relevanz als die Wahrnehmung der Nützlichkeit (utility) eines Informationsobjekts in Bezug zur Situation der betreffenden Person.
Die Berücksichtigung der Situation, in der sich eine Person zum Zeitpunkt der Informationssuche befindet, ist innerhalb der bisher genannten Konzepte begrenzt auf das Informationsbedürfnis. Die Situation kann auch auf den übergeordneten Prozess der Aufgabenbearbeitung bzw. Problemlösung (task process) ausgeweitet werden: Reid (1999) greift Relevanz als ziel- bzw. aufgabenorientiertes Konzept auf und führt den Begriff der Aufgabenrelevanz (task relevance) ein. Nach ihrer Definition ist ein Dokument aufgabenrelevant (task relevant), wenn die Informationen, die es enthält, zur Erledigung der Aufgabe bzw. Lösung des Problems beitragen. Die Aufgabenrelevanz kann demnach erst zu dem Zeitpunkt bestimmt werden, wenn die informationssuchende Person die Aufgabe ausgeführt hat, also sowohl nach Abschluss des Informationssuchprozesses als Teilprozess der Aufgabenbearbeitung, als auch nach Sichtung und Studium der ausgewählten Quellen. Reid (1999) argumentiert, dass Aufgabenrelevanz die „ultimative“ Relevanz auf Nutzerseite darstellt, da sie den Kontext und das reale Informationsbedürfnis zu einem Zeitpunkt berücksichtigt, zu dem das Informationsbedürfnis befriedigt ist, nämlich dann, wenn die eigentliche Aufgabe abgeschlossen bzw. das Problem gelöst wurde. Borlund (2003) setzt Aufgabenrelevanz mit situativer Relevanz gleich, obwohl situative Relevanz die übergreifende Situation, also den task process, nicht explizit berücksichtigt. Den Aufgabenbezug von Relevanz stellen auch Hjørland & Christensen (2002) her. Sie definieren ähnlich wie Reid (1999) Relevanz als zielorientiert: „Something (A) is relevant to a task (T) if it increases the likelihood of accomplishing the goal (G), which is implied by T“ (Hjørland & Christensen, 2002, S. 964). Diese aufgaben- und zielorientierte Definition von Relevanz lässt allerdings den Zeitpunkt der Relevanzbewertung offen. In Hinblick auf den Prozess der Relevanzbewertung von Suchergebnissen kann die Relevanzdefinition in Hinblick auf die Art der Bewertung (predictive judgment) und somit bezogen auf die Art des Bewertungsgegenstands, des Surrogats, wie folgt modifiziert werden:
A surrogate (A) is relevant to a task (T) if it is perceived as increasing the likelihood of accomplishing the goal (G), which is implied by T. – Ein Surrogat (A) ist für eine Aufgabe (T) relevant, wenn es als die Wahrscheinlichkeit erhöhend wahrgenommen wird, das Ziel (G) zu erreichen, welches durch T impliziert wird. Diese Definition ist unabhängig von dem Kontext des betreffenden Suchsystems, d. h. sie gilt für akademische und nicht-akademische Suchsysteme gleichermaßen, solange diese Systeme Surrogate als Suchergebnisse präsentieren. Dass ein Surrogat für eine Aufgabe relevant sein kann, deutet zwar eine dichotome Ausprägung von Relevanz an, ist hier unter Berücksichtigung der graded relevance4 allerdings als Abstufungen implizierend zu verstehen.
Abschließend soll an dieser Stelle ein weiterer Aspekt des Relevanzkonzepts erwähnt werden: Den Begriff gesellschaftliche Relevanz (societal relevance) erläutern Haider & Sundin (2019) auch als gesellschaftliches Interesse (S. 10) am Beispiel der Suche im Web nach Informationen zum Thema Impfen, bei dem die Einstellung des Einzelnen im Extremfall vollständig von dem gesamtgesellschaftlichen Interesse basierend auf einem wissenschaftlich fundierten Konsens abweichen kann.
Trotz oder gerade wegen dieser in Abbildung 3.1 dargestellten Vielzahl an Begrifflichkeiten und Relevanzformen sind bisherige Versuche darüber, eine allgemeingültige Definition von Relevanz zu formulieren, gescheitert (Saracevic, 2016b). Es ist davon auszugehen, dass die unterschiedlichen Perspektiven und die Komplexität des Relevanzkonzepts die Festlegung auf eine Definition, welche alle Aspekte berücksichtigt, erschweren (Borlund, 2003b; Saracevic, 2016b; Schamber et al., 1990). Für die vorliegende Arbeit wird – wie oben dargelegt – die nach Hjørland & Christensen (2002) modifizierte ziel- und aufgabenorientierte Relevanzdefinition verwendet.

3.1.2 Multidimensionalität von Relevanz

Die verschiedenen Relevanzformen und Relevanzbeziehungen kennzeichnen die Multidimensionalität des Relevanzkonzepts. Deswegen ist es von großer Bedeutung, explizit zu benennen, um welche Form von Relevanz bzw. um welche Relevanzbeziehung es sich in dem jeweiligen (Forschungs-)Kontext handelt, um Missverständnissen vorzubeugen (Mizzaro, 1997). Vor diesem Hintergrund spricht Mizzaro (1997) sogar von einer Vielzahl von Relevanzen (relevances) und setzt somit die Begriffe Relevanzkonzept und Relevanzbeziehung in ein synonymisches Verhältnis. In seinem Framework stellt er Relevanz als Beziehung zwischen den Entitäten zweier Dimensionen dar (siehe Abbildung 3.2): Die I. Dimension beinhaltet ein Surrogat, ein Dokument, eine Information, wie sie durch die Interaktion einer informationssuchenden Person mit einem IRS produziert werden; die II. Dimension zeigt die Nutzerseite, von der Wahrnehmung eines Informationsproblems über das Erkennen des Informationsbedürfnisses und die Formulierung der Suchanfrage, zunächst natürlichsprachlich, schließlich formalisiert als Anfrage an das IRS. Eine Relevanzbeziehung besteht beispielsweise zwischen einem Informationsbedürfnis und einem Dokument oder zwischen einer Suchanfrage (natürlichsprachlich oder formalisiert) und einem Surrogat. In Abbildung 3.2 deuten die hellgrau gestrichelten Pfeile zwischen den jeweiligen Entitäten innerhalb der I. und II. Dimension den Prozess der Informationssuche an – von der Problemerkennung auf Nutzerseite über die Eingabe der Suchanfrage bis zum ausgewählten Dokument, welches schließlich die gesuchte Information enthält. Jede der einzelnen Entitäten und ihrer (Relevanz-)Beziehungen untereinander ist immer hinsichtlich der Thematik, der Suchaufgabe und des Kontexts zu berücksichtigen; Mizzaro (1997) fasst diese drei Aspekte als III. Dimension zusammen. Die IV. Dimension ist die Zeit, die zu dem dynamischen Charakter beiträgt, da beispielsweise ein Surrogat zu einem bestimmten Zeitpunkt zu einer Suchanfrage relevant sein kann, und zu einem späteren Zeitpunkt weniger oder nicht relevant aufgrund der sich geänderten Situation und des Kontexts der informationssuchenden Person.
Zusammenfassend lässt sich Relevanz beschreiben als dynamisch, multidimensional und kontextabhängig (situationsabhängig), dabei ist zu beachten: „One has to realize that dynamic aspects of relevance are quite different than situational aspects – former relate to the process and later to the context“ (Saracevic, 2012, S. 57). Diese Unterscheidung zwischen dem Prozess der Bewertung und dem Kontext der Bewertung ist von besonderer Bedeutung und wird im nachfolgenden Abschnitt weiter aufgegriffen, indem die Relevanzbewertung als Prozess des Urteilens definiert wird.

3.1.3 Relevanzbewertung als Prozess des Urteilens

Wang (1994) kennzeichnet im Rahmen ihrer Studie die Relevanzbewertung als einen im Prozess der Dokumentenauswahl eingebetteten Prozess, wodurch dieser zugleich ein Teilprozess des übergeordneten menschlichen Informationssuchprozesses ist (vgl. Abschnitt 2.​1.​4). Wang (1994) betrachtet in ihrer Arbeit den Prozess der Dokumentenauswahl unter entscheidungstheoretischen Gesichtspunkten, was sie zwar nicht explizit begründet – „… it may be worthwhile to look at an individual’s document selection behavior from the point of view of decision making“ (Wang, 1994, S. 7) – in der gemeinsamen Publikation ihrer Studie mit Soergel wird der Prozess der Dokumentenauswahl jedoch explizit als Entscheidungsprozess definiert, wobei die Auswahl nach einem predictive judgment erfolgt:
Document selection is a decision process in which the user evaluates a retrieved document based on its surrogate obtained from a bibliographic IR system to decide whether or not to further pursue the document: to browse the actual document, to obtain a copy of the document, to read the document, or to make a reference to the document. (Wang & Soergel, 1998, S. 115)
Die Theorie des Entscheidens (decision making) bzw. das Entscheiden ist ein in der Emotions- und Motivationspsychologie bzw. kognitiven Psychologie angesiedeltes Forschungsfeld. Das Entscheiden ist dort wie folgt definiert:
Prozess des Wählens zw. mind. zwei Optionen, mit dem Ziel […] erwünschte Konsequenzen zu erreichen und unerwünschte Konsequenzen zu vermeiden. Der Prozess führt im günstigen Fall zu einer Entscheidung. Durch die Entscheidung wird eine Option ausgewählt und der Entschluss (die Intention) gebildet, diese zu realisieren, z.B. indem eine Handlung ausgeführt wird. E. wird i.d.R. dem Forschungsfeld des Judgment and Decision Making (JDM) zugeordnet. Dort wird allerdings nicht immer klar zw. Urteilen und E. unterschieden. E. geht aber i.d.R. über Urteilen hinaus, da sich E. im Unterschied zu Urteilen auf die Bildung einer Handlungsintention bezieht und damit direkt handlungsbestimmend ist. Nichtsdestotrotz beruht E. häufig auf Urteilen, bes. über den Wert von Handlungsoptionen und die Wahrscheinlichkeit, dass diese eintreffen… (Plessner, 2017a; Kursivdruck im Original)
Bezüglich des Prozesses der Dokumentenauswahl betreffen die nach obiger Definition mindestens zwei Optionen die Entscheidung, ob ein Dokument ausgewählt wird oder nicht, wie bei Wang und Soergel gekennzeichnet – „whether or not to further pursue the document“ (Wang & Soergel, 1998, S. 115). Dieser Entscheidung muss die Bewertung des Dokuments zwangsläufig vorausgehen. Wenn der Prozess der Dokumentenauswahl einen Entscheidungsprozess darstellt, stellt sich die Frage, ob der Prozess der Relevanzbewertung ebenfalls als ein Entscheidungsprozess zu betrachten ist. Um diese Frage zu beantworten, ist die nähere Betrachtung des Konzepts des Urteilens hilfreich.
Urteilen ist ebenso im Bereich der Emotions- und Motivationspsychologie sowie in der kognitiven Psychologie verortet. Beim Urteilen handelt es sich um den psychologischen Prozess,
…der zugrunde liegt, wenn Menschen einem Urteilsobjekt (z.B. einer Person, einem Gegenstand oder einer Aussage) einen Wert auf einer Urteilsdimension zuordnen (z.B. von sehr gut bis sehr schlecht oder wahr/falsch) und das daraus resultierende Urteil explizit zum Ausdruck bringen. […Urteilen] ist zum einen zu unterscheiden vom Prozess des Wahrnehmens […] und zum anderen vom Entscheiden […] U. kann wiederum die Grundlage für Entscheiden sein, allerdings führt U. nicht notwendigerweise wie Entscheiden zu Handlungen… (Plessner, 2017b).
Der Prozess der Relevanzbewertung von Surrogaten kann demnach als ein Prozess des Urteilens und nicht als Entscheidungsprozess verstanden werden; das Ergebnis des Bewertungsprozesses ist das Urteil über das Surrogat, auf dessen Basis die Entscheidung für oder gegen die Dokumentenauswahl getroffen wird (ob ein Suchergebnis angeklickt wird oder nicht).5 Das Urteil zum Ausdruck zu bringen, entspricht im Forschungskontext bei der Erhebung von expliziten Relevanzbewertungen diese anhand einer Skala zu kennzeichnen oder beispielsweise unter Anwendung der Methode des lauten Denkens entsprechend zu verbalisieren. In der Literatur taucht mitunter der Begriff Relevanzentscheidung (relevance decision) auf, der nach obiger Darlegung nicht korrekt ist, weil er die Relevanzbewertung mit dem Produkt eines Entscheidungsprozesses gleichsetzt; dahingehend wäre der Begriff Relevanzurteil ein angemessenes Synonym zur Relevanzbewertung im Sinne eines Produktes im Prozess der Erhebung von expliziten Relevanzbewertungen.
Abbildung 3.3 veranschaulicht die Unterscheidung zwischen der Relevanzbewertung als Produkt des Urteilens und der Dokumentenauswahl als Ergebnis des Entscheidens und folgt somit dem Ansatz von Wang (1994), den Prozess der Relevanzbewertung als eingebettet in den Prozess der Dokumentenauswahl zu definieren.

3.2 Identifikation der Einflüsse im Prozess der Relevanzbewertung von Surrogaten

Das Ziel dieses Abschnitts ist die Darstellung der unterschiedlichen Einflüsse im Prozess der Relevanzbewertung und damit einhergehend die Beantwortung der Forschungsfragen F1a (Wie lassen sich Merkmale, Kriterien und Faktoren als Einflüsse im Prozess der Relevanzbewertung für die Entwicklung eines experimentellen Untersuchungsdesigns definitorisch und konzeptuell voneinander abgrenzen?) und F1b (Wie können Kriterien bei der Relevanzbewertung von Suchergebnissen für eine experimentelle Studie operationalisiert werden?). Zu diesem Zweck wird ein Modell entwickelt, welches das Wirken dieser unterschiedlichen Einflüsse grafisch darstellt. Das Modell bietet zugleich einen Lösungsvorschlag des Definitionsproblems in Hinblick auf die uneindeutigen Grenzen der Begriffe Kriterien (criteria), Faktoren (factors) und Merkmale (clues/cues) und deren inkonsistente Verwendung im Kontext der Erforschung von Relevanzkriterien in der Literatur.
Das Modell greift inhaltlich die Ergebnisse der Literaturschau auf. Insbesondere das Modell zur Bewertung der Informationsqualität und Autorität von Rieh (vgl. Abschnitt 2.​1.​2.​1) und das Modell zur Dokumentenauswahl von Wang (vgl. Abschnitt 2.​1.​4) inspirierten die Darstellung der Einflussparameter bei der Relevanzbewertung. Zusätzlich werden die Elemente in Surrogaten berücksichtigt, die heutzutage von modernen akademischen Suchsystemen in der Suchergebnisliste integriert sind und der informationssuchenden Person Hinweise auf die Relevanz des Suchergebnisses liefern. Konkret bedeutet dies, dass das Modell zusätzlich Popularitätsdaten als expliziten Bestandteil eines Surrogats mit einbezieht (vgl. Abschnitt 2.​1.​3). Solche zusätzlichen Daten waren in den bisherigen Studien, in denen Surrogate als Untersuchungsgegenstand dienten, nicht enthalten.
Hinzu kommt, dass in bisherigen Studien zu Relevanzkriterien nicht immer explizit zwischen predictive judgments und evaluative judgments unterschieden wurde (vgl. Abschnitt 2.​1.​4). Je nachdem, welchen Umfang das bewertete Informationsobjekt hat, d. h. ob es sich um ein Surrogat oder den eigentlichen Inhalt (Volltext) handelt, sind andere Elemente enthalten, auf Basis derer Relevanzbewertungen vorgenommen werden. Diese Unterscheidung wird in dem Modell ebenfalls berücksichtigt, da es auf die Darstellung der Einflüsse bei der Surrogatbewertung, also auf die Anwendung von predictive judgments durch die informationssuchende Person, abzielt.
Neben der zuvor vorgestellten ziel- und aufgabenorientierten Definition von Relevanz (vgl. Abschnitt 3.1.1), liegen dem Modell die folgenden Annahmen zugrunde:
  • Das Modell zeigt den Prozess der Relevanzbewertung von Surrogaten, die als Ergebnis einer informationsorientierten im Gegensatz zu einer navigations- oder transaktionsorientierten Suchanfrage (vgl. Broder, 2002) vom IR-System ausgegeben werden, da bei letztgenannten die Relevanzbewertung mit anderen Kriterien einhergehen würde, weil beispielsweise Suchergebnisse zu navigationsorientierten Anfragen keine Relevanzbewertungen in diesem Sinne verlangen, sondern lediglich zu prüfen ist, ob das eine gesuchte Informationsobjekt tatsächlich gefunden wurde, wobei diese Prüfung anhand eines reinen Text matching erfolgen kann (vgl. Abschnitt 1.​1). Konkret lautet die Annahme, dass es sich nicht um die Suche nach einem bereits bekannten Dokument handelt.
  • Wenn für informationsorientierte Suchanfragen nach wissenschaftlichen Informationen IR-Systeme genutzt werden, handelt es sich in der Regel um akademische Suchsysteme.
  • Akademische Suchsysteme werden von informationssuchenden Personen genutzt, die einen akademischen Hintergrund bzw. Kontext aufweisen, wie beispielsweise Studierende, Hochschullehrende, Promovierende, Forschende.
  • Das Modell geht von einem textbasierten IR-System aus, das eine auf Basis eines Rankingalgorithmus sortierte Trefferliste auf eine Suchanfrage ausgibt.
  • Die angezeigten Suchergebnisse enthalten die bibliografischen Angaben zu den Dokumenten unabhängig von einem direkten Link auf den Volltext.
Abbildung 3.4 zeigt das Modell zur Relevanzbewertung aus der Perspektive einer informationssuchenden Person, die mit dem akademischen Suchsystem interagiert, und veranschaulicht den Prozess der Bewertung von Surrogaten, der auch als predictive judgment process (Balatsoukas & Ruthven, 2010, S. 1) bzw. process of predictive judgment (Crystal & Greenberg, 2006, S. 1369) bezeichnet werden kann. Merkmale stellen die Elemente oder Attribute in einem Surrogat dar und dienen als Hinweisreize für die informationssuchende Person, von der sie wahrgenommen werden.6 Ausgehend von diesen Merkmalen werden die Kriterien gebildet, die zusätzlich in irgendeiner Weise gewichtet werden. Diese Verarbeitung von Surrogatelementen und die Bildung und Gewichtung von Kriterien durch die informationssuchende Person bilden den Prozess der Relevanzbewertung; Faktoren hingegen beeinflussen diesen Prozess bezüglich des Kontexts der Situation, in der sich die informationssuchende Person zum Zeitpunkt der Interaktion mit dem Suchsytem befindet. Ist von Einflussfaktoren bei der Relevanzbewertung die Rede, sollten demnach nicht die der Bewertung zugrunde liegenden subjektiven Kriterien gemeint sein, obwohl diese auch Einfluss auf das Urteil (Produkt des Bewertungsprozesses) nehmen, sondern die Faktoren, die auf diesen Bewertungsprozess einwirken. Dieser Prozess endet entweder mit dem Zugriff auf den Volltext, den eigentlichen Inhalt, der die Voraussetzung für ein evaluative judgment ist, oder der Such- bzw. Bewertungsprozess wird fortgesetzt, wenn das Urteil nicht zu der Entscheidung für das Aufrufen des Volltextes führt.
Im Modell ist die Gewichtung der Kriterien im Kontext der Urteilsbildung getrennt von der Kriterienbildung dargestellt, sie erfolgt unmittelbar vor der Entscheidung zur Dokumentenauswahl, welche entweder negativ (Dokument wird nicht ausgewählt, nicht geklickt) oder positiv (Dokument wird ausgewählt, geklickt) ausfällt. An dieser Stelle wird die Bedeutung der im vorangegangenen Abschnitt erläuterten Argumentation, den Prozess der Relevanzbewertung als einen Prozess des Urteilens zu betrachten, deutlich (vgl. Abschnitt 3.1.3): Mit der Unterscheidung zwischen Urteilen und Entscheiden wird die Relevanzbewertung begrenzt auf die Anwendung und Gewichtung von Relevanzkriterien, die schließlich zu einer Entscheidung führen, die Entscheidung erfolgt daher auf der Basis der Relevanzbewertung, die ihr zeitlich vorausgeht. In welcher Weise die Kriteriengewichtung erfolgt, die zur Dokumentenauswahl führt, bleibt abgesehen von der thematischen Relevanz als wichtigstes Kriterium unklar und wird in den nachfolgenden Abschnitten nicht weiterverfolgt.
Zusammengefasst sind die drei zentralen Aspekte, die das Modell in ihrem Zusammenspiel darstellt, (a) die Attribute des Surrogats, die als potenzielle Relevanzmerkmale betrachtet und als operationalisierte Kriterien definiert werden, (b) Kriterien für die Relevanzbewertung, die auf der Basis der Surrogatelemente gebildet werden, und (c) die Faktoren, die Einfluss auf den Bewertungsprozess nehmen und somit den Kontext der Situation, in der sich die informationssuchende Person zu dem jeweiligen Zeitpunkt befindet, abbilden. Diese werden in den beiden nachfolgenden Abschnitten vorgestellt. Zu beachten ist dabei, dass keine ausführliche Darstellung einzelner Surrogatelemente, Nutzerkriterien und Einflussfaktoren erfolgen kann, da für die wissenschaftliche Erörterung jedes einzelnen Elements, Kriteriums, Faktors eine separate und umfassende Literaturschau erforderlich wäre. Eine detaillierte Auseinandersetzung mit der entsprechenden Literatur würde den Rahmen dieser Arbeit sprengen und ist zudem für die Bearbeitung der weiteren Forschungsfragen nicht erforderlich.

3.2.1 Attribute des Surrogats als Basis für die Kriterienbildung

Diverse Kriterien beeinflussen informationssuchende Personen im Prozess der Relevanzbewertung; thematische Relevanz gilt dabei als das wichtigste Kriterium, auf dessen Basis weitere Kriterien Anwendung finden (vgl. Abschnitt 2.​1.​1). Diese Relevanzkriterien lassen sich in vier Hauptkriterien gliedern: Neben der thematischen Relevanz sind diese Aktualität, Qualität und Verfügbarkeit (vgl. Abbildung 3.4). Bei der Qualität handelt es sich genau genommen um die erwartete oder vermutete Qualität, die wiederum auf der Basis von Autoritäts- und Popularitätskriterien abgeleitet wird. Autoritätskriterien wie Reputation und Autor-Impact können Hinweise auf potenzielle kognitive Autoritäten liefern, die gemeinsam mit Popularitätskriterien wie Zitier- und Nutzungshäufigkeit die Kriterien Glaubwürdigkeit und Vertrauenswürdigkeit bilden, welche insbesondere vor dem Hintergrund der Dynamik im Web und dessen exponentiellen Wachstums wesentliche Kriterien darstellen (vgl. Abschnitt 2.​1.​2).
Die Bildung und Anwendung der Relevanzkriterien erfolgt anhand der Attribute des Surrogates, die von der informationssuchenden Person wahrgenommen und verarbeitet werden. Diese Surrogatelemente dienen als Relevanzmerkmale und können als operationalisierte Kriterien betrachtet werden. Obwohl weitere Aspekte wie die Position des Treffers in der Suchergebnisliste ebenfalls wahrgenommen werden, zählen diese nicht zu den Merkmalen, sondern zu den Relevanzfaktoren, wie im nachfolgenden Abschnitt 3.2.2 erläutert wird. Diese Abgrenzung zwischen Merkmalen und Faktoren ist damit zu begründen, dass zwischen der Ebene des einzelnen Surrogats als Lieferant von Relevanzmerkmalen und der Ebene der Suchergebnisliste als von (systembasierten) Faktoren beeinflusste Ebene zu unterscheiden ist. Dadurch wird eine klare Trennung der Konzepte begünstigt.
Im Modell sind die Elemente eines Surrogates, die die potenziellen Relevanzmerkmale darstellen, in zwei Gruppen unterteilt: (a) Stetige Merkmale sind die formalen Metadaten eines Werkes, die unveränderlich und unabhängig von der Suchanfrage und dem Suchsystem sowie dem Kontext der informationssuchenden Person sind, wie Titel, Autor, Abstract; (b) Dynamische Merkmale sind Informationen, die sich im Lauf der Zeit verändern können. Bei diesen nicht fixen Merkmalen kann zudem zwischen nutzerunabhängigen und nutzerabhängigen Elementen unterschieden werden. Unabhängig von der informationssuchenden Person und ihrer Situation sind Angaben zu dem Dokument (Surrogat) wie Zitationszahlen und Informationen darüber, wie häufig ein Dokument bereits heruntergeladen oder – bezogen auf den Bibliothekskontext – ausgeliehen wurde. Als nutzerabhängig sind die Elemente zu verstehen, die bezogen auf das jeweilige Suchergebnis und dessen Quelle verschiedene Angaben besitzen. So kann der physische oder virtuelle Standort der Person bzw. ihre Zugehörigkeit zu einer Einrichtung über den Zugang zu lizensierten Quellen entscheiden; des Weiteren werden die verwendeten Suchbegriffe, die mit Begriffen im Surrogat oder Snippet übereinstimmen, abhängig von der Suchanfrage entsprechend hervorgehoben.
Anhand welcher Elemente welche Kriterien abgeleitet werden können, ist in der Darstellung des Modells in Abbildung 3.4 mithilfe von Bedeutungspfeilen zwischen den Merkmalen und den entsprechenden Kriterien gekennzeichnet: Thematische Relevanz kann anhand von inhaltsbezogenen Merkmalen wie Titel und Abstract aber auch mithilfe von hervorgehobenen Suchbegriffen ermittelt werden; Aktualität ist hier als ein Kriterium gelistet, das ausschließlich auf dem Publikationsdatum beruht und unabhängig von der Aktualität des Inhalts beispielsweise im Sinne einer aktuell geführten gesellschaftlichen Debatte zu verstehen ist, die eher bei der thematischen Relevanz zu verorten wäre. Das Kriterium der Verfügbarkeit ist neben dem der Aktualität das am einfachsten abzuleitende Kriterium, für das im Prinzip keine kognitiven Ressourcen aufgebraucht werden müssen. Demgegenüber stehen die Kriterien für Qualität: Um die Reputation einer Autorin oder eines Autors, einer Zeitschrift oder Konferenz als Publikationsorgan, eines Verlages einschätzen zu können, sind Kenntnisse über diese, auch durch persönliche Erfahrungen, erforderlich. Ähnliches gilt für das Kriterium Autor-Impact, für das exemplarisch im Modell der h-Index als dynamisches, nutzerunabhängiges Merkmal gewählt wurde, das zwar auch Wissen um das Zustandekommen dieser Kennzahl benötigt, allerdings als explizite und quantifizierte Kennzahl der informationssuchenden Person keinen Interpretationsspielraum lässt – unabhängig von einer Bewertung dieser Kennzahl.
Die Popularitätskriterien Zitierhäufigkeit und Nutzungshäufigkeit basieren auf den bereits in Abschnitt 2.​1.​3 vorgestellten Popularitätsdaten, der Zitationszahl eines Werkes oder eines Autors/einer Autorin sowie der Anzahl der Downloads eines Werkes oder der Anzahl von Ausleihen im Kontext wissenschaftlicher Bibliotheken.
In der Realität sind nicht immer alle im Modell aufgeführten Merkmale in einem Surrogat enthalten. Die Darstellung kann nach System bzw. Anbieter oder der Art des Suchsystems (elektronisch oder analog, Bibliotheksbestand oder nicht) variieren. Manche Daten werden nach Kenntnisstand der Autorin aktuell nicht in die Suchergebnispräsentation integriert, z. B. der h-Index. Allerdings ist von einem Minimalset an präsentierten Elementen auszugehen, welches Titel, Autoren und Publikationsdatum beinhaltet. Ein solches Minimalset erfordert eine erste Bewertung, um in einem zweiten Schritt weitere Elemente wie das Abstract zu erhalten (Volltrefferanzeige).

3.2.2 Einflussfaktoren als Kontext der Relevanzbewertung

In diesem Abschnitt wird die Rolle der den Relevanzbewertungsprozess beeinflussenden Faktoren dargestellt. Neben diesen Faktoren konnten in Studien weitere Einflussparameter aufgedeckt werden, die einen Einfluss auf die Bewertung haben und durch deren Kenntnis der Prozess der Relevanzbewertung besser verstanden werden kann. Bei diesen Effekten handelt es sich beispielsweise um Positions- bzw. Reihenfolgeneffekte, die insbesondere bei der Erhebung von expliziten Relevanzbewertungen im Forschungskontext berücksichtigt werden müssen. Solche unerwünschten Effekte und Verfahren zu ihrer Vorbeugung bei der Planung und Durchführung empirischer und insbesondere experimenteller Studien werden in Abschnitt 4.​1.​5.​2 beleuchtet.
Die nachfolgende Vorstellung der Relevanzfaktoren erfolgt jedoch unabhängig von Einflüssen im Rahmen von Studien. Sie dient vorranging der Veranschaulichung der definitorischen Abgrenzung von Faktoren zu Kriterien anhand exemplarisch ausgewählter Faktoren, die auch generell als Einflussfaktoren auf das menschliche Suchverhalten und Suchstrategien im Informationssuchprozess bekannt sind.
In der Darstellung in Abbildung 3.4 wird die Unterteilung der Faktoren in systembasierte Faktoren und in Faktoren, die die informationssuchende Person und ihren Kontext betreffen, ersichtlich. Diese menschlichen Faktoren können wiederum in nutzerbasierte und situationsbasierte Faktoren gruppiert werden.
Als systembasierte Faktoren werden diejenigen Faktoren bezeichnet, die systembedingt wirken und Einfluss auf die Suchergebnispräsentation nehmen. Zunächst ist hier das Ranking zu nennen, das bereits in zahlreichen Studien als bedeutsamer Orientierungsfaktor nachgewiesen wurde. Die Treffersortierung wird durch den Ranking-Algorithmus bestimmt, der eine Vielzahl an Signalen auswertet, wie beispielsweise nutzerbasierte Daten für die Bestimmung von der Popularität und Glaubwürdigkeit von Dokumenten (vgl. Abschnitt 2.​1.​2).
Auch die Reihenfolge der Suchtreffer beeinflusst die Relevanzbewertung, welche abhängig von den Dokumenten ist, die bereits zuvor gesehen und beurteilt wurden. Dies wurde in Studien zum sogenannten Order Effect untersucht (vgl. z. B. Shokouhi, White, & Yilmaz, 2015; Xu & Wang, 2008), wie in Abschnitt 4.​1.​5.​2 im Zusammenhang mit Effekten bei der Erhebung von Relevanzbewertungen näher beschrieben wird. Die Art der Präsentation der Suchergebnisse stellt ebenso einen Relevanzfaktor dar. Traditionell werden Ergebnisse als eine gerankte Liste von dem IR-System ausgegeben, jedoch konnten Kammerer & Gerjets (2014) zeigen, dass die Bewertung der Vertrauenswürdigkeit von Quellen bei der Websuche positiv beeinflusst wird durch die Darstellung der Suchergebnisse als Raster (3 × 3) im Gegensatz zur üblichen Listendarstellung. Diese systembasierten Faktoren sind nicht beschränkt auf die Relevanzbewertung von Suchergebnissen in akademischen Suchsystemen, sondern können auch als Faktoren in nicht akademischen Suchsystemen, wie populäre Websuchmaschinen, Berücksichtigung finden.
Zu den nutzerbasierten Faktoren zählen solche Faktoren, die der informationssuchenden Person innewohnen und teilweise mehr oder weniger unveränderbar sind (z. B. das Erlernen einer Sprache). Von diesen grenzen sich situationsbasierte Faktoren ab, die zwar ebenfalls auf die informationssuchende Person bezogen sind, allerdings auch kurzfristig verändert werden können (z. B. den Wechsel des Standorts).
Die Literatur zeigt, dass die Persönlichkeit eines Menschen sein Verhalten bei der Informationssuche beeinflussen kann (Heinström, 2003, 2005); auch die Anwendung von Kriterien bei der Relevanzbewertung kann unter Umständen durch bestimmte Persönlichkeitsmerkmale beeinflusst werden (Sims, 2002). Dass das (Vor-)Wissen einer informationssuchenden Person maßgeblich ist für die Anwendung des Relevanzkriteriums der thematischen Relevanz, wurde bereits hervorgehoben. Auch wurde beschrieben, dass das Ableiten von thematischer Relevanz kognitive Ressourcen erfordert und über die Bestimmung der Aboutness von Dokumenten hinausgeht (vgl. Abschnitt 1.​1 und Abschnitt 2.​1.​1). Der Wissensstand einer Person kann daher als bedeutendster Faktor bei der Relevanzbewertung gesehen werden. Darunter fallen Sprachkenntnisse, Wissen über ein bestimmtes Thema sowie spezielles Fachwissen (Fachbegriffe) und persönliche Erfahrungen. Bereits in den bekannten früheren Studien zu Relevanzkriterien wurde die Bedeutung des Wissensstands einer Person im Prozess der Relevanzbewertung deutlich. So schlussfolgert Barry (1998): „It seems clear that respondents were using their knowledge about previous work from sources to make predictions about the content and quality of any other work coming from those sources“ (S. 1302). Vakkari & Hakala (2000) fanden heraus, dass domänenspezifisches Wissen den Teilnehmenden ihrer Studie bei der Beurteilung von neu hinzu gekommenen Informationen half.
Außerdem sollte der soziokulturelle Kontext der informationssuchenden Person als Einflussfaktor verstanden werden, da dieser beispielsweise die Einstellung und das Verhalten gegenüber Autoritäten prägt, wie die Forschung von Hofstede et al. (2017) zum Konzept der Machtdistanz (Power Distance) im Bereich interkultureller Zusammenarbeit aufzeigt: Demnach bestehen Unterschiede diesbezüglich beispielsweise bei manchen westlichen Ländern wie Schweden (geringe Machtdistanz) im Vergleich zu asiatischen Ländern wie China (große Machtdistanz). Bezüglich des Relevanzkriteriums Autor-Impact und dem Konzept der kognitiven Autorität wären in diesem Bereich weitere Untersuchungen von Interesse.
Einen weiteren Faktor stellt die eigene wissenschaftliche Community dar, deren Vorgaben zum Zitations- und Publikationsverhalten die Bewertung von Suchergebnissen im akademischen Kontext beeinflussen können. Wenn in den Geisteswissenschaften die Zitationszahl eine eher untergeordnete Rolle einnimmt im Vergleich beispielsweise zur Informatik, erscheint es erforschungswürdig, ob entsprechende Erwartungshaltungen beispielsweise hinsichtlich der Zitationszahl eines Werkes auf die Relevanzbewertung von Surrogaten, die solche Informationen beinhalten, übertragen werden.
Situationsbasierte Faktoren beziehen sich auf den Kontext der informationssuchenden Person und sind abhängig von der Situation, in der sie sich zum Zeitpunkt des Bewertungsprozesses befindet. Hier sind die Faktoren Zeitdruck oder Zeitvorgabe für die Bearbeitung einer Aufgabe oder die Lösung eines Informationsproblems zu nennen. Der Standort einer Person kann das Kriterium Verfügbarkeit beeinflussen, welches unter Umständen überhaupt keine Rolle spielt, wenn der Person beispielsweise über das eigene Hochschulnetz der sofortige Zugriff auf lizenzierte Dokumente ermöglicht wird. Da die Relevanzbewertung stets in Bezug auf die Befriedigung eines Informationsbedürfnisses erfolgt, sind der Schwierigkeitsgrad einer Suchaufgabe und ihrer Komplexität gewichtige Faktoren. Hier sind exemplarisch die Arbeiten von Byström & Hansen (2005), Hjørland & Christensen (2002) und Xie (2008) zu nennen, die im Kontext der Interactive Information Retrieval-Forschung ein breites Forschungsinteresse bedienen.
Schließlich sind als situationsabhängige Faktoren die mentalen Modelle und Heuristiken der Person zu nennen, da diese gewisse Erwartungen über die Ergebnisse, die als hochrelevant gelten können, hervorrufen. Aber auch Erwartungen (und die Erfahrungen) mit dem Suchsystem sind an dieser Stelle zu nennen: In ihren Experimenten untersuchte Werner (2019) unter anderem die Benutzererwartung auf die Relevanzwahrnehmung bei der Informationssuche und konnte nachweisen, dass eine positive Erwartungshaltung mit weniger restriktiv angewendeten Relevanzkriterien einhergeht. Dies ist ein Beispiel für den Einfluss der Faktoren auf die Gewichtung der Kriterien.

3.3 Zusammenfassung und Beantwortung der Forschungsfragen F1a & F1b

In diesem Kapitel wurden die Voraussetzungen zur experimentellen Erforschung von Relevanzkriterien geschaffen, indem zunächst das Relevanzkonzept spezifiziert und in diesem Zusammenhang die für die vorliegende Arbeit gewählte ziel- und aufgabenorientierte Relevanzdefinition erläutert wurde. Der Prozess der Relevanzbewertung von Suchergebnissen wurde als ein Prozess des Urteilens beschrieben. Diese Betrachtung ist in Hinblick auf die Definition des Begriffs Relevanzkriterium von besonderer Bedeutung, da die Kriterien für die Relevanzbewertung im Sinne einer Urteilsbildung abgegrenzt sind von der Gewichtung, die schließlich zu einer Entscheidung für oder gegen die Auswahl des Dokuments führt. Das Verständnis dieser Unterscheidung hilft dabei, die verschiedenen Einflüsse im Prozess der Relevanzbewertung zu identifizieren und definitorisch voneinander abzugrenzen. Die Identifikation der Einflüsse erfolgte auf Basis der Erkenntnisse der Literaturschau und führte zu der Entwicklung eines Modells zur subjektiven Relevanzbewertung von Suchergebnissen in akademischen Suchsystemen, welches die in heutigen Systemen integrierten Popularitätsdaten berücksichtigt. Anhand des Modells lässt sich die Forschungsfrage F1a (Wie lassen sich Merkmale, Kriterien und Faktoren als Einflüsse im Prozess der Relevanzbewertung für die Entwicklung eines experimentellen Untersuchungsdesigns definitorisch und konzeptuell voneinander abgrenzen?) beantworten: Auf Basis der in den Surrogaten enthaltenen Elemente als potenzielle Relevanzmerkmale leitet eine informationssuchende Person Relevanzkriterien ab, die auf eine bestimmte Weise gewichtet werden und zur Relevanzbewertung als Produkt führen (predictive judgment). Diese Bewertung ist die Voraussetzung für die Entscheidung, ein Dokument auszuwählen, d. h. dessen Volltext aufzurufen, oder es nicht auszuwählen. Das Aufrufen des Volltexts würde zu einem evaluative judgment führen, dies ist jedoch nicht Gegenstand des Modells.
Das Zusammenspiel der beiden Aspekte Merkmale und Kriterien wird durch verschiedene Faktoren beeinflusst, die als systembasiert, nutzerbasiert und situationsbasiert unterschieden werden können. Wichtig hierbei ist die Trennung der Ebene des einzelnen Surrogats von der Ebene der Suchergebnisliste. Zum Beispiel lässt sich anhand des Abstracts (Merkmal) die thematische Relevanz (Kriterium) ableiten, wobei Fachwissen oder Sprachkenntnisse (Faktoren) diesen Prozess beeinflussen können. Systembasierte Faktoren wie der Ranking-Algorithmus beeinflussen lediglich das Zustandekommen der Ergebnisliste, jedoch nicht die Art oder Anzahl von Elementen des einzelnen Surrogats.
Die zentrale Erkenntnis aus dieser systematischen Übersicht und zugleich die Antwort auf die Forschungsfrage F1b (Wie können Kriterien bei der Relevanzbewertung von Suchergebnissen für eine experimentelle Studie operationalisiert werden?) ist, dass die Elemente des Surrogats als Relevanzmerkmale als operationalisierte Kriterien zu betrachten sind und somit diejenigen messbaren Variablen darstellen, die für eine empirische Untersuchung von Kriterien anhand eines experimentellen Designs unabdingbar sind. Das Modell kann demzufolge auch als „Hilfsmittel“ für die Operationalisierung in künftigen Studien zur Erforschung von Relevanzkriterien herangezogen und weiterentwickelt werden. Ferner bietet es einen Lösungsvorschlag für das Definitionsproblem und erstmals eine systematische Übersicht über die Merkmale, Kriterien und Faktoren, die im Prozess der Relevanzbewertung von Surrogaten eine Rolle spielen. Insbesondere hilft das Modell zu verstehen, wie die Elemente eines Surrogats als potenzielle Merkmale für Relevanz mit Relevanzkriterien zusammenhängen.
In Anbetracht der Identifikation der Einflüsse im Bewertungsprozess von Suchergebnissen verliert das Phänomen Relevanz im Kontext der Informationssuche nicht an Komplexität. Mithilfe des Modells wurde jedoch erstmals ein klareres Bild des subjektiven Bewertungsprozesses gezeichnet.
Open Access Dieses Kapitel wird unter der Creative Commons Namensnennung 4.0 International Lizenz (http://​creativecommons.​org/​licenses/​by/​4.​0/​deed.​de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Kapitel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
Fußnoten
1
Das Konzept des Informationsbedürfnisses (information need) nach R. S. Taylor (1968) brachte den Begriff Pertinenz hervor (Saracevic, 1975); im Zusammenhang mit Relevanz taucht der Begriff pertinent erstmals bei Königová (1971) auf.
 
2
Harter (1992) greift hierfür auf die ursprünglich von Sperber und Wilson 1986 veröffentlichte Relevanztheorie zurück, welche Relevanz als Beziehung zwischen einer gegebenen Annahme und einem gegebenen Kontext im Rahmen von verbaler Kommunikation erachtet. Er überträgt diesen Ansatz auf den IR-Kontext. Zur kommunikationswissenschaftlichen Relevanztheorie von Sperber und Wilson siehe Sperber & Wilson (1995) und D. Wilson & Sperber (2004). Eine informationswissenschaftliche Relevanztheorie gibt es bislang nicht (Saracevic, 2016a).
 
3
Usefulness, also Nützlichkeit, wurde alternativ zu Relevanz als Basiskriterium für die Evaluierung im IIR vorgeschlagen, um den gesamten interaktiven Informationssuchprozess in Hinblick auf die Lösung des Informationsproblems und die Erreichung des dahinter liegenden Ziels der informationssuchenden Person zu berücksichtigen (Belkin, 2015; Cole u. a., 2009).
 
4
Das Konzept der graded relevance findet insbesondere Berücksichtigung im Zusammenhang mit der Erhebung expliziter Relevanzbewertungen anhand von mehrstufigen Skalen im Gegensatz zu einer Skala mit lediglich zwei Ausprägungen (relevant – nicht relevant); darauf wird in Abschnitt 4.​1.​2.​1 näher eingegangen.
 
5
Vor diesem Hintergrund wird deutlich, dass Klickdaten aufgrund ihrer dichotomen Ausprägung eine Entscheidung und keine Beurteilung darstellen, wodurch sie als Alternative zur Erhebung expliziter Relevanzbewertungen nicht geeignet sind.
 
6
Diese Anerkennung der Elemente eines Surrogats als Hinweisreize findet sich bereits bei Wang (1994), die auf das Linsenmodell von Egon Brunswick zurückgreift (vgl. Abschnitt 2.​1.​4, S. 40).
 
Metadaten
Titel
Voraussetzungen zur experimentellen Erforschung von Relevanzkriterien
verfasst von
Christiane Behnert
Copyright-Jahr
2022
DOI
https://doi.org/10.1007/978-3-658-37512-6_3