Automatische Indexierung: Unterschied zwischen den Versionen

Aus InfoWissWiki - Das Wiki der Informationswissenschaft
Zur Navigation springen Zur Suche springen
 
(11 dazwischenliegende Versionen von 2 Benutzern werden nicht angezeigt)
Zeile 1: Zeile 1:
[[category:Informationslinguistik]]
 
 
{| border="1" cellspacing="0" cellpadding="5" style="border-collapse:collapse;" align="center" width="80%" style="background:#E8F2FF;" bgcolor="#E8F2FF"
 
{| border="1" cellspacing="0" cellpadding="5" style="border-collapse:collapse;" align="center" width="80%" style="background:#E8F2FF;" bgcolor="#E8F2FF"
 
|-
 
|-
|Die '''automatische Indexierung''' ist neben der [[intellektuelle_Indexierung|intellektuellen]] (manuellen) und [[Computer_gestützte_Indexierung|computergestützten Indexierung]] eine der Methoden, mit denen [[Deskriptoren]] einer dokumentarischen Bezugseinheit zugeordnet werden können.
+
|[[definition:: Die '''automatische Indexierung''' ist ein Methode, mit der einer dokumentarischen Bezugseinheit von einem Computer [[Deskriptoren]] zugeordnet werden können.]] Daneben gibt es noch die  [[intellektuelle_Indexierung|intellektuelle]] (manuelle) und die [[Computergestützte Indexierung|computergestützte Indexierung]].
 +
 
 
Die '''automatische Indexierung''' setzt voraus, dass "coded informations" vorhanden sind. Mit anderen Worten, Zeichenketten, die der Computer bzw. die Software durchsuchen kann.
 
Die '''automatische Indexierung''' setzt voraus, dass "coded informations" vorhanden sind. Mit anderen Worten, Zeichenketten, die der Computer bzw. die Software durchsuchen kann.
 
Man unterscheidet zwischen folgenden unterschiedlichen automatischen Indexierungsverfahren:  
 
Man unterscheidet zwischen folgenden unterschiedlichen automatischen Indexierungsverfahren:  
Zeile 23: Zeile 23:
 
Um die Indexdatenbank jedoch möglichst schlank halten zu können, also die Zahl der Deskriptoren zu reduzieren und somit die Bearbeitungszeit zu verringern (sowohl bei der Erstellung als auch bei der Suchanfrage), löscht man aus dem Index so genannte [[Stoppwort|Stoppworte]] (inhaltsleere Wörter) heraus.
 
Um die Indexdatenbank jedoch möglichst schlank halten zu können, also die Zahl der Deskriptoren zu reduzieren und somit die Bearbeitungszeit zu verringern (sowohl bei der Erstellung als auch bei der Suchanfrage), löscht man aus dem Index so genannte [[Stoppwort|Stoppworte]] (inhaltsleere Wörter) heraus.
  
Dieses Verfahren ist relativ einfach zu [[Implementierung|implementieren]], aber (abgesehen von trunkierten Wortformen – wenn im Suchsystem implementiert) nicht sehr "intelligent".
+
Dieses Verfahren ist relativ einfach zu implementieren, aber (abgesehen von trunkierten Wortformen – wenn im Suchsystem implementiert) nicht sehr "intelligent".
 
 
  
 
==Morphologisch-lexikalische Verfahren==
 
==Morphologisch-lexikalische Verfahren==
  
Das '''morphologisch-lexikalische Verfahren''' wird eingesetzt, um den bei der Trunkierung enstehenden Ballast zu reduzieren. Es bietet eine bessere [[Retrieval]]-Genauigkeit durch Computerlexika, aufgeteilt in Wortformen- und Stammlexika, die mit unterschiedlichen Arbeitsweisen vorgehen.
+
Das '''morphologisch-lexikalische Verfahren''' wird eingesetzt, um den bei der Trunkierung entstehenden Ballast zu reduzieren. Es bietet eine bessere [[Retrieval]]-Genauigkeit durch Computerlexika, aufgeteilt in Wortformen- und Stammlexika, die mit unterschiedlichen Arbeitsweisen vorgehen.
Wortformenlexika beinhalten alle Grundformen aller enthaltener Wörter mit den dazugehörigen grammatischen Formen (Person, Numerus, Tempus..).
 
Dadurch wird eine morphologische Analyse und somit eine Untersuchung von Wörtern, die nicht im Lexikon enthalten sind, überflüssig, z.B. Wortzusammensetzungen und Ableitungen. Nur mit Stammlexika kann man neue Wörter analysieren, die noch nicht im Lexikon stehen.
 
Auf diesem Weg und in Verbindung mit einer syntaktischen Analyse lassen sich auch Mehrwortbegriffe mit einbeziehen (wie "natürliche Person").
 
Lexikalische Systeme sind dafür flexibler was neue Worte angeht! z.B. Spaßgesellschaftskonsum
 
  
 +
Wortformenlexika beinhalten alle Grundformen aller enthaltener Wörter mit den dazugehörigen grammatischen Formen (Person, Numerus, Tempus..). Dadurch wird eine [[Morphologie|morphologische]] Analyse, und somit eine Untersuchung von Wörtern, die nicht im Lexikon enthalten sind, überflüssig, z.B. Wortzusammensetzungen und Ableitungen. <br>
 +
Nur mit Stammlexika kann man neue Wörter analysieren, die noch nicht im Lexikon stehen. Auf diesem Weg und in Verbindung mit einer syntaktischen Analyse lassen sich auch Mehrwortbegriffe mit einbeziehen (wie "natürliche Person"). Lexikalische Systeme sind flexibler in Bezug auf neue Wörter, wie z.B. Spaßgesellschaftskonsum.
  
 
==Morphosyntaktische Verfahren==
 
==Morphosyntaktische Verfahren==
  
Deutlich aufwendiger als das '''Morphologisch - lexikalische Verfahren''' ist das '''Morphosyntaktische Verfahren'''. Es ist allerdings auch - abgesehen vom [[#Semantische Analyse|semantischen Verfahren]] das qualitativ beste Verfahren. Hierbei werden Texte [[Parsen|geparst]] und eine komplette Repräsentation des Textes wird angelegt. Dann ist die Analyse von Mehrwortdeskriptoren möglich. Teilweise ist sogar das Erkennen von Abhängigkeiten zwischen mehreren Deskriptoren möglich. z.B. Das Gericht verneinte einen Anspruch des Klägers auf Entschädigung (Dependenzanalyse) -> Anspruch auf Entschädigung.  
+
Deutlich aufwendiger als das '''morphologisch-lexikalische Verfahren''' ist das '''morphosyntaktische Verfahren'''. Es ist allerdings auch - abgesehen vom [[#Semantische Analyse|semantischen Verfahren]] - das qualitativ hochwertigste Verfahren. Hierbei werden Texte [[Parsen|geparst]] (auf Wort- und Satzebene analysiert) und eine komplette Repräsentation des Textes wird angelegt. Damit ist dann auch die Analyse von Mehrwortdeskriptoren möglich. Teilweise können auch Abhängigkeiten zwischen mehreren [[Deskriptoren ]] erkannt werden, z.B.:
Die Mehrdeutigkeit natürlicher Sprache ist jedoch eine sehr zeitaufwendiges Problem bei der Indexierung von Texten.
+
 
Doch um eine wirklich vollauomatische Indexierung zufriedenstellend betreiben zu können ist keines dieser Verfahren wirklich praktikabel.
+
  1. Auf Entschädigung hatte der Kläger keinen Anspruch.
Dies ließe sich nur durch semantische Analyse lösen. Aber trotz intensiver Forschungsbemühungen gibt es zurzeit noch keine praktikablen Ergebnisse.  
+
  2. ... Entschädigung. Einen Anspruch darauf hat der Kläger nicht.
 +
  3. Das Gericht verneinte einen Anspruch des Klägers auf Entschädigung.
 +
 
 +
Nur eine satz- oder sogar textlinguistische Analyse kann die entsprechenden Bezüge identifizieren, z.B. über eine Dependenzanalyse. Die Dependenz- oder Valenzgrammatik geht davon aus, dass v.a. Verben, aber auch Substantive und Adjektive über Valenzen andere Satzkonstituenten an sich binden können. Für das Beispiel 3. bedeutet dies z. B., dass der Begriff "auf Entschädigung" nicht an das Verb "verneinen" gebunden wird, weil dieses keine entsprechende Valenz hat. Dafür hat aber "Anspruch" eine solche Valenz, so dass folgendes Ergebnis ermittelt wird:
 +
 
 +
Anspruch (des Klägers; auf Entschädigung)
 +
 
 +
Hieraus ließen sich die Mehrwortdeskriptoren "Anspruch des Klägers" und "Anspruch auf Entschädigung" generieren.
  
 +
Syntaxanalysen führen recht schnell zu unverhältnismäßig aufwendigen und komplexen Lösungen, ohne eine wirklich entscheidende Verbesserung der Indexierung leisten zu können.
  
 
==Semantische Analyse==  
 
==Semantische Analyse==  
  
Eine semantische Analyse ist beispielsweise von Vorteil, wenn ein Sachverhalt von mehreren Personen beschrieben wird. Erläutern verschiedene Nutzer den gleichen Sachverhalt, wählen sie dafür unterschiedliche Formulierungen. Die sogenannten Rollenindikatoren trennen hier mit Hilfe der semantischen Analyse Subjekt, Objekt und Handlung von den Deskriptoren. Ein und derselbe Sachverhalt kann je nach Situation ganz verschieden formuliert werden, sollte aber, um diesen Sachverhalt abfragen zu können, in eine einzige schlüssige semantische Repräsentation überführt werden.
+
Eine semantische Analyse wäre beispielsweise von Vorteil, wenn ein Sachverhalt von mehreren Personen beschrieben wird. Erläutern verschiedene Nutzer den gleichen Sachverhalt, wählen sie dafür unterschiedliche Formulierungen. Die sogenannten Rollenindikatoren trennen hier mit Hilfe der semantischen Analyse Subjekt, Objekt und Handlung von den Deskriptoren. Ein und derselbe Sachverhalt kann je nach Situation ganz verschieden formuliert werden, sollte aber, um diesen Sachverhalt abfragen zu können, in eine einzige schlüssige semantische Repräsentation überführt werden.
 
Zum besseren Verständnis folgt hier ein Beispiel aus dem [http://is.uni-sb.de/studium/handbuch/exkurs.ind.php#semant virtuellen Handbuch der Informationswissenschaft], das ursprünglich in der DIN 31 623 Teil 3 aufgeführt wurde:
 
Zum besseren Verständnis folgt hier ein Beispiel aus dem [http://is.uni-sb.de/studium/handbuch/exkurs.ind.php#semant virtuellen Handbuch der Informationswissenschaft], das ursprünglich in der DIN 31 623 Teil 3 aufgeführt wurde:
  
Zeile 70: Zeile 75:
 
<br><br><br><br><br><br><br>
 
<br><br><br><br><br><br><br>
  
Es gibt Forschungsansätze wie z.B. AIR-PHYS von der TH Darmstadt oder CTX der Informationswissenschaftlichen Fakultät der Universität des Saarlandes.
+
Es gibt Forschungsansätze wie z.B. AIR-PHYS von der TH Darmstadt oder CTX der informationswissenschaftlichen Fakultät der Universität des Saarlandes. Alle haben jedoch ähnliche Probleme wie z.B.: hoher Aufwand für die Lexikonpflege, Mehrdeutigkeiten, Performanceprobleme, Bedienungsprobleme, etc. Das Produkt [http://www.fujitsu-siemens.de/products/software/transaction_processing/retrieval_systems/passat.html PASSAT] von Siemens findet bereits erfolgreichen Einsatz.
Alle haben jedoch ähnliche Probleme wie z.B.: hoher Aufwand für die Lexikonpflege, Mehrdeutigkeiten, Performanceprobleme, Bedienungsprobleme, etc.<br>
 
Das Produkt [http://www.fujitsu-siemens.de/products/software/transaction_processing/retrieval_systems/passat.html PASSAT] von Siemens findet bereits erfolgreichen Einsatz.
 
 
 
'''Thesaurusrelation'''<br>
 
Auch '''[[Thesaurus|Thesauri]]''' werden bei der automatischen Indexierung angewendet. Durch sie werden die semantischen
 
Beziehungen verschiedener Begriffe zueinander festgehalten. Das heißt, dass auch Begriffe, die nicht
 
im Text stehen, aber trotzdem das Dokument sehr gut beschreiben, als Deskriptoren zur Verfügung
 
stehen können. <br>
 
  
 +
'''Thesaurusrelation'''<br>
 +
Auch '''[[Thesaurus|Thesauri]]''' werden bei der automatischen Indexierung angewendet. Durch sie werden die semantischen  Beziehungen verschiedener Begriffe zueinander festgehalten. Das heißt, dass auch Begriffe, die nicht im Text stehen, aber trotzdem das Dokument sehr gut beschreiben, als Deskriptoren zur Verfügung stehen können. <br>
  
 
==Quellen==
 
==Quellen==
  
*DIN 31 623<br>
+
*DIN 31 623 "Indexierung zur inhaltlichen Erschließung von Dokumenten"<br>
 
*Knorz, G. (1994), Automatische Indexierung. In: Hennings, R.-D.; Knorz, G.; Manecke, H.-J.; Reinicke, W.; Schwandt, J.: Wissensrepräsentation und Information Retrieval. Universität Potsdam, Informationswissenschaft, Modellversuch BETID, Lehrmaterialien Nr. 3, Kapitel 4, S. 138 - 196. Online verfügbar unter: http://fiz1.fh-potsdam.de/volltext/fhdarmstadt/03003.html last visited 5.11.05<br>
 
*Knorz, G. (1994), Automatische Indexierung. In: Hennings, R.-D.; Knorz, G.; Manecke, H.-J.; Reinicke, W.; Schwandt, J.: Wissensrepräsentation und Information Retrieval. Universität Potsdam, Informationswissenschaft, Modellversuch BETID, Lehrmaterialien Nr. 3, Kapitel 4, S. 138 - 196. Online verfügbar unter: http://fiz1.fh-potsdam.de/volltext/fhdarmstadt/03003.html last visited 5.11.05<br>
 
*Knorz, G. (2004): Informationsaufbereitung II: Indexieren. In: Kuhlen/Seeger/Strauch (Hrsg.): Grundlagen der praktischen Information und Dokumentation, Kap B5, S. 179-188<br>
 
*Knorz, G. (2004): Informationsaufbereitung II: Indexieren. In: Kuhlen/Seeger/Strauch (Hrsg.): Grundlagen der praktischen Information und Dokumentation, Kap B5, S. 179-188<br>
 
*Luckhardt, Heinz-Dirk: Automatisches und intellektuelles Indexieren: Virtuelles Handbuch der Informationswissenschaft, Abschnitte 0.-3.4.2. Online verfügbar unter: http://is.uni-sb.de/studium/handbuch/exkurs.ind.html last visited 5.11.05<br>
 
*Luckhardt, Heinz-Dirk: Automatisches und intellektuelles Indexieren: Virtuelles Handbuch der Informationswissenschaft, Abschnitte 0.-3.4.2. Online verfügbar unter: http://is.uni-sb.de/studium/handbuch/exkurs.ind.html last visited 5.11.05<br>
 +
 +
==Verwandte Begriffe==
 +
 +
* [[broader::Informationslinguistik]]
 +
* [[broader::Informationserschließung]]
 +
* [[broader::Indexierung]]
 +
* [[synonymous::maschinelle Indexierung]]
 +
* [[related::Information Retrieval]]
 +
* [[english::automatic indexing]]
 +
 +
[[category:Informationslinguistik]]
 +
[[category:Informationserschließung]]

Aktuelle Version vom 5. Februar 2009, 11:21 Uhr

Die automatische Indexierung ist ein Methode, mit der einer dokumentarischen Bezugseinheit von einem Computer Deskriptoren zugeordnet werden können. Daneben gibt es noch die intellektuelle (manuelle) und die computergestützte Indexierung.

Die automatische Indexierung setzt voraus, dass "coded informations" vorhanden sind. Mit anderen Worten, Zeichenketten, die der Computer bzw. die Software durchsuchen kann. Man unterscheidet zwischen folgenden unterschiedlichen automatischen Indexierungsverfahren:


Freitextverfahren

Hierbei übernimmt das System alle Wörter in den Index und lässt sie somit zur Suche zu.

Der Index kann hierbei nach vollen bzw. trunkierten Wortformen durchsucht werden. Durch Trunkierungssymbole werden Teile des Wortes isoliert, es können dann Wörter gesucht werden, in denen der übrig gebliebene Wortteil enthalten ist.
Diese Symbole können, je nach Anwendung, unterschiedlich aussehen (z.B. "?" oder "*") und vor, nach oder in der Mitte eines Wortes gesetzt werden.

Beispielsweise „Atlas“:
man möchte andere Formen dieses Wortes berücksichtigen und schreibt „atla?“, erhält dann u.a. „Atlasse, Atlassen, Atlanten“ aber auch „Atlantik“.

Dieses Beispiel macht deutlich, dass durch dieses Verfahren auch viel Ballast produziert werden kann (Atlantik = Ballast).
Dem Problem des Ballastes versucht das Morphologisch-lexikalische Verfahren gerecht zu werden.

Um die Indexdatenbank jedoch möglichst schlank halten zu können, also die Zahl der Deskriptoren zu reduzieren und somit die Bearbeitungszeit zu verringern (sowohl bei der Erstellung als auch bei der Suchanfrage), löscht man aus dem Index so genannte Stoppworte (inhaltsleere Wörter) heraus.

Dieses Verfahren ist relativ einfach zu implementieren, aber (abgesehen von trunkierten Wortformen – wenn im Suchsystem implementiert) nicht sehr "intelligent".

Morphologisch-lexikalische Verfahren

Das morphologisch-lexikalische Verfahren wird eingesetzt, um den bei der Trunkierung entstehenden Ballast zu reduzieren. Es bietet eine bessere Retrieval-Genauigkeit durch Computerlexika, aufgeteilt in Wortformen- und Stammlexika, die mit unterschiedlichen Arbeitsweisen vorgehen.

Wortformenlexika beinhalten alle Grundformen aller enthaltener Wörter mit den dazugehörigen grammatischen Formen (Person, Numerus, Tempus..). Dadurch wird eine morphologische Analyse, und somit eine Untersuchung von Wörtern, die nicht im Lexikon enthalten sind, überflüssig, z.B. Wortzusammensetzungen und Ableitungen.
Nur mit Stammlexika kann man neue Wörter analysieren, die noch nicht im Lexikon stehen. Auf diesem Weg und in Verbindung mit einer syntaktischen Analyse lassen sich auch Mehrwortbegriffe mit einbeziehen (wie "natürliche Person"). Lexikalische Systeme sind flexibler in Bezug auf neue Wörter, wie z.B. Spaßgesellschaftskonsum.

Morphosyntaktische Verfahren

Deutlich aufwendiger als das morphologisch-lexikalische Verfahren ist das morphosyntaktische Verfahren. Es ist allerdings auch - abgesehen vom semantischen Verfahren - das qualitativ hochwertigste Verfahren. Hierbei werden Texte geparst (auf Wort- und Satzebene analysiert) und eine komplette Repräsentation des Textes wird angelegt. Damit ist dann auch die Analyse von Mehrwortdeskriptoren möglich. Teilweise können auch Abhängigkeiten zwischen mehreren Deskriptoren erkannt werden, z.B.:

  1. Auf Entschädigung hatte der Kläger keinen Anspruch.
  2. ... Entschädigung. Einen Anspruch darauf hat der Kläger nicht.
  3. Das Gericht verneinte einen Anspruch des Klägers auf Entschädigung.

Nur eine satz- oder sogar textlinguistische Analyse kann die entsprechenden Bezüge identifizieren, z.B. über eine Dependenzanalyse. Die Dependenz- oder Valenzgrammatik geht davon aus, dass v.a. Verben, aber auch Substantive und Adjektive über Valenzen andere Satzkonstituenten an sich binden können. Für das Beispiel 3. bedeutet dies z. B., dass der Begriff "auf Entschädigung" nicht an das Verb "verneinen" gebunden wird, weil dieses keine entsprechende Valenz hat. Dafür hat aber "Anspruch" eine solche Valenz, so dass folgendes Ergebnis ermittelt wird:

Anspruch (des Klägers; auf Entschädigung)

Hieraus ließen sich die Mehrwortdeskriptoren "Anspruch des Klägers" und "Anspruch auf Entschädigung" generieren.

Syntaxanalysen führen recht schnell zu unverhältnismäßig aufwendigen und komplexen Lösungen, ohne eine wirklich entscheidende Verbesserung der Indexierung leisten zu können.

Semantische Analyse

Eine semantische Analyse wäre beispielsweise von Vorteil, wenn ein Sachverhalt von mehreren Personen beschrieben wird. Erläutern verschiedene Nutzer den gleichen Sachverhalt, wählen sie dafür unterschiedliche Formulierungen. Die sogenannten Rollenindikatoren trennen hier mit Hilfe der semantischen Analyse Subjekt, Objekt und Handlung von den Deskriptoren. Ein und derselbe Sachverhalt kann je nach Situation ganz verschieden formuliert werden, sollte aber, um diesen Sachverhalt abfragen zu können, in eine einzige schlüssige semantische Repräsentation überführt werden. Zum besseren Verständnis folgt hier ein Beispiel aus dem virtuellen Handbuch der Informationswissenschaft, das ursprünglich in der DIN 31 623 Teil 3 aufgeführt wurde:

"Der Einsatz von Pferden zum Schleppen von Baumstämmen"

Die Formulierung dieses Sachverhalts kann fast beliebig variiert werden:

Pferde schleppen Baumstämme
Pferde können Baumstämme schleppen
Baumstämme können von Pferden geschleppt werden
das Schleppen von Baumstämmen durch Pferde
Pferde, die Baumstämme schleppen können

Im Grunde handelt es sich immer um den gleichen Sachverhalt:

Rollenindikator Deskriptor
Subjekt (Handelnder) Pferd
Handlung Schleppen
Objekt Baumstamm








Es gibt Forschungsansätze wie z.B. AIR-PHYS von der TH Darmstadt oder CTX der informationswissenschaftlichen Fakultät der Universität des Saarlandes. Alle haben jedoch ähnliche Probleme wie z.B.: hoher Aufwand für die Lexikonpflege, Mehrdeutigkeiten, Performanceprobleme, Bedienungsprobleme, etc. Das Produkt PASSAT von Siemens findet bereits erfolgreichen Einsatz.

Thesaurusrelation
Auch Thesauri werden bei der automatischen Indexierung angewendet. Durch sie werden die semantischen Beziehungen verschiedener Begriffe zueinander festgehalten. Das heißt, dass auch Begriffe, die nicht im Text stehen, aber trotzdem das Dokument sehr gut beschreiben, als Deskriptoren zur Verfügung stehen können.

Quellen

  • DIN 31 623 "Indexierung zur inhaltlichen Erschließung von Dokumenten"
  • Knorz, G. (1994), Automatische Indexierung. In: Hennings, R.-D.; Knorz, G.; Manecke, H.-J.; Reinicke, W.; Schwandt, J.: Wissensrepräsentation und Information Retrieval. Universität Potsdam, Informationswissenschaft, Modellversuch BETID, Lehrmaterialien Nr. 3, Kapitel 4, S. 138 - 196. Online verfügbar unter: http://fiz1.fh-potsdam.de/volltext/fhdarmstadt/03003.html last visited 5.11.05
  • Knorz, G. (2004): Informationsaufbereitung II: Indexieren. In: Kuhlen/Seeger/Strauch (Hrsg.): Grundlagen der praktischen Information und Dokumentation, Kap B5, S. 179-188
  • Luckhardt, Heinz-Dirk: Automatisches und intellektuelles Indexieren: Virtuelles Handbuch der Informationswissenschaft, Abschnitte 0.-3.4.2. Online verfügbar unter: http://is.uni-sb.de/studium/handbuch/exkurs.ind.html last visited 5.11.05

Verwandte Begriffe

… weitere Daten zur Seite „Automatische Indexierung
Die automatische Indexierung ist ein Methode, mit der einer dokumentarischen Bezugseinheit von einem Computer Deskriptoren zugeordnet werden können. +