unser Ziel:

• Lerne anhand von Beispielen einen Klassifikator.

Quelle: http://digilib.ittelkom.ac.id/images/stories/artkel2/ge%20sri/Data%20Mining%20Task%5B11%5D.JPG

Gängige Klassifizierer:

• probabilistisch: Bayes'sche Netzwerke
• hoch performant: Support-Vector Maschinen
• für nachvollziehbare Begründungen: logische Regeln!
  • Entscheidungsbäume
  • parallel evaluierbare Regelmengen

grundsätzliches Vorgehen:

• erstelle Trainings-Set: klassifiziere einige Anzeigen manuell
• baue Klassifizierer auf: Algorithmus lernt Modell
• wende Modell auf reale Daten an: Klassifiziere neue Anzeigen

allgemeines Datamining-Problem:

• gegeben: ein example set ES
• gesucht: allgemein: Finde eine Funktion,
  • die die Zielklasse (hier: Kredit?) aus den Attributen (hier: zahltRegelmäßig, istReich, hatHaarfarbe) möglichst gut vorhersagt

Wir sind Logiker. Wir definieren uns als Lern-Aufgabe:

• Finde eine (gute) logische Theorie, die mit den Beispielen konsistent ist
• konkret: Finde eine Menge von (hier: boolschen) Regeln der Form
  • WENN zahltRegelmäßig UND ... DANN Kredit

Was tun bei Mehrfach-Klassifikationen? Verwende Ontologien

• um Integrität der Klassifikationen zu testen
• um weiteres Wissen abzuleiten

Was ist eine "gute" Funktion / Theorie?

• precision / recall
  • für Lern- und Trainings-Set
  • draußen in der Welt (unbedingt overfitting vermeiden!)
• Komplexität, insbes. Erzeugungs- und Ausführungs-Ressourcen

Bedeutung von Rulesets in der Praxis:

• keine Blackbox (wie z.B. SVM)
• prinzipielle Nachvollziehbarkeit durch den Menschen
• können manuell ergänzt werden

Die Konsistenz der Klassifikation mit bereits vorhandenem Hintergrundwissen kann mit Ontologien geprüft werden.

• Kann Konsistenz mit Hintergrundwissen auch zugesichert werden?

Covering-Algorithmus

• finde die beste Regel R, welche die (Zugehörigkeit zur) target class T vorhersagt
• füge R zur Regelmenge hinzu
• entferne die mit R korrekt vorhergesagten Beispiele aus der Trainingsmenge (verhindert, dass die gleiche Regel nocheinmal gefunden wird)
• falls T nicht leer gehe zu 1

Quelle: Wittig / Eiben: Data Mining, 2005, fig4.6a, p106

Idee: Binde Expertenwissen ein

• Experte beurteilt exemplarisch ausgewählte Beispiele
• Datamining verallgemeinert die Expertenbewertungen

Verwende Hintergrundwissen in Form von Argumenten:

• Mrs Brown bekommt Kredit, WEIL sie reich ist

  • alle positiven Argumente müssen in der gesuchen Regel vorkommen:
• Mrs Brown bekommt Kredit, OBWOHL sie unregelmäßig bezahlt.
  • "negatives" Argument: Metawissen, was aussehen könnte wie ein Grund, aber keiner ist
  • kein negatives Argument darf in der gesuchten Regel verwendet werden:

Motivation für die Nutzung von Argumenten:

• Argumente schränken den Suchraum nach Regeln (z.T. drastisch) ein
  • schnellere Regel-Generierung
  • weniger Overfitting!

Eine Theorie, die mit Experten-Argumenten konsistent ist,

• ist nachvollziehbarer und mächtiger
• kann vom Experten auch inhaltlich beurteilt werden
• ist kommunizierbar, weil sie die Sprache und Begriffswelt von Experten nutzt
• bietet auch dem Experten Lernmöglichkeiten
• kann mithin Knowledge Engineering-Projekte unterstützen