Pattern Recognition Deluxe (PR)7.5 ECTS
(englische Bezeichnung: Pattern Recognition Deluxe)
(Prüfungsordnungsmodul: Wahlpflichtbereich Informatik)

Lehrveranstaltungen:

• • Pattern Recognition
    (Vorlesung, 3 SWS, Elmar Nöth, Mo, 14:15 - 15:45, H4; Mi, 12:15 - 13:45, H5)
  • Pattern Recognition Exercises
    (Übung, 1 SWS, Sebastian Käppler et al.)
  • Pattern Recognition Programming
    (Übung, 2 SWS, Sebastian Käppler et al.)

Empfohlene Voraussetzungen:

• Well grounded in probability calculus, linear algebra/matrix calculus

• A pattern recognition system consists of the following steps: sensor data acquisition, pre-processing, feature extraction, and classification. Our bachelor course 'Introduction to Pattern Recognition' focuses on the first three steps; this course on the final step of the pipeline, i.e. classification/machine learning. Knowledge about feature extraction is not required for studying the mathematical foundations of machine learning, but it is certainly helpful to get a better understanding of the whole picture.
  

• Gute Kenntnisse in Wahrscheinlichkeitsrechnung und Linearer Algebra/Matrizenrechnung

• Ein Mustererkennungssystem besteht aus den folgenden Verarbeitungsstufen: Aufnahme der Sensordaten, Vorverarbeitung, Merkmalsextraktion und Klassifikation. Unsere Bachelor-Vorlesung 'Introduction to Pattern Recognition' behandelt hauptsächlich die ersten drei Stufen, während diese Veranstaltung sich mit den mathematischen Grundlagen der Klassifikation/des maschinellen Lernens beschäftigt. Wissen über die Merkmalsextraktion ist für das Verständnis der mathematischen Grundlagen der automatischen Klassifikation zwar nicht notwendig, aber es hilft sicherlich, das Gesamtbild besser zu verstehen.

Es wird empfohlen, folgende Module zu absolvieren, bevor dieses Modul belegt wird:

Introduction to Pattern Recognition Deluxe (WS 2016/2017)
Introduction to Pattern Recognition (WS 2016/2017)

Inhalt:

Mathematical foundations of machine learning based on the following classification methods:

• Bayesian classifier

• Logistic Regression

• Naive Bayes classifier

• Discriminant Analysis

• norms and norm dependent linear regression

• Rosenblatt's Perceptron

• unconstraint and constraint optimization

• Support Vector Machines (SVM)

• kernel methods

• Expectation Maximization (EM) Algorithm and Gaussian Mixture Models (GMMs)

• Independent Component Analysis (ICA)

• Model Assessment

• AdaBoost
  

Mathematische Grundlagen der maschinellen Klassifikation am Beispiel folgender Klassifikatoren:

• Bayes-Klassifikator

• Logistische Regression

• Naiver Bayes-Klassifikator

• Diskriminanzanalyse

• Normen und normabhängige Regression

• Rosenblatts Perzeptron

• Optimierung ohne und mit Nebenbedingungen

• Support Vector Maschines (SVM)

• Kernelmethoden

• Expectation Maximization (EM)-Algorithmus und Gaußsche Mischverteilungen (GMMs)

• Analyse durch unabhängige Komponenten

• Modellbewertung

• AdaBoost

Lernziele und Kompetenzen:

Die Studierenden

• verstehen die Struktur von Systemen zur maschinellen Klassifikation einfacher Muster

• erläutern die mathematischen Grundlagen ausgewählter maschineller Klassifikatoren

• wenden Klassifikatoren zur Lösung konkreter Klassifikationsproblem an

• beurteilen unterschiedliche Klassifikatoren in Bezug auf ihre Eignung

• lösen selbständig Klassifikationsprobleme und schreiben eigene Implementierungen von Klassifikatoren in der Programmiersprache Python
  

Students

• understand the structure of machine learning systems for simple patterns

• explain the mathematical foundations of selected machine learning techniques

• apply classification techniques in order to solve given classification tasks

• evaluate various classifiers with respect to their suitability to solve the given problem

• solve classification problems on their own and write their own implementations of classifiers in the programming language Python

Literatur:

• Richard O. Duda, Peter E. Hart, David G. Stock: Pattern Classification, 2nd edition, John Wiley&Sons, New York, 2001

• Trevor Hastie, Robert Tobshirani, Jerome Friedman: The Elements of Statistical Learning - Data Mining, Inference, and Prediction, 2nd edition, Springer, New York, 2009

• Christopher M. Bishop: Pattern Recognition and Machine Learning, Springer, New York, 2006

Weitere Informationen:

Verwendbarkeit des Moduls / Einpassung in den Musterstudienplan:

1. Computational Engineering (Rechnergestütztes Ingenieurwesen) (Master of Science): ab 1. Semester
   (Po-Vers. 2013 | TechFak | Computational Engineering (Rechnergestütztes Ingenieurwesen) (Master of Science) | Wahlpflichtbereich Informatik | Wahlpflichtbereich Informatik)

Studien-/Prüfungsleistungen:

Pattern Recognition Deluxe (Prüfungsnummer: 456863)

(englischer Titel: Pattern Recognition Deluxe)

Prüfungsleistung, mündliche Prüfung, Dauer (in Minuten): 30, benotet

Anteil an der Berechnung der Modulnote: 100.0 %

weitere Erläuterungen:
30-minütige mündliche Prüfung über den Stoff der Vorlesung und der Übungen. Voraussetzung ist die erfolgreiche Bearbeitung der Programmieraufgaben.
30 minute oral exam about the lecture and the exercises. It is required to successfully complete the programming tasks.

Prüfungssprache: Deutsch oder Englisch

Erstablegung: WS 2017/2018, 1. Wdh.: SS 2018, 2. Wdh.: keine Wiederholung

1. Prüfer:

Elmar Nöth