Pattern Analysis (PA)5 ECTS
(englische Bezeichnung: Pattern Analysis)

Lehrveranstaltungen:

• • Pattern Analysis
    (Vorlesung, 3 SWS, Christian Riess, Di, Fr, 12:15 - 13:45, H16)
  • Pattern Analysis Programming
    (Übung, 1 SWS, Mathias Seuret et al.)

Empfohlene Voraussetzungen:

Es wird empfohlen, folgende Module zu absolvieren, bevor dieses Modul belegt wird:

Pattern Recognition (WS 2020/2021)

Inhalt:

This module introduces the design of pattern analysis systems as well as the corresponding fundamental mathematical methods. The topics comprise:

• clustering methods: soft and hard clustering

• classification and regression trees and forests

• parametric and non-parametric density estimation: maximum-likelihood (ML) estimation, maximum-a-posteriori (MAP) estimation, histograms, Parzen estimation, relationship between folded histograms and Parzen estimation, adaptive binning with regression trees

• mean shift algorithm: local maximization using gradient ascent for non-parametric probability density functions, application of the mean shift algorithm for clustering, color quantization, object tracking

• linear and non-linear manifold learning: curse of dimensionality, various dimensionality reduction methods: principal component analysis (PCA), multidimensional scaling (MDS), isomaps, Laplacian eigenmaps

• Gaussian mixture models (GMM) and hidden Markov models (HMM): expectation maximization algorithm, parameter estimation, computation of the optimal sequence of states/Viterbi algorithm, forward-backward algorithm, scaling

• Markov random fields (MRF): definition, probabilities on undirected graphs, clique potentials, Hammersley-Clifford theorem, inference via Gibbs sampling and graph cuts

Das Modul führt in das Design von Musteranalysesystemen sowie die zugrundeliegenden mathematischen Methoden ein. Die Vorlesung umfasst im Einzelnen:

• Clustering-Methoden: Soft- und Hard-Clustering

• Klassifikations- und Regressionsbäume/-wälder

• parametrische und nicht-parametrische Dichteschätzung: Verfahren sind ML- und MAP-Schätzung, Histogramme, Parzenschätzung, Zusammenhang gefaltete Histogramme und Parzenschätzung, adaptives Binning mit Regressionsbäumen.

• 'Mean Shift'-Algorithmus: lokale Maximierung durch Gradientenaufstieg bei nicht-parametrischen Dichtefunktionen, Anwendungen des 'Mean Shift'-Algorithmus zum Clustering, Farbquantisierung und Objektverfolgung

• Linear and Non-Linear Manifold Learning: Curse of Dimensionality, Verschiedene Methode zur Dimensionsreduktion: Principal Component Analysis (PCA), Multidimensionsional Scaling (MDS), Isomap, Laplacian Eigenmaps

• Gaußsche Mischverteilungsmodelle (GMM) und Hidden-Markov-Modelle (HMM): 'Expectation Maximization'-Algorithmus, Parameterschätzung, Bestimmung der optimalen Zustandsfolge/Viterbi-Algorithmus, Vorwärts-Rückwärts-Algorithmus, Skalierung

• Markov-Zufallsfelder: Definition, Wahrscheinlichkeiten auf ungerichteten Graphen, Cliquen-Potenziale, Hammersley-Clifford-Theorem, Inferenz mit Gibbs-Sampling und Graph Cuts

Lernziele und Kompetenzen:

The students

• explain the discussed methods for classification, prediction, and analysis of patterns,

• compare and analyze methods for manifold learning and select a suited method for a given set of features and a given problem,

• compare and analyze methods for probability density estimation and select a suited method for a given set of features and a given problem,

• apply non-parametric probability density estimation to pattern analysis problems,

• apply dimensionality reduction techniques to high-dimensional feature spaces,

• explain statistic modeling of feature sets and sequences of features,

• explain statistic modeling of statistical dependencies,

• implement presented methods in Python,

• supplement autonomously the mathematical foundations of the presented methods by self-guided study of the literature,

• discuss the social impact of applications of pattern analysis solutions.

Die Studierenden

• erläutern die behandelten Methoden zur Klassifikation, Vorhersage und Analyse von Mustern,

• vergleichen und analysieren Methoden des Manifold Learning und wählen für eine vorgegebene Fragestellung eine geeignete Methode aus,

• vergleichen und analysieren Methoden zur Dichteschätzung und wählen für eine vorgegebene Fragestellung eine geeignete Methode aus,

• wenden nicht-parametrische Dichteschätzung auf Probleme der Musteranalyse an,

• wenden Dimensionsreduktion bei hochdimensionalen Merkmalsräumen an,

• erläutern statistische Modellierung von Merkmalsmengen und Merkmalsfolgen,

• erklären statistische Modellierung abhängiger Größen,

• implementieren vorgestellte Verfahren in Python.

• ergänzen eigenständig mathematische Grundlagen der präsentierten Methoden durch selbstbestimmtes Studium der Literatur

• diskutieren die gesellschaftlichen Auswirkungen von Anwendungen der Musteranalyse

Literatur:

Begleitende Literatur / Accompanying literature:

• C. Bishop: Pattern Recognition and Machine Learning, Springer Verlag, Heidelberg, 2006
  

• T. Hastie, R. Tibshirani und J. Friedman: The Elements of Statistical Learning, 2nd Edition, Springer Verlag, 2009
  

• A. Criminisi and J. Shotton: Decision Forests for Computer Vision and Medical Image Analysis, Springer, 2013

Organisatorisches:

Please join the associated studOn class: https://www.studon.fau.de/crs2955878.html

Weitere Informationen:

Verwendbarkeit des Moduls / Einpassung in den Musterstudienplan:
Das Modul ist im Kontext der folgenden Studienfächer/Vertiefungsrichtungen verwendbar:

1. Computational Engineering (Rechnergestütztes Ingenieurwesen) (Master of Science)
   (Po-Vers. 2013 | TechFak | Computational Engineering (Rechnergestütztes Ingenieurwesen) (Master of Science) | Gesamtkonto | Wahlpflichtbereich Informatik | Wahlpflichtbereich Informatik | Pattern Analysis)

Studien-/Prüfungsleistungen:

Pattern Analysis (Prüfungsnummer: 41201)

(englischer Titel: Oral Examination on Pattern Analysis)

Prüfungsleistung, Klausur, Dauer (in Minuten): 60, benotet, 5 ECTS

Anteil an der Berechnung der Modulnote: 100.0 %

Prüfungssprache: Englisch

Erstablegung: SS 2021, 1. Wdh.: WS 2021/2022, 2. Wdh.: keine Wiederholung

1. Prüfer:

Christian Riess

Termin: 06.10.2021, 11:00 Uhr, Ort: s. Aushang
Termin: 11.04.2022, 14:00 Uhr, Ort: BASPH
Termin: 05.10.2022
Termin: 05.10.2022