Master Theses - Details
Generative Machine Learning for Speech and Audio Signal Processing
Supervisor: Johannes Hahn
Area of work: Machine Learning, Generative Models, Signal Processing
Category: Bachelor Thesis (BA), Master Thesis (MA)
Status: Open
Tools: Python, PyTorch
Aufgabenstellung:
Die Verarbeitung von Sprach- und Audiosignalen ist fester Bestandteil des Alltags, ob beim Telefo-
nieren, in einer Videokonferenz oder bei der Verwendung von Sprachassistenten. Um eine natürliche
Kommunikation zwischen Menschen zu erreichen oder eine präzise Spracherkennung zu ermöglichen,
werden verschiedenste Algorithmen eingesetzt um Hintergrundgeräusche zu unterdrücken, Nachhall
zu entfernen oder verlorene Signalanteile zu rekonstruieren.
Dabei wird zunehmend auf Methoden des maschinellen Lernens zurückgegriffen, welche besonders
unter schwierigen Bedingungen (z.B. niedriges SNR, nicht-stationäres Rauschen) neue Maßstäbe für
die Performance setzen. Dabei lassen sich existierende Methoden grob in zwei Kategorien unterteilen:
diskriminative und generative Modelle. Während ein diskriminatives Modell darauf trainiert wird
zwischen verschiedenen Daten zu unterscheiden (z.B. Sprache vs. Rauschen), lernt ein generatives
Modell die Wahrscheinlichkeitsverteilung, die den Daten zugrunde liegt. Dadurch ist es in der Lage,
neue Daten zu synthetisieren, die den Trainingsdaten ähneln. Prominente Beispiele generativer Modelle
sind Transformer Netzwerke, Diffusionsmodelle, Variational Autoencoder (VAEs) und Generative
Adversarial Networks (GANs).
Im Rahmen einer Abschlussarbeit können die folgenden Arbeitspunkte bearbeitet werden:
- Entwicklung und Implementierung neuartiger generativer Modelle für die Sprach- und Audiosignalverabeitung
- Erweiterung existierender Modelle um zusätzliche Modalitäten, z.B. Signale von Vibrationssensoren in Earbuds
- Analyse und Vergleich unterschiedlicher Modelle
Bei Interesse können weitere Details in einem persönlichen Gespräch erläutert werden. Die genaue
Aufgabenstellung der Abschlussarbeit wird dann in enger Absprache mit der Kandidatin / dem
Kandidaten festgelegt.