Vorverarbeitung durch Dimensionsreduktion für die Verifikation von neuronalen Netzwerken

Typ:	BA
Datum:	30.11.2022
Betreuer:	Samuel Teuber Philipp Kern
Aushang:	PDF

Hintergrund

Auf Grund der zunehmenden Nutzung von neuronalen Netzwerken in sicherheitskritischen Anwendungen (bspw. im Rahmen von KI-gestützter Flug-Kollisionsvermeidung) wurden in den letzten Jahren eine ganze Reihe von Tools zur automatischen Analyse und Verifikation von neuronalen Netzwerken (NN) entwickelt. Hierbei handelt es sich inzwischen um ein eigenes Forschungsfeld mit einem jährlich stattfindenden Wettbewerb für Verifikationstools. Eine maßgebliche Einflussgröße für die Effizienz von NN-Verifikationstools ist die Dimension des Eingaberaums.

Aufgabenstellung

Im Rahmen dieses Projekts soll ein Vorverarbeitungsschritt für NN-Verifikation entwickelt und evaluiert werden, der die Dimension des analysierten Eingaberaums reduziert. Nach eigenen Literaturrecherechen zu Verifikationstechniken für neuronale Netzwerke, besteht die Aufgabe des Projekts in der Implementierung und Evaluation der Vorverarbeitung. Hierfür gibt es einen bereist erdachten Ansatz auf Basis von Generalized Star Sets, der ggf. im Rahmen der Bachelorarbeit auch weiterentwickelt werden kann -- insbesondere an dieser Stelle gibt es viele Möglichkeiten eigene Ideen einzubringen. Die Implementierung ist unabhängig von bestehenden Verifikationstools als Vorverarbeitungsschritt gedacht und sollte idealerweise für verschiedene bestehende Tools nutzbar gemacht werden.

Stichworte: Linear Programming, Polytope, Singular Value Decomposition, Abstract Interpretation, Geometric Path Enumeration, NP-vollständige Probleme