Vorlesungsbegleitendes Forschungspraktikum
im Wintersemester 2022/23

Prof. Dr. Bernhard Beckert, Dr. Mattias Ulbrich, Michael Kirsten

Typ:	Praktikum
Zielgruppe:	Master Informatik
Umfang:	5 Leistungspunkte (3 Praktikum + 2 Schlüsselqualifikation)
Ort:	n.V.
Veranstaltungs-Nr.:	2400049

Zur Seite der Vorlesung

Inhalt

In diesem Semester bieten wir neben der Vorlesung ein optionales begleitendes Forschungspraktikum im Umfang von insgesamt fünf Leistpungspunkten (LP) (davon zwei Schlüsselqualifikation (SQ)) an. Hierbei handelt es sich um ein Projektpraktikum, in dem über das ganze Semester an einem Thema gearbeitet wird (und nicht an verschiedenen Aufgabenblättern). Die Bearbeitung aktueller Forschungsthemen erfordert hierbei ein größeres Maß an Eigeninitiative als dies bei im Vorhinein festgelegten Praktika der Fall ist. Die Fortschritte werden dabei regelmäßig mit einem bzw. einer betreuenden Mitarbeitenden der Forschungsgruppe diskutiert.

Zu Beginn der Vorlesung werden Themen vorgestellt, für die sich die Teilnehmer:innen innerhalb der ersten Woche bewerben können (die Plätze sind begrenzt!). Das Forschungspraktikum basiert thematisch auf in der gekoppelten Vorlesung vermittelten Inhalten. Die praktische Forschungsaktivität ist Teil einer (größeren) Forschungsaktivität der Forschungsgruppe und trägt zu deren Erfolg bei.

Beispiele für solche Forschungsaktivitäten sind etwa die Entwicklung eines Prototypen oder die Durchführung einer Evaluation (u.ä.). Am Ende des Semesters werden die Ergebnisse des Forschungspraktikums auf drei bis fünf Seiten dokumentiert, sowie zum letzten Vorlesungstermin im Rahmen eines Kolloquiums in jeweils etwa 10 bis 15 Minuten präsentiert und in einer anschließenden Fragerunde diskutiert.

Qualifikationsziele

• Einen Forschungsansatz und die eigene Forschungs(teil-)aufgabe verstehen, begründen, bewerten und einordnen können
• Aus der Aufgabenbeschreibung konkrete Arbeitsschritte entwickeln können
• In dem Forschungsbereich des Projekts wissenschaftlich arbeiten können
• Die für das Projekt relevanten inhaltlichen Grundlagen kennen, einsetzen und die Relevanz für die Fragestellung bewerten können
• Forschungsergebnisse dokumentieren, zusammenfassen und präsentieren, sowie diskutieren können

Methodische Begleitveranstaltungen

Neben der Forschungsarbeit umfasst das Praktikum auch die folgenden mit der Projektarbeit verzahnten methodischen Veranstaltungen im Rahmen von zwei Leistungspunkten (LP), die im Rahmen des Forschungspraktikums als Schlüsselqualifikationsleistungen zu besuchen sind:

• Literaturrechereche und Zitieren (2,0 Stunden)
• Projektmanagementworkshop (7,0 Stunden)
• Präsentationsworkshop (8,0 Stunden)
• Erkenntnistheorie (1,5 Stunden)
• Wissenschaftstheorie (1,5 Stunden)
• Workshop zum Aufstellen einer Forschungsfrage (3,0 Stunden)
• Schreiben von Forschungsanträgen (1,5 Stunden)
• Experimentaldesign (1,5 Stunden)

Die Workshops zu Projektmanagement und Präsentationen finden in Kooperation mit dem House of Competence (HoC) statt. Alle Veranstaltungen sind gezielt auf Forschungsprojekte im Bereich der Informatik ausgerichtet. Die Termine der Veranstaltungen werden zu Vorlesungsbeginn bekanntgegeben.

Themen

Die Themen werden zu Beginn der Vorlesung vorgestellt. Zudem sind wir offen für Themenvorschläge, die im Zusammenhang zur Vorlesung bzw. zur Forschung unserer Forschungsgruppe stehen. Beispiele hierfür sind Forschungsaktivitäten wie etwa die Entwicklung eines Prototypen oder die Durchführung einer Evaluation ausgewählter formaler Methoden (u.ä.). An dieser Stelle werden wir vor Beginn der Vorlesung eine Auswahl geplanter Themen auflisten. Bei Fragen hierzu können Sie sich bereits im Vorfeld bei den genannten Ansprechpersonen melden. Gern gesehen sind auch Initiativanfragen zu Themengebieten unserer Forschungsgruppe.

• Modellierung und Verifikation eines Smart Contracts für ein Casino-Szenario

  Smart Contracts sind Programme, die bestimmte Funktionalitäten in einem dezentralen Netzwerk zur Verfügung stellen. Da sie oft den Zugang zu Währung oder anderen Ressourcen verwalten, ist es sehr wichtig, schon vor der Veröffentlichung des Programms zu überprüfen, ob es sich immer korrekt verhält. Zu diesem Zweck kann es sinnvoll sein, eine Smart-Contract-Anwendung auf einer abstrakteren Ebene zu modellieren, um dann beispielsweise Safety- und Livenesseigenschaften spezifizieren und beweisen zu können.

  In diesem Projekt soll ein bereits existierender Smart Contract als abstrakte Maschine in Event-B modelliert werden. Dies beinhaltet eine Einarbeitung in Event-B und das Werkzeug Rodin. Weiterhin soll versucht werden, Safety- und Livenesseigenschaften des entstandenen Modells zu spezifizieren und verifizieren.

  Betreuung: Jonas Schiffl

• Automatisches Finden von Wahlmanipulationen mittels Bounded Model Checking

  Die strategische Manipulation eines Wahlverfahrens ist die Abgabe einer Stimme, die von der eigenen Präferenz abweicht, mit dem Ziel, das Wahlergebnis stärker (als die "wirklich" präferierte Stimme) hin zur eigenen Präferenz zu beeinflussen. Es gibt ein grundsätzliches Ergebnis, dass jedes nicht-diktatorische Wahlverfahren mit mindestens drei Alternativen für solche Manipulationen anfällig ist. Manche Wahlverfahren lassen sich jedoch einfacher manipulieren als andere. Traditionell wird diese Fragestellung komplexitätstheoretisch untersucht, in neueren Arbeiten aber auch konkret quantifiziert.

  Das Projekt beinhaltet die Einarbeitung in obige Fragestellung, die Formalisierung einer solchen Quantifizierung für einfache Scoring-Wahlverfahren (z. B. relative Mehrheitswahl, Borda, ...) und die Entwicklung und Evaluation einfacher Experimente für den Bounded Model Checker CBMC, um solche Manipulationen für ein Wahlverfahren automatisch zu generieren und bewerten zu können.

  Betreuung: Michael Kirsten

• Dimensionsreduktion für Tools zur Verifikation von neuronalen Netzwerken

  Auf Grund der zunehmenden Nutzung von neuronalen Netzwerken in sicherheitskritischen Anwendungen (bspw. im Rahmen von KI-gestützter Flug-Kollisionsvermeidung [1]) wurden in den letzten Jahren eine ganze Reihe von Tools zur automatischen Analyse und Verifikation von neuronalen Netzwerken (NN) entwickelt. Hierbei handelt es sich inzwischen um ein eigenes Forschungsfeld mit einem jährlich stattfindenden Wettbewerb für Verifikationstools [2]. Eine maßgebliche Einflussgröße für die Effizienz von NN-Verifikationstools ist die Dimension des Eingaberaums [3].

  Im Rahmen dieses Projekts soll ein Vorverarbeitungsschritt für NN-Verifikation entwickelt und evaluiert werden, der die Dimension des analysierten Eingaberaums reduziert. Die Aufgabe besteht darin, ein bereits bestehendes Konzept für eine derartige Vorverarbeitung zu implementieren und zu evaluieren. Der Ansatz basiert auf der Idee von Generalized Star Sets [4]. Ggf. kann die Technik im Rahmen des Forschungspraktikums auch weiterentwickelt werden -- hier gibt es insbesondere auch viele Möglichkeiten eigene Ideen einzubringen. Die Implementierung ist unabhängig von bestehenden Verifikationstools als Vorverarbeitungsschritt gedacht und sollte idealerweise für verschiedene bestehende Tools nutzbar sein. Einige Stichworte zu Techniken, die im Rahmen dieses Forschungspraktikums verwendet werden: Linear Programming, Polytopes, Singular Value Decomposition, Abstract Interpretation bzw. Geometric Path Enumeration

  [1] Julian, Kyle D., et al. "Policy compression for aircraft collision avoidance systems." 2016 IEEE/AIAA 35th Digital Avionics Systems Conference (DASC). IEEE, 2016.
  [2] Bak, Stanley, Changliu Liu, and Taylor Johnson. "The second international verification of neural networks competition (vnn-comp 2021): Summary and results." arXiv preprint arXiv:2109.00498 (2021).
  [3] Tran, Hoang-Dung, et al. "Verification of deep convolutional neural networks using imagestars." International conference on computer aided verification. Springer, Cham, 2020.
  [4] Tran, Hoang-Dung, et al. "Star-based reachability analysis of deep neural networks." International symposium on formal methods. Springer, Cham, 2019.

  Betreuung: Samuel Teuber und Philipp Kern

• Quantifizierung von Fairness mittels Quantitativem Informationsfluss

  In diesem Projekt soll explorativ die Frage ergründet werden, ob die Entropiemaße des Quantitativen Informationsfluss (QIF) Rückschlüsse zur Fairness von Systemen geben können.

  QIF-Analysen erlauben, die Menge an geheimer Information zu bestimmen, die durch ein Programm oder System offenbart wird.

  Das Projekt beinhaltet die Einarbeitung in Thematik und Begrifflichkeiten von QIF-Analysen und deren Anwendung auf selbsterstellte (un-)faire Systeme.

  Betreuung: Samuel Teuber und Alexander Weigl

• Analyse von Langzeit Fairness mittels Probabilistischem Model Checking

  Dieses Projekt befasst sich mit der Frage von Langzeit-Effekten im Kontext algorithmischer Fairness: D’Amour et al. [1] untersuchten hierzu bereits wie sich Fairness-Eigenschaften verhalten, wenn man den Feedback-Loop zwischen einer algorithmischen Entscheidung und gesellschaftlicher Dynamik über längere Zeiträume betrachtet und ergänzten hiermit die Arbeit von Liu et al. [2].

  Das Ziel des Projektes wäre es zunächst eine von D’Amour et al. präsentierte Fairness-Simulationen (bspw. zur Kreditvergabe) mithilfe eines probabilistischen Model Checkers (z. B. mit Storm [3]) nachzubauen und die Ergebnisse dort (soweit möglich) zu reproduzieren. Im Anschluss sollen die Modelle dann um weitere Effekte ergänzt werden, um zu analysieren inwieweit dies Fairness-Eigenschaften verändert.

  [1] D'Amour, Alexander, et al. "Fairness is not static: deeper understanding of long term fairness via simulation studies." Conference on Fairness, Accountability, and Transparency (FAT* 2020).
  [2] Liu, Lydia T., et al. "Delayed impact of fair machine learning." International Conference on Machine Learning (PMLR 2018).
  [3] Hensel, Christian, et al. "The probabilistic model checker Storm." International Journal on Software Tools for Technology Transfer 24.4 (2022): 589-610.

  Betreuung: Samuel Teuber

Ansprechperson

Bei Fragen rund um das Thema Forschungspraktikum (hier oder bei anderen Vorlesungen) können Sie sich bei Michael Kirsten melden.