Sommersemester 2023
Fairness und Diskriminierungsfreiheit aus Sicht
von Ethik und Informatik
| Veranstaltungstyp: | Seminar |
|---|---|
| Zielgruppe: | Master Informatik: Seminar (S) oder Schlüsselqualifikation (SQ) Master EUKLID |
| Umfang: | 2 SWS / 3 ECTS |
| Termine: | 27.04.2023, 11:30 – 13:00 Uhr in Raum 010 (Gebäude 50.34), Auftakttreffen 15.05.2023, 09.45 – 13.00 Uhr in Raum 348 (Gebäude 50.34), Kapitel 1 22.05.2023, 09.45 – 13.00 Uhr in Raum 252 (Gebäude 50.34), Kapitel 2 12.06.2023, 09.45 – 13.00 Uhr in Raum 252 (Gebäude 50.34), Kapitel 3 und 4 19.06.2023, 09.45 – 13.00 Uhr in Raum 348 (Gebäude 50.34), Kapitel 5 10.07.2023, 09.45 – 13.00 Uhr in Raum 252 (Gebäude 50.34), Kapitel 7 und 8 17.07.2023, 09.45 – 13.00 Uhr in Raum 348 (Gebäude 50.34), Kapitel 9 |
| Veranstaltungsnummer: | 5012016 |
| Forschungsgruppen: | Anwendungsorientierte Formale Verifikation Praktische Philosophie |
| Lehrkräfte: |
Prof. Dr. Bernhard Beckert |
| ILIAS-Kurs: | Link |
| Anmeldung: | Bei Fragen zum Seminar oder zur Anmeldung wenden Sie sich bitte an
Dr. Michael Kirsten. Bitte treten Sie außerdem dem ILIAS-Kurs zur Veranstaltung bei. |
| Platzvergabe: | Reihenfolge nach Eingang der Anmeldung |
Hintergrund
Wenn Sie in ein Geschäft oder eine Behörde gehen und ein dortiger Angestellter sich allein aufgrund Ihrer Nationalität, Ihres Geschlechts oder Ihres ethnischen Hintergrundes weigert, Sie zu bedienen, so sind Sie Opfer einer widerrechtlichen Diskriminierung geworden.
Aber was, wenn eine Bank oder eine Behörde aufgrund eines – oberflächlich betrachtet – diskriminierungsfreien Algorithmus‘ entscheidet und sich bei genauerer Prüfung herausstellt, dass die Negativentscheidungen einen überproportionalen Anteil von Leuten betreffen, die – genau wie Sie – bestimmte geschützte Merkmale (protected characteristics) tragen?
Solche Fälle sind oftmals nicht einfach zu beurteilen.
Eine Prognosesoftware für die Rückfallwahrscheinlichkeit von Straftätern (PRS) hat in den USA deutlich mehr falsche Positive für black defendants und deutlich mehr falsche Negative für white defendants produziert. Ob dies einen Fall von widerrechtlicher oder moralisch falscher Diskriminierung darstellt, wurde in der Fachliteratur kontrovers erörtert. So ist argumentiert worden, dass unterschiedliche einschlägige und plausible Standards für Fairness inkompatibel sind. Wie lässt sich in solchen Fällen ohne Willkür entscheiden, ob eine Prozedur diskriminierend ist oder nicht?
Themenbereich
Mit Fragen wie diesen möchten wir uns in dem Seminar aus Sicht von Ethik und Informatik beschäftigen. Unter „Ethik“ verstehen wir die systematische Analyse sowie argumentative Begründung oder Zurückweisung von präskriptiven Sätzen und wertenden Ausdrücken. Beispiele für Ausdrücke, die im allgemeinen Sprachgebrauch eine Negativwertung vermitteln, sind „Gutmensch“, „menschenverachtend“, „Diskriminierung“. Beispiel für einen präskriptiven Satz ist: „Die Software Y ist diskriminierend gegenüber X-Men und muss daher verboten werden!“
In der Ethik-Debatte über den Begriff Diskriminierung geht es um Fragen wie: Unter welchen Bedingungen stellt eine ungleiche Behandlung verschiedener Leute Diskriminierung dar? Ist es beispielsweise diskriminierend, wenn eine Lungenklinik grundsätzlich keine Raucherinnen und Raucher anstellt oder wenn Leute, die als weniger hübsch empfunden werden, weniger verdienen als Leute, die als hübscher gelten (Lippert-Rasmussen 2015, 207)? Lässt sich von Diskriminierung sprechen, ohne dass jemand die Absicht hat oder hatte, Leute aufgrund geschützter Merkmale zu benachteiligen? Ist Diskriminierung immer ungerecht; ist Diskriminierung per Definition moralisch falsch? Ist es Diskriminierung, wenn eine Person eine bestimmte Art von Leuten (aufgrund von unprotected properties) nicht leiden kann und deshalb nicht mit Leuten von dieser Art kooperiert? Welche Formen von Diskriminierung sind zu unterscheiden und aufgrund welcher Eigenschaften sind sie pro tanto falsch?
Kann ein Algorithmus überhaupt gegen die Diskriminierungsfreiheit verstoßen? Wann ist eine algorithmische Entscheidung unfair oder fair bzw. diskriminierend oder nicht-diskriminierend? Kann ein sinnvoller Algorithmus überhaupt nicht-diskriminierend sein? Wie entstehen unfaire Vorurteile bei Algorithmen und wie kann man sie entfernen oder abschwächen? Wie sind solche Entscheidungen gesellschaftlich zu bewerten? Unter welchen Bedingungen stellt eine ungleiche Behandlung verschiedener Leute Diskriminierung dar?
Solche und verwandte Fragestellungen möchten wir hier vertieft behandeln und dabei Studierenden ermöglichen, über den Rand der Disziplin Informatik hinaus zu blicken und Themen am Schnittpunkt der Bereiche der theoretischen Informatik sowie der praktischen Philosophie auf reale (informatisch-) gesellschaftliche Probleme anzuwenden. Das Seminar wird interdisziplinär veranstaltet und richtet sich vorrangig an Studierende der Informatik mit Interesse an der Verbindung philosophisch-ethischer und formal-logischer sowie kryptographischer Fragestellungen mit Anwendung auf das praktische Problem der Diskriminierung durch maschinell-gelernte Entscheidungsverfahren.
Ablauf
Wir bitten um frühzeitige Anmeldung. Näheres zum Ablauf und zur Themenvergabe ist der obigen Terminauflistung sowie dem ILIAS-Kurs zu entnehmen.
Aufgabenstellung
Für das Seminar werden von allen Teilnehmenden für eine erfolgreiche Teilnahme folgende Leistungen erwartet:
- Lesen und Verstehen der zu diskutierenden Texte sowie Beteiligung an den zugehörigen Diskussionen.
- Selbstständiges Erarbeiten der Inhalte des gewählten Themas auf Basis des Kapitels sowie evtl. weiterer Papiere. In regelmäßigen Treffen mit einem/r betreuenden wissenschaftlichen Mitarbeitenden erhalten Sie hierbei die nötige Unterstützung.
- Auswahl und Gliederung der Inhalte, die in Ihrem Seminarvortrag präsentiert werden sollen.
- Entscheidung, wie Sie die Inhalte präsentieren wollen.
- Erstellung der Folien für Ihren Seminarvortrag und gegebenenfalls weiterer Materialien.
- Voraussichtlich dreißminütiger Seminarvortrag im Plenum gefolgt von einer etwa sechzignminütigen Diskussion.
- Nach dem Vortrag: Verfassen einer etwa zehn bis fünfzehnseitigen Ausarbeitung, die die wesentlichen Inhalte Ihres Vortrags zusammenfassend darstellt.
Eventuell gibt es Abweichungen in der Aufgabenstellung bei Anrechnung als Schlüsselqualifikation oder im Masterstudiengang EUKLID.
Folien und Materialien
Alles weitere ist im oben verlinkten ILIAS-Kurs zu finden.