Website
Modulhandbuch

Modul CS5075-KP06

Trustworthy AI (TrustAI)

Dauer:


1 Semester
Angebotsturnus:


Jedes Sommersemester
Leistungspunkte:


6
Studiengang, Fachgebiet und Fachsemester:
  • Master Informatik 2019 (Wahlpflicht), Wahlpflicht, Beliebiges Fachsemester
  • Master Medizinische Informatik 2019 (Wahlpflicht), eHealth / Informatik, 1. oder 2. Fachsemester
  • Master IT-Sicherheit 2019 (Wahlpflicht), IT-Sicherheit Security und Privacy, 1., 2. oder 3. Fachsemester
Lehrveranstaltungen:
  • CS5075-Ü: Trustworthy AI (Übung, 1 SWS)
  • CS5075-V: Trustworthy AI (Vorlesung, 3 SWS)
Workload:
  • 60 Stunden Präsenzstudium
  • 100 Stunden Selbststudium
  • 20 Stunden Prüfungsvorbereitung
Lehrinhalte:
  • Leitgedanke von Trustworthy AI: rechtskonforme, ethische und robuste KI (lawful, ethical, robust)
  • Grundbegriffe des Trustworthy Computing: Security, Privacy, Dependability, Safety, Transparency, Explainability, Traceability, Accountability
  • De-anonymisierungsmethoden mit Hilfe von maschinell gelernten Modellen
  • Mathematische Begriffe zum Schutz der Privatsphäre in maschinellen Lernverfahren
  • Härtung von maschinellen Lernverfahren zum Schutz persönlicher Daten (Privacy-Preserving Machine Learning)
  • Analyse maschinell gelernter Modellen (Robustness Check, Explainability)
  • Verifikation maschinell gelernter Modellen (Statistical Testing, Model Checking)
  • Black-Box Methoden zur Rekonstruktion maschinell gelernter Modelle (zur Analyse und Verifkation)
  • Manipulationverfahren gegen maschinell gelernte Modelle (Adversarial Examples, Backdoors)
  • Härtung von maschinellen Lernmethoden gegenüber Manipulationsverfahren
  • Sichere und privatphärenschützende verteilte Lernmethoden (Privacy-Preserving Federated Learning)
Qualifikationsziele/Kompetenzen:
  • Alle in dem Modul vermittelten Lehrinhalte können durch die Studierenden benannt, definiert und anhand von Anwendungen in ihrer Funktionsbeweise erläutert werden.
  • Die jeweiligen formalen Grundlagen der Lehrinhalte können präzise erklärt werden
  • Vor- und Nachteile von verschiedenen Ansätzen können durch die Studierenden benannt werden.
  • Verständnis von Schwachstellen von maschinellen Lernmethoden bezüglich der Extraktion persönlicher Daten und bezüglich Manipulationen
  • Verständnis von Härtungsmethoden gegenüber Deanonymisierungsverfahren und Manipulationsmethoden
  • Studierende können komplexe Sicherheitsanforderungen analysieren
Vergabe von Leistungspunkten und Benotung durch:
  • Mündliche Prüfung
Voraussetzung für:
Modulverantwortlicher:
Lehrende:
Literatur:
  • C. Dwork, A. Roth: The Algorithmic Foundations of Differential Privacy - Now Publishers Inc, 2014
  • Andrej Bogdanov: Lecture notes by Andrej Bogdanov from Chinese University of Hong Kong
  • : Aktuelle Konferenz- und Journal-Artikel zu den Themen der Veranstaltung werden im Falle des Seminars zu Veranstaltungsbeginn bekannt gegeben und im Falle der Vorlesung bei Besprechung des Themas.
Sprache:
  • Wird nur auf Englisch angeboten
Bemerkungen:

Zulassungsvoraussetzungen zur Belegung des Moduls:
- Keine

Zulassungsvoraussetzungen zur Teilnahme an Modul-Prüfung(en):
- Erfolgreiche Bearbeitung von Übungs- und Projektaufgaben gemäß Vorgabe am Semesteranfang

Modulprüfung(en):
- CS5075-L1: Trustworthy AI, mündliche Prüfung, 100% der Modulnote

Laut Beschluss des Prüfungsausschusses Informatik vom 19.1.2022 kann dieses Modul für Master SGO ab WS 2019 im Bereich 5. Wahlpflicht gewählt werden.

Letzte Änderung:
19.1.2022