Inhalt

Abstract:

KI-Systeme treffen zunehmend Entscheidungen mit realen Konsequenzen – bei der Personalauswahl, der Kreditvergabe, in der medizinischen Diagnostik oder bei der Strafverfolgung. Dieser Kurs vermittelt, wie Verzerrungen (Bias) in solchen Systemen entstehen, wie sie sich messen lassen und mit welchen Strategien sie sich verringern lassen – sowohl in klassischen Machine-Learning-Modellen als auch in großen Sprachmodellen (LLMs). Nach einer kompakten Wiederholung der Grundlagen des maschinellen Lernens führt der Kurs in die Begriffe Bias und Fairness ein und stellt verschiedene, teils widersprüchliche Fairness-Definitionen vor. Anschließend werden die Ursachen von Verzerrungen entlang des gesamten ML-Lebenszyklus systematisch aufgearbeitet, bevor Methoden zur Messung von Bias in klassischen Modellen und in LLMs vertieft werden. Weitere Schwerpunkte sind konkrete Minderungsstrategien, rechtliche und ethische Rahmenbedingungen (DSGVO, EU-KI-Gesetz, Auditing-Standards) sowie aktuelle Forschungstrends wie Mechanistic Interpretability und KI-Governance. Den Abschluss bildet ein eigenständiges Miniprojekt zu einem selbst gewählten Anwendungsfall. Der Kurs kombiniert Vorlesungsvideos mit drei praktischen Übungen in Jupyter-Notebooks sowie wöchentlichen Portfolio-Aufgaben, in denen die Teilnehmenden das Gelernte anwenden und eigene Positionen reflektiert begründen.

Gliederung:

Segment 0 – Einleitung: Organisatorisches, technische Voraussetzungen, Prüfungsmodalitäten, Kursaufbau. Segment 1 – Grundlagen des maschinellen Lernens. Segment 2 – Einführung in Bias und Fairness in der KI. Segment 3 – Ursachen für Verzerrungen in der KI. Segment 4 – Messung von Verzerrungen in der KI. Segment 5 – Messung von Verzerrungen in LLMs. Segment 6 – Strategien zur Verringerung von Bias im maschinellen Lernen. Segment 7 – Strategien zur Verringerung von Bias in LLMs. Segment 8 – Rechtliche und ethische Aspekte. Segment 9 – Miniprojekt: Fallstudie in einem selbst gewählten Anwendungsbereich. Segment 10 – Zukunftsperspektiven und aktuelle Forschungstrends (Explainability/Mechanistic Interpretability, Knowledge Integration, Fairness in modernen LLMs, Governance and Participation). Ergänzend: drei praktische Übungen als Jupyter-Notebooks sowie wöchentliche Portfolio-Aufgaben, die zusammen die Prüfungsleistung bilden.

Detaillierter Inhalt:

Segment 0 – Einleitung: Projektleitung, Stundenplan, technische Voraussetzungen, Terminologie, Prüfungsmodalitäten, Bewertungskriterien, Begleitliteratur sowie Überblick über Kapitel und Lernumgebung (Videos, Portfolio, Foren, Chatbot).
Segment 1 – Grundlagen des maschinellen Lernens: Historischer Überblick über KI, ML und Deep Learning bis zu Foundation Models und LLMs anhand von Beispielen aus Vision, Medizin, Genomik und NLP; Lernarten, Grundlagen neuronaler Netze sowie ethische Herausforderungen moderner LLMs als Überleitung zum Kursschwerpunkt.
Segment 2 – Einführung in Bias und Fairness in der KI: Begriffliche Klärung von Bias (technische Diagnose) und Fairness (normatives Urteil), zentrale Fairness-Definitionen und typische Zielkonflikte (z. B. Genauigkeit vs. Gruppenfairness). Nachhaltige Fairness erfordert auch institutionelle Mechanismen.
Segment 3 – Ursachen für Verzerrungen in der KI: Taxonomie der Bias-Quellen entlang des ML-Lebenszyklus (menschlich/gesellschaftlich, Daten, Modell, Einsatz/Rückkopplung) sowie Übertragung auf LLMs (Trainingsdaten, Tokenisierung, RLHF, Sycophancy).
Segment 4 – Messung von Verzerrungen in der KI: Fairness-Kriterien (Gruppen-, individuelle, nutzenbasierte, kontrafaktische Fairness) an Beispielen wie der Kreditvergabe, das Unmöglichkeitstheorem sowie reale Fallstudien (COMPAS, Obermeyer et al.).
Segment 5 – Messung von Verzerrungen in LLMs: Methoden und Benchmarks zur Messung expliziter und impliziter Verzerrungen sowie deren methodische Grenzen (Formulierungsabhängigkeit, Konstruktvalidität, überwiegend englischsprachige Entwicklung).
Segment 6 – Strategien zur Verringerung von Bias im maschinellen Lernen: Minderungsstrategien entlang der ML-Pipeline (Pre-, In-, Post-Processing) sowie gängige Open-Source-Toolkits (AIF360, Fairlearn, TensorFlow Responsible AI).
Segment 7 – Strategien zur Verringerung von Bias in LLMs: Prompting, Retrieval-Augmented Generation, Fine-Tuning (LoRA/PEFT, RLHF) und agentenbasierte Ansätze sowie relevante Tools/Benchmarks (HELM, TrustLLM, SafetyBench).
Segment 8 – Rechtliche und ethische Aspekte: Reale Schadensfälle als Ausgangspunkt ethischer Analyse, rechtliche Rahmenbedingungen (DSGVO, EU-KI-Gesetz), Standards/Auditing sowie community-getragene Initiativen (NeurIPS-DEI, NLP4SG, FAccT).
Segment 9 – Miniprojekt (Fallstudie): Eigenständige Projektarbeit in einem frei gewählten Anwendungsbereich (z. B. Personalwesen, Gesundheitswesen, Finanzwesen, Gesichtserkennung) mit vollständigem Workflow zur Erfassung und Minderung von Bias; Ergebnisse als Portfolio-Beitrag.
Segment 10 – Zukunftsperspektiven: Mechanistic Interpretability, Knowledge Integration (u. a. GraphRAG), Fairness in modernen LLMs (Langzeit-Fairness, Personalisierung, Jailbreak-Tests) sowie Governance and Participation (u. a. Collective Constitutional AI).

Lern-/Qualifikationsziele:

Nach erfolgreichem Abschluss des Kurses können die Teilnehmenden: verschiedene Arten von Bias in der Künstlichen Intelligenz identifizieren, klassifizieren und erläutern; die Ursachen und Folgen voreingenommener KI-Systeme entlang des gesamten ML-Lebenszyklus analysieren; Methoden zur Erkennung und Messung von Bias in klassischen ML-Modellen sowie in großen Sprachmodellen (LLMs) bewerten und anwenden; die ethischen, rechtlichen und gesellschaftlichen Auswirkungen von KI-Bias kritisch beurteilen und in eigene Entwicklungs- und Bewertungskonzepte einbeziehen; KI-Systeme unter Berücksichtigung von Fairness-Aspekten entwerfen und Minderungsstrategien (Pre-, In- und Post-Processing) implementieren; unterschiedliche, teils widersprüchliche Auffassungen von Bias und Fairness reflektieren, argumentativ einordnen und diskutieren.

Lehrveranstaltungstyp:

Virtuelle Vorlesung

Interaktionsformen mit Betreuer/in:

Übungsaufgaben für Selbstlernbetrieb, E-Mail, Video-/Webkonferenz

Interaktionsformen mit Mitlernenden:

Forum

Kursdemo:

zur Kursdemo

Nutzung

Kurs ist konzipiert für:

Bachelor

Hochschule München: Data Science; Informatik

TH Nürnberg: Informatik, Medieninformatik, Wirtschaftsinformatik: 6./7. Semester, Fachwiss. Wahlpflichtfach

Formale Voraussetzungen:

Anmeldung im vhb-Kurs

Erforderliche Vorkenntnisse:

Vorkenntnisse zu maschinellem Lernen sind erforderlich; die Grundlagen des maschinellen Lernens sowie zu Large Language Models und Foundation Models werden in Segment 1 des Kurses wiederholt. Empfohlen werden grundlegende Programmierkenntnisse in Python, da die drei praktischen Übungen in Jupyter-Notebooks durchgeführt werden.

Hinweise zur Nutzung:

Der Kurs ist in eine Orientierungseinheit sowie zehn inhaltliche Segmente gegliedert (ca. 2 Std. Vorlesung, 4 Std. Übung und 2–4 Std. Portfolio-Erstellung pro Woche). Die Prüfungsleistung besteht aus einem semesterbegleitenden Portfolio inkl. drei Programmierübungen in Jupyter-Notebooks; eine gesonderte Klausur findet nicht statt. Für Rückfragen zum Kursmaterial steht ein kursspezifischer Chatbot zur Verfügung. Der Kurs wird zweisprachig (Deutsch/Englisch) angeboten.

Kursumsetzung (verwendete Medien):

Kurze, thematisch abgegrenzte Vorlesungsvideos (Screencasts mit Folien) in der Moodle-Instanz der Hochschule München, ergänzt um Literaturhinweise und Diskussionsforen. Nach jeder Vorlesungseinheit bearbeiten die Teilnehmenden eine Portfolio-Aufgabe, teils mit offenen Reflexionsfragen; hinzu kommen praktische Übungen in Jupyter-Notebooks sowie ein eigenständiges Miniprojekt zu einem selbst gewählten Anwendungsfall. Ein eigens entwickelter, auf HM-Servern gehosteter Chatbot unterstützt die selbstständige Arbeit am Kursmaterial und erzeugt u. a. dynamische Quizzes zum Selbsttest. Die Videos wurden zusätzlich in englischer Sprache aufgezeichnet und automatisch untertitelt.

Erforderliche Technik:

Internetfähiger Rechner mit aktuellem Webbrowser, Zugang zu Moodle. Für die praktischen Übungen wird zusätzlich Anaconda mit Jupyter Notebook (Python 3) benötigt.

Nutzungsentgelte:

für andere Personen als (reguläre) Studenten der vhb Trägerhochschulen nach Maßgabe der Benutzungs- und Entgeltordnung der vhb

Rechte hinsichtlich des Kursmaterials:

-

Verantwortlich

Anbieterhochschule:

HAW München (HM)

Anbieter:

Prof. Dr. Anna Kruspe

Autoren:

Mila Stillman

Anna Kruspe

Betreuer:

M.Sc. Mila Stillman

Prüfung

Art der Prüfung:

praktischer Leistungsnachweis

Bemerkung:

Abgabe der Portfolioprüfung bis zum genannten Datum über Moodle

Prüfer:

Prof. Dr. Anna Kruspe

Prüfungsanmeldung erforderlich:

ja

Anmeldeverfahren:

–

Prüfungsanmeldefrist:

–

Prüfungsabmeldefrist:

–

Kapazität:

–

Prüfungsdatum:

31.01.2027

Prüfungszeitraum:

–

Prüfungsdauer:

–

Prüfungsort:

virtuell

Zuständiges Prüfungsamt:

–

Zugelassene Hilfsmittel:

alle, insbesondere Kursmaterialien und -Chatbot

Formale Voraussetzungen für die Prüfungsteilnahme:

–

Inhaltliche Voraussetzungen für die Prüfungsteilnahme:

Grundkenntnisse Maschinelles Lernen und Python; Kenntnisse Large Language Models wünschenswert

Zertifikat:

Ja (Nachweis über die Prüfung)

Anerkennung:

–