Kurzreferat

Dieses Dokument ist anwendbar auf KI Anwendungen im Kontext von Finanzdienstleistungen. Dieses Dokument legt folgendes fest: - Einen Prozess zur Ermittlung geeigneter Auffassungen und Metriken von Fairness (von KI Anwendungen) im Finanzsektor; - Ein konkretes Fairnessverständnis kann von Person zu Person oder je nach Situation abweichen und somit nicht allgemeingültig formuliert werden; *Dazu wird ein Grundgerüst für anwendungs- und situationsspezifische Messungen und Begründungen im Kontext der Finanzdienstleistungen in der Praxis vorgeschlagen, inklusive: *Eine Begründung für die Verwendung von Konzepten wie Gleichbehandlung, Gleichberechtigung, Gleichstellung, *Relevante Aspekte einer guten Messung und Begründung aller verwendeten Konzepte, *Bewertung der Verhältnismäßigkeit bezüglich der Aufwände und Ergebnisse, *Umgang mit den Messergebnissen (Bewertung, Erklärung, Kommunikation, Handlungsbedarfe), *Akzeptable Rahmenbedingungen für Ungleichbehandlung; - Methodensammlung zur Operationalisierung der identifizierten Auffassungen (z.B., über Fairnessmaße). Identifizierung der jeweiligen Stärken, Schwächen und Einschränkungen der Operationalisierungsansätze; - Exemplarische Veranschaulichung des Prozesses anhand relevanter Anwendungsfälle. Des Weiteren beschränkt sich dieses Dokument im Kontext seiner Anwendungsfälle auf: - Klassifizierungssysteme (Ausschluss von Scorern und generativen Systemen), - Gruppenfairnessmaße (Ausschluss von individueller Fairness und alternativen Fairnessbemessungen). Dieses Dokument beschreibt keine Prozesse zur Anpassung von KI-basierten Systemen, um Anforderungen bezüglich Fairness gerecht zu werden.

Beginn

2024-03-25

Geplante Dokumentnummer

DIN SPEC 91512-1

Projektnummer

62016643