2021-04-01

Neuer Technischer Report zur Verbesserung der Vertrauenswürdigkeit von KI

KI-Technologien durchdringen zunehmend alle Lebensbereiche unseres Alltags und treiben die digitale Transformation der Industrie voran. Gleichzeitig steigen die Risiken durch fehlerhafte KI-Systeme, Datenmissbrauch oder Cyberangriffe. Das macht es notwendig, neue und bestehende KI-Systeme zu validieren mit dem Ziel, das Vertrauen in sie zu stärken und sie verlässlich für uns arbeiten zu lassen. Ein besonderes Augenmerk liegt dabei auf der Robustheit, also der Fähigkeit eines KI-Algorithmus, Daten zu generalisieren.

Zur Unterstützung der Validierung von KI-Systemen ist nun der neue Technische Report 24029-1 „Künstliche Intelligenz - Bewertung der Robustheit neuronaler Netze - Teil 1: Übersicht“ veröffentlicht worden. Er betrachtet die Robustheit von KI-Systemen und bietet einen Überblick über die verfügbaren Ansätze und Methoden zur Bewertung von Problemen und Risiken im Zusammenhang mit Robustheit. Ein besonderer Schwerpunkt liegt auf neuronalen Netzen, deren Funktionsweise und Verwendbarkeit.

Dieses Dokument soll einen Überblick über die verfügbaren Ansätze zur Bewertung von Risiken bezüglich der Robustheit von KI Systemen geben, wobei der Schwerpunkt auf neuronalen Netzen liegt, die in der Industrie, in öffentlichen Institutionen und im akademischen Bereich stark genutzt werden.

Es stellt einen typischen Prozessablauf (Workflow) zur Bestimmung der Robustheit neuronaler Netzwerke dar und beschreibt Methoden und Metriken, die für die verschiedenen Testarten anwendbar sind, d.h. statistische, formale und empirische Methoden.

Veröffentlicht wurde der Technische Report vom Subcommittee SC 42, das innerhalb des Joint Technical Committee 1 von ISO und IEC für die internationale Normung von Künstlicher Intelligenz zuständig ist. Daran beteiligt waren auch Experten des DIN-Arbeitsausschusses „Künstliche Intelligenz“ (NA 043-01-42 AA), der die internationalen Arbeiten spiegelt.

Der Report ist Teil einer Serie, die sich mit Robustheit von neuronalen Netzen beschäftigt. Der zweite Teil der Reihe, geplant als internationale Norm und momentan in Erarbeitung, enthält Richtlinien für die Verwendung formaler Methoden zur Bewertung der Robustheitseigenschaften neuronaler Netze. Die internationale Norm zielt darauf ab, Organisationen bei der Verifizierung und Validierung von KI-Anwendungen, die auf neuronalen Netzen basieren, zu unterstützen. Der Technische Report 24029-1 ist über den Beuth Verlag verfügbar. Mehr zum Thema KI bei DIN finden Interessierte auch hier.

Ihr Kontakt

DIN e. V.

Katharina Sehnert

Am DIN-Platz
Burggrafenstraße 6
10787 Berlin

Zum Kontaktformular