Presse

2020-11-18

Widerstandsfähige KI

Neue DIN SPEC 92001-2 für die Robustheit von KI-Modulen veröffentlicht

Künstliche Intelligenz (KI) ist eines der wichtigsten Zukunftsthemen. Die Technologie findet in der Wirtschaft zunehmend in hochsensiblen Industriezweigen und Geschäftsbereichen Anwendung und betrifft darüber hinaus auch immer mehr das private Lebensumfeld. Umso wichtiger ist es, dass KI gewisse Qualitätsanforderungen erfüllt, damit sie sicher, ohne Verzerrungen und vor allem stabil funktioniert. Die DIN SPEC 92001-2 „Artificial Intelligence – Life Cycle Processes and Quality Requirements – Part 2: Robustness“ setzt dafür einen Fokus auf die Robustheit von KI-Modulen und definiert entsprechende Anforderungen über deren gesamten Lebenszyklus. KI basiert zumeist auf neuronalen Netzen, diese sind bei der Eingabe und Aufnahme von Daten über sogenannte Input-Datenpunkte jedoch anfällig für Störungen. Bereits kleine Beeinträchtigungen können dazu führen, dass eine KI Probleme nicht mehr hinreichend robust und zuverlässig lösen kann. „Die neue DIN SPEC bietet jetzt sowohl Entwicklern als auch Anwendern pragmatische Richtlinien und Handlungsempfehlungen, mit denen sie ihre KI-Anwendungen analysieren und resistenter gegen verschiedene Störprozesse machen können“, sagt Stephan Hinze, Geschäftsführer der neurocat GmbH und Initiator der DIN-SPEC 92001-2.

Systematisches Risikomanagement
Die DIN SPEC 92001-2 baut auf der DIN SPEC 92001-1 auf, die ein Qualitäts-Metamodell für KI-Module beschreibt, das alle wichtigen Qualitätsaspekte von KI enthält, miteinander in Verbindung bringt und die einzelnen Phasen des KI-Lebenszyklus in den Mittelpunkt stellt. Teil 2 legt nun konkrete Anforderungen für den Aspekt der Robustheit fest. Dabei sollen Künstliche Intelligenzen nach der DIN SPEC auf zweierlei Weise widerstandsfähig sein: Zum einen geht es darum, dass KI gezielten Angriffen standhält, die Fehlfunktionen erzeugen sollen. Zum anderen soll sie robust gegenüber natürlich auftretenden Signalstörungen oder anderen Beeinträchtigungen der Datenqualität sein, die in der Anwendungspraxis häufig vorkommen. Zu diesem Zweck formuliert die DIN SPEC 92001-2 einen systematischen Risikomanagementprozess. Damit sollen Organisationen die allgemeinen Anforderungen für ihre konkreten KI-Risiken ausarbeiten, eine Risikobewertung durchführen und die Robustheit der Anwendungen auswerten. Auf Basis der Ergebnisse können sie dann gezielte Maßnahmen ergreifen, um ihre KI widerstandsfähiger zu machen beziehungsweise ihre Verteidigung zu stärken. „Das Forschungsfeld zur Robustheit von KI-Modulen ist sehr lebendig. Die DIN SPEC 92001-2 strukturiert dieses Feld nun und schafft eine detaillierte technische Grundlage für robuste und damit vertrauenswürdige KI-Anwendungen“, so Hinze.

Die DIN SPEC 92001-2 ist kostenlos erhältlich unter www.beuth.de.


Ihr Ansprechpartner

DIN e. V.

Julian Pinnig

Saatwinkler Damm 42/43
13627 Berlin

Tel.: +49 30 2601-2812

Ansprechpartner kontaktieren  

Weitere Informationen

  • Künstliche Intelligenz. Damit KI-Systeme in Zukunft sicher und verlässlich für uns arbeiten, braucht es Normen und Standards.