Vertrauen in KI stärken: Mit Qualitätskriterien und Prüfverfahren

iStock-1212554542
Ralf Geithe / istockphoto.com

Die künstliche Intelligenz hat das Potential, Wirtschaft und Gesellschaft nachhaltig zu verändern. Sie wird flächendeckend aber nur erfolgreich zum Einsatz kommen, wenn die Gesellschaft sie akzeptiert. Unternehmen erkennen zwar zunehmend die Chancen durch KI – in der Bevölkerung wird künstliche Intelligenz jedoch aufgrund ethischer Bedenken teils kritisch betrachtet. Deshalb sind Regeln und Vorgaben nötig, die sicherstellen, dass u.a. ethische Werte eingehalten werden und die Technologie verlässlich, robust, leistungsfähig und sicher gestaltet wird.

Zertifizierung von KI-Anwendungen gefordert

Um das Vertrauen in KI-Anwendungen zu stärken, sind Qualitätskriterien und Prüfverfahren notwendig. Normen und Standards beschreiben Anforderungen an diese und bilden so die Grundlage für die Zertifizierung von KI-Anwendungen, welche wiederum die Erfüllung dieser Anforderungen bestätigt. Zertifizierungen können so auch die Etablierung einer vertrauenswürdigen Marke „KI made in Europe“ voranbringen und damit die internationale Wettbewerbsfähigkeit Europas im Bereich KI stärken. 

Vielfältige Herausforderungen

Wichtige Qualitätskriterien für eine technische Prüfung sind zum Beispiel Fairness und Nichtdiskriminierung, Transparenz und Interpretierbarkeit, Datenschutz, Verlässlichkeit und Sicherheit. Da es sich bei KI-Anwendungen um lernende und damit sich ständig verändernde Systeme handelt, stellt die Entwicklung von verlässlichen Prüfverfahren eine große Herausforderung dar. Neben Produktprüfungen spielen Prozessprüfungen hierbei eine besonders wichtige Rolle. Darüber hinaus stellt sich die Frage, für welche KI-Anwendungen eine Zertifizierung hilfreich ist. Dies ist insbesondere dann der Fall, wenn selbstlernende KI-Systeme über Menschen, deren Besitz oder Zugang zu knappen Ressourcen entscheiden und ungeplante Probleme in der KI individuelle Grundrechte oder demokratische Werte gefährden können. Eine initiale Kritikalitätsprüfung – beschrieben durch Normen und Standards – kann schnell und rechtssicher klären, ob ein KI-System solche Konflikte überhaupt auslösen kann.    

Chancen nutzen – Lösungen entwickeln

Um eine geeignete Qualitätsinfrastruktur im Bereich KI mit verlässlichen Qualitätskriterien und Prüfverfahren aufzubauen, arbeitet DIN mit unterschiedlichen Partnern an Projekten, die Lösungen für diese Herausforderungen entwickeln.

Ihre Ansprechperson

DIN e. V.
Frau

Filiz Elmas

Saatwinkler Damm 42/43
13627 Berlin

Zum Kontaktformular  

Weitere Informationen

  • Fahrplan festlegen. Die Normungsroadmap KI wurde im Auftrag der Bundesregierung erarbeitet und legt den Fahrplan für die Normung und Standardisierung von KI fest.

Projekte und Empfehlungen

Normungsroadmap KI Einblenden

In der Normungsroadmap KI, die Ende November 2020 veröffentlicht wurde, empfehlen die rund 300 mitwirkenden Experten eine nationale Umsetzungsprogramm für die Zertifizierung von KI-Anwendungen. Eine solche Initiative soll die Basis für reproduzierbare und standardisierte Prüfverfahren legen, mit denen sich Eigenschaften von KI-Systemen überprüfen lassen. Normen und Standards beschreiben Anforderungen an diese Prüfverfahren. Mit einer solchen Initiative hätte Deutschland die Chance, ein weltweit erstes und international anerkanntes Zertifizierungsprogramm zu entwickeln. Die Experten empfehlen, anhand von Anwendungsfällen Prüfgrundlagen zu testen, Pilotprüfungen zu absolvieren und daraus Standards abzuleiten. Das wären sowohl Produktprüfungen als auch Managementsystemprüfungen. Produktprüfung meint, dass ein Prüfverfahren die zugesicherten Eigenschaften eines KI-Systems testet und im Idealfall bestätigt. Bei einer Managementsystemprüfung werden die Maßnahmen der Organisation bewertet, die ein KI-System bereitstellt.

Mehr Informationen zur Normungsroadmap

Projekt „Zertifizierte KI“ Einblenden

Unter dem Titel „Zertifizierte KI“ ist im März 2021 ein Projekt der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen KI.NRW gestartet. Geleitet wird das Projekt durch das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, beteiligt sind das Bundesamt für Sicherheit in der Informationstechnik (BSI), DIN, die Universitäten Bonn und Köln, der RWTH Aachen sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie und Handel. Das Ministerium für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen fördert das Projekt.

Ziel des 5-jährigen Projekts ist es, Prüfkriterien, -methoden und -werkzeuge für KI-Systeme zu entwickeln und zu standardisieren, und so eine vergleichbare Bewertung von KI-Systemen zu ermöglichen. Durch eine Überprüfbarkeit von technisch zugesicherten Eigenschaften soll das Vertrauen von Anwendern und Verbrauchern in KI-Technologien gesteigert werden.

In branchen- und technologiebezogenen Anwenderkreisen werden die Beteiligten aus Wirtschaft und Industrie sowie Wissenschaft konkrete Bedarfe definieren, Kriterien und Maßstäbe für eine Prüfung in der Praxis festlegen und anhand von Use Cases verifizieren. Mit einem breiten Beteiligungsprozess soll sichergestellt werden, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig rechtliche, ethische und philosophische Betrachtungen berücksichtigt werden.

Als ausgewiesener Experte in der Standardisierung wird DIN dabei unterstützen, für industriespezifische Anwendungsfälle sogenannte Anwenderkreise zu initiieren und zu koordinieren. In weiteren Workshops werden darüber hinaus weitere Fachleute eingebunden, um die Projektergebnisse unter breiter Beteiligung vorzustellen und zu diskutieren. DIN wird zudem dafür Sorge tragen, dass die diskutierten Anwendungsfälle und die ermittelten Bedarfe in entsprechende Anforderungen an eine vertrauenswürdige Nutzung von KI übersetzt werden. Auf Grundlage der Projektergebnisse wird DIN die Entwicklung von Standards (insbesondere DIN SPECs) initiieren und die Ergebnisse in die internationale Normung und Standardisierung einbringen.

Gefördert durch:

Ministerium-NRW