Vertrauen in KI stärken: Mit Qualitätskriterien und Prüfverfahren

iStock-1212554542
Ralf Geithe / istockphoto.com

Die künstliche Intelligenz hat das Potential, Wirtschaft und Gesellschaft nachhaltig zu verändern. Sie wird flächendeckend aber nur erfolgreich zum Einsatz kommen, wenn die Gesellschaft sie akzeptiert. Unternehmen erkennen zwar zunehmend die Chancen durch KI – in der Bevölkerung wird künstliche Intelligenz jedoch aufgrund ethischer Bedenken teils kritisch betrachtet. Deshalb sind Regeln und Vorgaben nötig, die sicherstellen, dass u.a. ethische Werte eingehalten werden und die Technologie verlässlich, robust, leistungsfähig und sicher gestaltet wird.

Zertifizierung von KI-Anwendungen gefordert

Um das Vertrauen in KI-Anwendungen zu stärken, sind Qualitätskriterien und Prüfverfahren notwendig. Normen und Standards beschreiben Anforderungen an diese und bilden so die Grundlage für die Zertifizierung von KI-Anwendungen, welche wiederum die Erfüllung dieser Anforderungen bestätigt. Zertifizierungen können so auch die Etablierung einer vertrauenswürdigen Marke „KI made in Europe“ voranbringen und damit die internationale Wettbewerbsfähigkeit Europas im Bereich KI stärken. 

Vielfältige Herausforderungen

Wichtige Qualitätskriterien für eine technische Prüfung sind zum Beispiel Fairness und Nichtdiskriminierung, Transparenz und Interpretierbarkeit, Datenschutz, Verlässlichkeit und Sicherheit. Da es sich bei KI-Anwendungen um lernende und damit sich ständig verändernde Systeme handelt, stellt die Entwicklung von verlässlichen Prüfverfahren eine große Herausforderung dar. Neben Produktprüfungen spielen Prozessprüfungen hierbei eine besonders wichtige Rolle. Darüber hinaus stellt sich die Frage, für welche KI-Anwendungen eine Zertifizierung hilfreich ist. Dies ist insbesondere dann der Fall, wenn selbstlernende KI-Systeme über Menschen, deren Besitz oder Zugang zu knappen Ressourcen entscheiden und ungeplante Probleme in der KI individuelle Grundrechte oder demokratische Werte gefährden können. Eine initiale Kritikalitätsprüfung – beschrieben durch Normen und Standards – kann schnell und rechtssicher klären, ob ein KI-System solche Konflikte überhaupt auslösen kann.    

Chancen nutzen – Lösungen entwickeln

Um eine geeignete Qualitätsinfrastruktur im Bereich KI mit verlässlichen Qualitätskriterien und Prüfverfahren aufzubauen, arbeitet DIN mit unterschiedlichen Partnern an Projekten, die Lösungen für diese Herausforderungen entwickeln.

Projekte und Empfehlungen

Ihr Kontakt

DIN e. V.
Filiz Elmas

Am DIN-Platz
Burggrafenstraße 6
10787 Berlin

Zum Kontaktformular  

Weitere Informationen

  • Fahrplan festlegen. Die Normungsroadmap KI wurde im Auftrag der Bundesregierung erarbeitet und legt den Fahrplan für die Normung und Standardisierung von KI fest.