Erste Ausgabe der Deutschen Normungsroadmap Künstliche Intelligenz

Wegweisende Ergebnisse und Handlungsempfehlungen

© LightFieldStudios/istockphoto.com

Nach rund einem Jahr intensiver Arbeiten wurden die Ergebnisse der Normungsroadmap KI Ausgabe 1 am 30. November 2020 auf dem Digital Gipfel der Bundesregierung vorgestellt und der Bundesregierung übergeben. Die Ergebnisse der ersten Ausgabe liefern einen umfassenden Überblick über Status Quo, Anforderungen und Herausforderungen sowie Normungs- und Standardisierungsbedarfe zu sieben Schwerpunktthemen rund um Künstliche Intelligenz.

Die rund 300 Expert*innen, die an der ersten Ausgabe der Roadmap mitgewirkt haben, formulierten fünf übergreifende und zentrale Handlungsempfehlungen. Die Umsetzung dieser Handlungsempfehlungen werden dazu beitragen, die deutsche Wirtschaft und Wissenschaft im internationalen Wettbewerb im Bereich der Künstlichen Intelligenz zu stärken und innovationsfreundliche Bedingungen für die Technologie der Zukunft schaffen. Sie zielen zudem darauf ab, Vertrauen in KI aufzubauen.

Die vollständigen Empfehlungen und Handlungsbedarfe sind in der ersten Ausgabe Normungsroadmap KI zu finden. Wenn Sie an der Umsetzung der Handlungsempfehlungen mitwirken möchten, melden Sie sich gerne direkt bei DIN.ONE an.

Die Normungsroadmap KI wird regelmäßig fortgeschrieben und aktualisiert, um sich ändernde Anforderungen zu berücksichtigen. Den Auftakt der Arbeiten zur zweiten Ausgabe gibt eine Veranstaltung am 20. Januar 2022. Fachleute aus Wirtschaft, Zivilgesellschaft, Wissenschaft und öffentlicher Hand sind herzlich eingeladen, sich an der zweiten Ausgabe der Roadmap zu beteiligen.

Sieben Schwerpunktthemen rund um Künstliche Intelligenz

Grundlagen Einblenden

Was ist Künstliche Intelligenz? Wie lassen sich KI-Anwendungen überhaupt beurteilen – und auf Basis welcher ethischen, rechtlichen und technischen Kriterien? Kurz gesagt: Wer über KI diskutieren will, muss erst die Grundlagen klären.

Grundlagen von KI:

  • Terminologien (Begriffsbestimmungen)
  • Klassifikationen (zum Beispiel von KI-Methoden, -Fähigkeiten, -Anwendungen …)
  • Daten (Datenanalysen, Datenformate, Datengüte...)
Ethik/Responsible AI Einblenden

Ob KI-Systeme ethisch sind, oder durch unbeabsichtigte Verzerrungen zur Diskriminierung, Ungerechtigkeit und weiteren Risiken führt, ist einer der größten öffentlichen Diskurse zu diesem Thema. Besonders dort, wo kritische KI-Anwendungen sich auf Leib und Leben auswirken oder hohe finanzielle Schäden entstehen können, müssen diese Gefahren minimiert werden. Wichtig ist aber auch, die Weiterentwicklung der Technologie nicht auszubremsen. Mit Hilfe von Normen und Standards lassen sich ethische Mindestanforderungen für KI-Anwendungen beschreiben und so Vertrauen und Akzeptanz schaffen.

Qualität, Zertifizierung und Konformitätsbewertung Einblenden

Künstliche Intelligenz entfaltet nur dann ihr volles Potenzial, wenn sie qualitativ hochwertig ist. Sie muss verlässlich, robust und leistungsfähig sein und braucht funktionale Sicherheit, damit Vertrauen in sie entsteht. Um das sicherzustellen, sind Qualitätskriterien und Prüfverfahren notwendig. Normen und Standards beschreiben Anforderungen an diese und bilden so die Grundlage für die Zertifizierung und Konformitätsbewertung von KI-Anwendungen.

IT-Sicherheit bei KI-Systemen Einblenden

Ohne umfängliche Sicherheit und Risikominimierung fährt kein Auto, fliegt kein Flugzeug, wird nicht operiert und kein Haus gebaut. Innovationen werden erst dann wirtschaftlich nutzbar, wenn für Sicherheit im Einsatz gesorgt wird. Für KI gilt das ebenso. Eine große Herausforderung für den Einsatz von KI-Systemen durch die Wirtschaft liegt darin, Manipulationen zu verhindern und damit Vertrauen in die Sicherheit und in das KI-System herzustellen. Normen und Standards beschreiben klare Anforderungen dafür.

Industrielle Automation Einblenden

Deutschland ist in der Industrie 4.0 führend. KI kann diese Position ausbauen, und so die wirtschaftliche Leistungsfähigkeit Deutschlands weiter stärken. Insbesondere kann sie die Abläufe und Prozesse in der produzierenden Industrie dynamischer und flexibler machen und so die Wertschöpfung steigern. Diese Chancen müssen jedoch auch genutzt werden – Normen und Standards können dabei helfen, indem sie zum Beispiel Schnittstellen für die Interoperabilität definieren und die Datenqualität bei der Auswahl geeigneter Daten für die Lernverfahren der KI-Systeme sicherstellen.

Mobilität und Logistik Einblenden

KI birgt ein massives Innovationspotenzial für den Bereich Mobilität und Logistik – sie ist die Basis, damit neue Mobilitätslösungen wie autonomes Fahren Realität werden. Doch wie sorgt man dafür, dass KI auf den Straßen sicher ist und keine Gefahr für andere Verkehrsteilnehmer darstellt?

Normen und Standards fördern eine sichere KI-gesteuerte Mobilität:

  • Normen und Standards helfen auf technischer Ebene die Sicherheit von autonom fahrenden Fahrzeugen im Laufe ihrer Inbetriebnahme sicherzustellen. Zum Beispiel indem sie klare Anforderungen an Prüfverfahren beschreibt. 
  • KI-Systeme für Mobilität und Logistik müssen erklär- und validierbar sein. Nur so ist nachvollziehbar, wie sie Entscheidungen im Straßenverkehr treffen. Hierbei unterstützen Normen und Standards.
  • KI-gesteuerte Autos, Lastkraftwagen oder Straßenbahnen – sie alle müssen im Verkehr miteinander interagieren. Damit das funktioniert, brauchen sie Systeme, die zusammenarbeiten können. Einheitlich standardisierte Datenmodelle bilden die Grundlagen für ihre Interoperabilität.
KI in der Medizin Einblenden

KI bringt für die Medizin neue Möglichkeiten in Prävention, Diagnostik und Therapie – von der Früherkennung per App bis zur Behandlung von Krebs. Um diese Chancen zu nutzen, sind sichere Rahmenbedingungen notwendig. Vor allem im Spannungsfeld von Ethik, rechtlichem Rahmen, Ökonomie, technischen Aspekten, aber auch Akzeptanz und Empathie sind noch Herausforderungen zu meistern. Welche Regeln sind nötig, damit die Technik stets dem Menschen dient und nicht andersherum?

Der Erfolg von KI in der Medizin hängt vor allem von folgenden Punkten ab:

  • Wie kann die Verfügbarkeit und Qualität von Gesundheitsdaten für die KI-Entwicklung sichergestellt werden – und gleichzeitig auch der Schutz dieser Daten?
  • Rechtsrahmen: Wer haftet bei Fehldiagnosen oder Schäden? Wie lässt sich selbstlernende KI in Einklang mit dem hochregulierten Zulassungsverfahren bringen?
  • Ethische Fragen: Inwieweit sind Maschinen an medizinischen Entscheidungen beteiligt oder treffen diese sogar selbst?

Zentrale Handlungsempfehlungen

Datenreferenzmodelle für die Interoperabilität von KI-Systemen umsetzen Einblenden

In Wertschöpfungsketten kommen viele unterschiedliche Akteure zusammen. Damit auch die verschiedenen KI-Systeme dieser Akteure automatisiert zusammenarbeiten können, ist ein Datenreferenzmodell nötig, um Daten sicher, zuverlässig, flexibel und kompatibel auszutauschen. Standards für Datenreferenzmodelle aus unterschiedlichen Bereichen schaffen die Grundlage für einen übergreifenden Datenaustausch und stellen damit weltweit die Interoperabilität von Systemen sicher.

Horizontale KI-Basis-Sicherheitsnorm erstellen Einblenden

KI-Systeme sind im Kern IT-Systeme – für letztere gibt es bereits viele Normen und Standards aus verschiedensten Anwendungsbereichen. Um ein einheitliches Vorgehen beim Thema IT-Sicherheit von KI-Anwendungen zu ermöglichen, ist eine übergreifende „Umbrella-Norm“ sinnvoll, die vorhandene Normen und Prüfverfahren für IT-Systeme bündelt und um KI-Aspekte ergänzt. Diese Basis-Sicherheitsnorm kann dann durch Sub-Normen zu weiteren Themen ergänzt werden.

Praxisgerechte initiale Kritikalitätsprüfung von KI-Systemen ausgestalten Einblenden

Wenn selbstlernende KI-Systeme über Menschen, deren Besitz oder Zugang zu knappen Ressourcen entscheiden, können ungeplante Probleme in der KI individuelle Grundrechte oder demokratische Werte gefährden. Damit sich KI-Systeme in ethisch unkritischen Anwendungsfeldern dennoch frei entwickeln lassen, sollte durch Normen und Standards eine initiale Kritikalitätsprüfung gestaltet werden – diese kann schnell und rechtssicher klären, ob ein KI-System solche Konflikte überhaupt auslösen kann.

Nationales Umsetzungsprogramm „Trusted AI“ Einblenden

Bisher fehlen verlässliche Qualitätskriterien und Prüfverfahren für KI-Systeme – das gefährdet das wirtschaftliche Wachstum und die Wettbewerbsfähigkeit dieser Zukunftstechnologie. Es braucht ein nationales Umsetzungsprogramm „Trusted AI“, das die Basis für reproduzierbare und standardisierte Prüfverfahren legt, mit denen Eigenschaften von KI-Systemen wie Verlässlichkeit, Robustheit, Leistungsfähigkeit und funktionale Sicherheit geprüft und Aussagen über die Vertrauenswürdigkeit getroffen werden können. Normen und Standards beschreiben Anforderungen an diese und bilden so die Grundlage für die Zertifizierung und Konformitätsbewertung von KI-Systemen.  Mit einer solchen Initiative hat Deutschland die Chance, ein weltweit erstes und international anerkanntes Zertifizierungsprogramm zu entwickeln.

Use Cases auf Normungsbedarf analysieren und bewerten Einblenden

Die KI-Forschung sowie die industrielle Entwicklung und Anwendung von KI-Systemen sind hoch dynamisch. Bereits heute gibt es viele Anwendungsfälle in den verschiedenen Einsatzfeldern von KI. Über anwendungstypische und branchenrelevante Use Cases lassen sich Standardisierungsbedarfe für industriereife KI-Anwendungen ableiten. Um Normen und Standards zu gestalten, ist es wichtig, wechselseitige Impulse aus Forschung, Industrie, Gesellschaft und Regulierung einzubinden. Im Zentrum dieses Ansatzes sollten die entwickelten Standards entlang von Use Cases erprobt und weiterentwickelt werden. So lassen sich anwendungsspezifische Bedarfe frühzeitig erkennen und marktfähige KI-Standards realisieren.