Zweite Ausgabe der Deutschen Normungsroadmap KI

Fortschreibung der wegweisenden Ergebnisse und Handlungsempfehlungen der ersten Ausgabe

© pinkeyes/stock.adobe.com

Nach knapp einem Jahr intensiver Arbeiten wurde die 2. Ausgabe der Normungsroadmap KI am 09. Dezember 2022 auf dem Digital-Gipfel der Bundesregierung an Vizekanzler und Bundesminister Robert Habeck übergeben und anschließend veröffentlicht. Die Roadmap schreibt die Ergebnisse der ersten Ausgabe fort und liefert eine erweiterte und aktualisierte Analyse des Bestands und des Bedarfs an internationalen Normen und Standards für KI. Somit wird eine Grundlage gebildet um „Artificial Intelligence made in Germany“ als weltweit anerkanntes Gütesiegel für eine vertrauenswürdige Technologie zu schaffen. Die Roadmap ist Teil der KI-Strategie der Bundesregierung und erfolgt im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK). Die Erarbeitung und Verstetigung der Roadmap wird von einer  hochrangigen Koordinierungsgruppe zur KI-Normung und -Konformität mit Mandat der Bundesregierung begleitet.

Fortschreibung

Unter aktiver Mitwirkung von mehr als 570 Fachleuten aus Wirtschaft, Wissenschaft, Zivilgesellschaft und Politik wurden 6 übergreifende Handlungsempfehlungen und mehr als 100 Normungsbedarfe formuliert. Dabei setzt die zweite Ausgabe neben den bisherigen Schwerpunktthemen Grundlagen, Sicherheit, Prüfung/Zertifizierung, Industrielle Automation, Mobilität sowie Medizin auch auf die neuen Themenbereiche Soziotechnische Systeme, Finanzdienstleistungen und Umwelt/Energie.

Im Fokus der Arbeiten stand dabei der im Frühjahr 2021 von der EU-Kommission veröffentlichte Entwurf einer Verordnung zur KI-Regulierung (Artificial Intelligence Act), der Normen und Standards im Bereich der Hochrisiko-KI-Anwendungen eine zentrale Rolle zuweist: Anforderungen an KI-Systeme, u.a. an Transparenz, Robustheit und Genauigkeit, sollen durch harmonisierte Europäische Normen technisch konkretisiert werden. So identifiziert die zweite Ausgabe auch konkrete Bedarfe für Normen und Standards, die in Umsetzung des geplanten AI Acts der Europäischen Kommission zu erarbeiten sind.

Ergebnispräsentation und Kick-off der Umsetzung der zweiten Ausgabe 

In einer kostenfreien virtuellen Veranstaltung am 26. Januar 2023, 10:00-12:30 Uhr, präsentieren DIN und DKE nun gemeinsam mit dem Bundesministerium für Wirtschaft und Klimaschutz (BMWK) die Ergebnisse der zweiten Ausgabe und informieren über die Mitwirkungsmöglichkeiten zur praktischen Umsetzung der Ergebnisse. 
Ausführliche Informationen zur Veranstaltung und Registrierung finden Sie unter: www.din.de/go/ergebnispraesentation-nrm-ki.

Mitwirkung zur Umsetzung der Ergebnisse erwünscht

Für die Umsetzung der Ergebnisse und aktiven Begleitung der nun anstehenden Normungsarbeiten freuen sich DIN und DKE über interessierte Expert*innen aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft. Die Umsetzung wird dazu beitragen, die deutsche Wirtschaft und Wissenschaft im internationalen Wettbewerb im Bereich der Künstlichen Intelligenz zu stärken und innovationsfreundliche Bedingungen für die Technologie der Zukunft schaffen. Sie zielt zudem darauf ab, Vertrauen in KI aufzubauen.

Interessierte Fachleute können sich auf der Kollaborationsplattform DIN.ONE für eine Mitarbeit registrieren.


Neun Schwerpunktthemen rund um Künstliche Intelligenz

Grundlagen Ausblenden

Als Querschnittstechnologie bietet Künstliche Intelligenz großes Potenzial in vielen Branchen und Bereichen. Die Basis hierfür ist eine zuverlässige, funktionale und vor allem sichere KI. Die Normungsroadmap betrachtet Terminologien und bedeutsame Anwendungsgebiete wie Sprachtechnologien, bildgebende Sensorik, Quanten-KI und beschreibt KI-Methoden und -Fähigkeiten. Zudem werden ethische Prinzipien, Datenqualität und weitere Kriterien behandelt. All diese Themen sind die Grundlage für ein einheitliches Verständnis Künstlicher Intelligenz und lassen sich in Normen und Standards abbilden. Das fördert die Interoperabilität und das Zusammenwirken unterschiedlicher Systeme.

Sicherheit Einblenden

KI-Systeme müssen mehrfach sicher sein: Menschen, die mit einem KI-System interagieren, müssen geschützt sein (Safety). Außerdem dürfen die verwendeten Daten nicht missbraucht werden (Security). Nur eine tiefergehende Betrachtung der Sicherheit von KI-basierten Technologien und Anwendungen ermöglicht es, diese umfassend in Wirtschaft und Gesellschaft einzusetzen. Derzeit besteht bei autonomen KI-Systemen noch die Herausforderung, Sicherheit für Leib und Leben nachweisen zu können. Die Normungsroadmap beschreibt eine Herangehensweise, um das Marktpotenzial entsprechender Anwendungen auszuschöpfen und die notwendige Risikoreduktion zu erreichen. Außerdem trägt sie dazu bei, das Marktpotential entsprechender Anwendungen auszuschöpfen und insbesondere die Schnittstellen zwischen Ethik, Recht und Technik bei safety zu gestalten. KI braucht zudem Vertrauen in Cybersecurity und Privacy. Prüfungen und Zertifizierungen können dazu beitragen, Normen und Standards sind wiederum Grundlage für Prüfungen und Zertifizierungen: Hier steht der Lebenszyklus der verwendeten Daten oder Algorithmen für KI-Systeme im Fokus.

Prüfung und Zertifizierung Einblenden

KI-Systeme unterscheiden sich in vielerlei Hinsicht von herkömmlicher Software - Daten und Algorithmen nehmen eine viel zentralere Rolle ein. So sieht der geplante AI Act Prüfungen für KI-Anwendungen vor, die ein hohes Risiko für Gesundheit, Sicherheit oder Persönlichkeitsrechte haben können. Insbesondere der Qualitätsanspruch beispielsweise an die technische Zuverlässigkeit sowie die Erklärbarkeit und Nachvollziehbarkeit der KI-Anwendungen ist hier ganz zentral. Um das Vertrauen in KI-Anwendungen zu stärken, sind Qualitätskriterien und Prüfverfahren notwendig, die KI-Systeme technisch beschreiben und messbar machen. Normen und Standards beschreiben Anforderungen an Kriterien und Verfahren (etwa hinsichtlich der Qualität, der Sicherheit und Transparenz) und sind damit Grundlage für die Zertifizierung von KI-Anwendungen. Zertifizierungen können so auch die Etablierung einer vertrauenswürdigen Marke „KI made in Europe“ voranbringen und damit die internationale Wettbewerbsfähigkeit Europas im Bereich KI stärken. Die Normungsroadmap empfiehlt, hierfür einen horizontalen KI-Qualitätsstandard zu entwickeln, der die Basis für weitere branchenspezifische Prüfungen und Zertifizierungen sein kann.

Soziotechnische Systeme Einblenden

KI steht immer im Kontext zum Menschen und zum organisatorischen Umfeld. Für erfolgreiche KI-Lösungen darf es deshalb nicht nur den Blick auf die Technologie geben. Vielmehr ist auch das soziotechnische System zu betrachten, in dem Künstliche Intelligenz eingesetzt wird und mit dem Menschen in Wechselwirkung steht. Ziel ist es, die Bedürfnisse der Nutzer*innen zu erkennen und die KI so zu gestalten, dass sie die Nutzer*innen bestmöglich bei ihren Aufgaben unterstützt. Insbesondere kleinen und mittelständischen Unternehmen sowie Start-ups soll es ermöglicht werden, KI-Technologien in ihre Geschäftsmodelle zu integrieren. Aufgabe der Normung ist es, alle relevanten Personengruppen und Blickwinkel unter Berücksichtigung soziotechnischer Aspekte einzubeziehen. Im Verordnungsentwurf des AI Act spielen unter anderem die menschliche Aufsicht und Eingriffsmöglichkeit sowie die Transparenz in KI-Systemen bedeutende Rollen. Technische und soziale Komponenten sind deshalb vom Menschen aus zu denken und bei der Entwicklung darauf
auszurichten.

Industrielle Automation Einblenden

Künstliche Intelligenz ist eine Schlüsseltechnologie, wenn es um die digitale Transformation des produzierenden Gewerbes geht. Eine wichtige Funktion wird dabei der digitalen Abbildung der physischen Realität zugeschrieben, dem digitalen Zwilling. Die Normungsroadmap stellt aktuelle Herausforderungen im Zusammenhang mit Datenmodellen für den Einsatz von KI in der industriellen Automation dar. Die Roadmap befasst sich außerdem damit, wie Mensch und Maschine interagieren und wie sich KI-Systeme integrieren lassen. In der industriellen Automation sind Normen und Standards essenziell: Sie fördern die unternehmensübergreifende Interoperabilität und helfen dabei, regulatorische Rahmenbedingungen umzusetzen.

Mobilität Einblenden

Im Mobilitätssektor bietet der Einsatz Künstlicher Intelligenz viele Vorteile – beispielsweise, wenn selbstlernende Systeme komplexe automatisierte Steuerungsfunktionen übernehmen sowie Verkehrsströme oder Mobilitätsketten optimieren. Normen und Standards für den Mobilitätsbereich können
unter anderem:

  • eine Grundlage zur Operationalisierung des geplanten Europäischen AI Acts bilden, in dem sie objektive Methoden zur prüfbaren Entwicklung nach „Trustworthiness-by-Design“ ermöglichen
  • die dynamische, kontinuierliche (Re-)Zertifizierung beziehungsweise Typzulassung im Sinne einer kontinuierlichen Systementwicklung unterstützen
  • Schnittstellen und Mindestanforderungen für die Interoperabilität, den Datenaustausch sowie die Trustworthiness und safety bei automatisierten Mobilitätssytemen festlegen
Medizin Einblenden

Aus der Medizin der Zukunft wird KI nicht mehr wegzudenken sein – ob bei Diagnose, Therapie, Früherkennung oder im Pflegealltag.
Zugleich ist der Einsatz der Technologie in diesem Bereich herausfordernd: Es geht nicht nur um die Gesundheit und persönliche Daten, sondern auch darum, Menschen schnell und sicher am medizinischen Fortschritt teilhaben zu lassen.
Normen und Standards können helfen

  • die Nutzbarkeit und Verwertbarkeit von Daten für KI basierte Systeme in der Medizin zu erhöhen
  • die Leistungsfähigkeit und Sicherheit KI- basierter Medizinprodukte zu überprüfen
  • Vertrauen und Akzeptanz bei Anwender*innen und Patient*innen zu schaffen
  • die Qualitätsinfrastruktur regulatorischer Rahmenbedingungen für KI in Medizinprodukten effizient umzusetzen
Finanzdienstleistung Einblenden

Money makes the world go round: Finanzdienstleistungen sichern soziale Teilhabe für alle und sind zugleich anspruchsvolle und hoch sensible Produkte – besonders in einer digitalisierten Welt. Bargeld wird schon seit langem durch reine Datenströme ersetzt, wie geschaffen für die Nutzung Künstlicher Intelligenz. Wie lassen sich die neuen Möglichkeiten verantwortungsvoll nutzen, ohne die Risiken zu übersehen? Können Modelle für das Kundenverhalten zu Datenlecks werden? Welche Daten dürfen für Entscheidungsmodelle verwendet werden, und wie bestimmt man, wann genügend Informationen für faire Entscheidungen verfügbar sind? Wie finden sich KI-Modelle im klassischen Risikomanagement der Banken wieder? Das zu beantworten, wird durch Normen und Standards wesentlich vereinfacht.

Energie/ Umwelt Einblenden

Energie ist Teil der kritischen Infrastruktur, insbesondere die Energiewende ist ein wichtiges politisches Thema. Wirtschaftlichkeit, Versorgungssicherheit, Klimaschutz und die Umstellung auf erneuerbare Energien stehen zugleich auf der Agenda. Künftig werden intelligente Stromnetze – Smart Grids – immer wichtiger. Sie verbinden Energietechnik mit Informations- und Kommunikationstechnologien. In dieses System aus Datenmodellen und Systemarchitekturen muss sich Künstliche Intelligenz integrieren. KI ist darüber hinaus ein bedeutendes Instrument, um die von den Vereinten Nationen definierten 17 Ziele für nachhaltige Entwicklung zu erreichen. KI bietet Nutzungspotenziale im Kontext des European Green Deal. Mithilfe Künstlicher Intelligenz lassen sich beispielsweise sektorübergreifend Verhaltensempfehlungen für Marktakteur*innen und Verbraucher*innen entwickeln, um den ökologischen Fußabdruck zu minimieren. KI kann im Umweltbereich zudem ein Werkzeug für mehr Ressourceneffizienz in der Industrie sowie zur Verarbeitung großer Datenmengen in verschiedenen Wirtschaftssektoren sein. Normung leistet dabei einen Beitrag zum Umbau Deutschlands hin zum klimaneutralen Industrieland.

Zentrale Handlungsempfehlungen

Horizontales Konformitätsbewertungs- und Zertifizierungsprogramm für vertrauenswürdige KI Ausblenden

Wie lassen sich die Anforderungen von Wirtschaft, Behörden und Zivilgesellschaft an KI objektiv überprüfbar machen? Für das wirtschaftliche Wachstum und die erfolgreiche Nutzung von KI-Systemen unter Berücksichtigung der europäischen Wertevorstellungen braucht es ein Konformitätsbewertungs- und Zertifizierungsprogramm. Anhand von verlässlichen und reproduzierbaren Prüfungen werden Aussagen zur KI-Vertrauenswürdigkeit belastbar.

Dateninfrastrukturen und -qualitätsstandards zur Entwicklung und Validierung von KI-Systemen aufsetzen Einblenden

Die Qualität eines KI-Systems hängt oft von der Qualität der verwendeten Daten ab. Inwiefern die deutsche KI-Industrie und insbesondere Start-ups auf entsprechende Datensätze zugreifen können, ist somit ein strategischer Wettbewerbsfaktor. Deshalb sind geeignete Infrastrukturen erforderlich, die Datensätze sammeln, beschreiben und bereitstellen. Normen und Standards stellen Interoperabilität sicher und legen Anforderungen an die Qualität fest.

Den Menschen in allen Phasen des KI-Lebenszyklus als Teil des Systems begreifen Einblenden

Welche Transparenz ist in welchem Kontext für welche Zielgruppe ausreichend? Wie lässt sich bei KI-Systemen die menschliche Aufsicht umsetzen? Und welche Informationen müssen als Grundlage für menschliche Eingriffe ins System vorhanden sein? All das sind Fragen, die vom Menschen aus zu denken und wonach die technischen und sozialen Komponenten zu entwickeln und auszurichten sind. In Leuchtturmprojekten ist konkret zu erproben, wie sich betroffene und beteiligte Menschen in alle Phasen des KI-Lebenszyklus einbinden lassen. Begleitend sind Normen für die soziotechnischen Aspekte des geplanten AI Act zu erarbeiten – hier kommt es besonders darauf an, dass alle relevanten Zielgruppen ausgewogen beteiligt sind. Zudem sollte die in der Normung bislang unterrepräsentierte soziotechnische Perspektive durch Fachleute ausgebaut werden.

Vorgaben für die Konformitätsbewertung lernender Systeme im Bereich der Medizin erarbeite Einblenden

Lernende KI-Systeme in der Medizin können beispielsweise über neue Trainingsdaten, Informationen von Fehlverhalten und gewonnen Korrekturen kontinuierlich verbessert werden. Gleichzeitig müssen die entsprechend hohen Sicherheitsansprüche erfüllt werden. Dies erfordert eine (Re-)Konformitätsbewertung mit geeigneten Prüfverfahren. Um den Marktzugang für derartige Prüfverfahren zu ebnen, fordert die Roadmap Randbedingungen zu spezifizieren, die eine automatisierte Freigabe von kontinuierlich lernenden Systemen zulässt. Hierfür wird die Initiierung von medizinspezifischen Teilprojekten unter Zusammenarbeit der relevanten Akteur*innen empfohlen, um die Projektergebnisse in Normen, Standards und allgemein praktizierbare Prüfverfahren zu überführen.

Über Best Practices sichere und vertrauenswürdige KI-Anwendungen in der Mobilität entwickeln Einblenden

Der Einsatz von KI-Technologien im Kontext der Mobilität ist gekennzeichnet durch komplexe Randbedingungen: Interagiert wird mit einer sich stetig ändernden Umwelt und vielen weiteren Akteur*innen. Fehlfunktionen können hohe Risiken für Mensch und Umwelt haben. Deshalb sind vertrauenswürdige KI-Systeme wichtig: Der geplante AI Act gibt verschiedene Aspekte von Vertrauenswürdigkeit (Trustworthiness)vor. Diese sind anhand von Normen und Standards über den gesamten Lebenszyklus eines KI-Systems zu konkretisieren. Ein Best Practice-Katalog sollte dabei unterstützen, die Systeme im Betrieb effizient zu entwickeln und abzusichern. Die Roadmap empfiehlt außerdem, Normen und Standards zu erarbeiten, die Mindestanforderungen definieren, insbesondere an Safety und an wesentliche Vertrauensaspekte.

Übergreifende Datenstandards und dynamische Modellierungsverfahren erarbeiten Einblenden

Um Datensystemgrenzen zu überwinden und Referenzverfahren zu entwickeln, braucht es Normen und Standards. Die Normungsroadmap
empfiehlt dafür folgende Pilotprojekte:

  • Aufbau einer gemeinsamen Terminologie, Semantik, Taxonomie sowie darauf gestützte Datenmappings und -schemata in den Domänen Materialwissenschaften/Bauwesen zur Ermittlung von Energieeffizienz und Umweltwirkungen
  • Entwicklung eines branchenunabhängigen Kommunikationsformats, um den Energie- und Ressourcenverbrauch von Gütern und Dienstleistungen zu bestimmen
  • Entwicklung einer Methodik zur Beurteilung der Laufzeit, Akkuranz und Nachhaltigkeitsgüte von KI-Systemen

Gesteuert und begleitet werden die Arbeiten an der Normungsroadmap KI von einer hochrangigen Koordinierungsgruppe.

Finger Roboter berührt Finger eines Menschen

Ethikaspekte in der Normung und Standardisierung für Künstliche Intelligenz in autonomen Maschinen und Fahrzeugen.

DIN und DKE haben im Auftrag des BMWK die zweite Ausgabe erstellt und zum Digitalgipfel 2022 an Wirtschaftsminister Robert Habeck übergeben.

DIN_Normungsroadmap-KI_Statement-Schabhueser_12-01-2021_Bild-Post
Dr. Gerhard Schabhüser vom Bundesamt für Sicherheit in der Informationstechnik war als ständiger Gast der Steuerungsgruppe an der Erarbeitung der Normungsroadmap KI beteiligt.
DIN_Normungsroadmap-KI_Statement-Dehmel_12-01-2021_Bild-Post
Der Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e. V. (Bitkom) vertritt mehr als 2.600 Unternehmen der digitalen Wirtschaft in Deutschland.
DIN_Normungsroadmap-KI_Statement-Hildesheim1_04-12-2020_Bild-Post
Dr. Wolfgang Hildesheim von IBM Deutschland engagierte sich als Mitglied der Steuerungsgruppe für die Normungsroadmap KI von DIN und DKE.

Förderung