Gütesiegel für KI-Systeme

Auf eine zufällige Begegnung folgte ein fulminanter Start. Rund um das Thema sichere KI überzeugte das Start-up neurocat längst auch große Konzerne. Eine Geschäftsidee mit Tiefgang.

Auf dem Weg nach oben: Carolin Straub, Stephan Hinze und Florens Greßner.
© DIN

Es war Zufall. Bei einem gemeinsamen Freund begegneten sich Stephan Hinze und Florens Greßner. Hinze, Wirtschaftsingeneur mit 15 Jahren unterneh-merischer Erfahrung im Beteiligungs- und Börsengeschäft und Greßner, 24jähriger Mathematiker, kamen ins Plaudern. Und diskutierten über Künstliche Intelligenz. Das Gespräch am Couchtisch war die Geburt der neurocat GmbH.

Auf die Plauderei im Wohnzimmer folgten intensive Treffen, Workshops. Bald im größeren Kreis. Gemeinsam mit Frank Kretschmer, Felix Assion, Wiebke Günther und Sebastian Kotte gründen Hinze und Greßner zum Jahresende 2017 das Start-up neurocat. Mitten im Gründerzentrum Berlin-Adlershof. Ein Start mit klarem Fokus: Sicherheit und Qualität von Anwendungen mit Künstlicher Intelligenz ist der Nukleus. Stephan Hinze betont: „Wir wollten nicht die x-te KI-Applikation entwickeln, sondern vorhandene Anwendungen absichern.“ Aus gutem Grund: Künstliche Intelligenz beeinflusst Wirtschaft und Gesellschaft in zunehmendem Maße.

Ob autonomes Fahren, Bild- und Mustererkennung in der Medizin, Anwendungen rund um Industrie 4.0 – vieles ist ohne KI nicht möglich. Dabei geht es gelegentlich sogar um existenzielle Fragen, wie beim autonomen Verfahren. Deshalb muss mit Hochdruck an der Zuverlässigkeit, Sicherheit und der Resilienz von KI-Systemen gearbeitet werden.

Für Stephan Hinze ist klar: Cyber-Attacken auf KI-Systeme sind besonders gefährlich, weil aufgrund der extremen Komplexität dieser Applikationen Verhaltensanomalien nicht sofort auffallen müssen. Und Florens Greßner ergänzt:

„Es gibt im Netz eine Fülle von Anleitungen, die die KI ganz schön dumm aussehen lassen.“

Deshalb bietet neurocat seinen Kunden branchenübergreifend an, deren Systeme zu überlisten und zu testen, um so Schwachstellen zu entdecken und mögliche Einfallstore zu identifizieren. Florens Geßner betont: „Anders als in der klassischen Softwareentwicklung suchen wir nicht den Bug im Code. Vielmehr analysieren wir die mathematischen Funktionen im Hintergrund auf Robustheit, Leistungsfähigkeit und Nachvollziehbarkeit.“

Die Experten von neurocat verharren dabei nicht in der Theorie, sondern verifizieren die optimierten Systeme in der Praxis. Damit beispielsweise die schiefsitzende Mütze eines Passanten die Sensoren eines autonomen Autos nicht mehr täuscht. Das Ziel hierbei ist es, durch die frühzeitige Erkennung von Schwachstellen, Kosten in der Fehlerbeseitigung einzusparen

Welchen Nutzen die Dienste von neurocat stiften, haben bereits zahlreiche Unternehmen erkannt. Einer der größten Automobilkonzerne sowie Firmen aus Industrie und Medizintechnik verlassen sich auf die Tools der Berliner. Und neurocat wächst so konsequent mit seinen Aufgaben. Waren Anfang 2019 zwei Dutzend Mitarbeiter an Bord, will Stephan Hinze in den nächsten Monaten 45 neue Planstellen mit talentierten Menschen besetzen.

Als wäre das rasante Wachstum nicht schon anspruchsvoll genug, engagiert sich neurocat mit Leidenschaft für allgemeingültige Standards bei DIN.

„Wir wollen ein Gütesiegel für KI-Systeme“,

formuliert Stephan Hinze das ehrgeizige Ziel. Deshalb haben die Berliner Tüftler nicht nur die Erarbeitung einer DIN SPEC nach dem PAS-Verfahren initiiert, sondern stellen mit Dr. Tarek R. Besold auch den Obmann des DIN-Ausschusses für künstliche Intelligenz.

Den Grund für diesen Einsatz bringt Hinze auf den Punkt: „Wir wollen am Hebel sitzen und auch als kleines Unternehmen unseren Einfluss geltend machen. Unser Motto lautet mitgestalten, nicht zuschauen.“ Dabei kommt auch gleich das Stichwort Maschinenethik ins Spiel. Dazu meint Christoph Winterhalter, CEO von DIN:

„Die Frage der Datenethik und Regelauslegung bei KI muss europäischen Maßstäben entsprechen. Deshalb müssen wir dieses Feld aktiv selbst gestalten und dürfen das Terrain nicht anderen überlassen. Wir brauchen eine systemische und dynamische Herangehensweise und eine Betrachtung des Lebenszyklus.“

Genau das ist der Anspruch der rund 30 Experten im Arbeitsausschuss Künstliche Intelligenz (NA 043-01-42).

Ziel ist es, mit der DIN SPEC Vertrauen bei allen Akteuren zu schaffen. Hinze: „Qualität bekommt im Kontext von KI eine ganz neue Dimension.“ Wie die aussieht, erarbeitet derzeit der Ausschuss. Klar ist, dass dabei der gesamte Lebenszyklus betrachtet wird. Zumal die der KI innewohnende Fähigkeit zum selbst Lernen eine dynamische Betrachtung erfordert. Der TÜV-Stempel im fixen Rhythmus ist nicht mehr angesagt. Nach dem Kick-off des Ausschusses im Mai 2018 sind die Experten bereits im Endspurt. Bis im Mai 2019 soll der Prozess abgeschlossen sein. Und die DIN SPEC dann Grundlage für weitere Standardisierungen auf internationaler Ebene sein und auch bei der VDA-Leitinitiative für Künstliche Intelligenz wegweisend sein. Stephan Hinze glaubt, dass dies klappt. Er meint schmunzelnd: „Wer schreibt, der bleibt.“

Ihr Ansprechpartner

DIN e. V.

Katharina Sehnert

Saatwinkler Damm 42/43
13627 Berlin

Ansprechpartner kontaktieren  

Weitere Informationen