Was darf KI, und wer trifft künftig wichtige Entscheidungen – das sind zentrale Fragen in der aktuellen Diskussion um KI-Entwicklung. Antworten gibt die VDE-Anwendungsregel VDE-AR-E 2842-61 als erster normativer Rahmen für den kompletten Lebenszyklus kognitiver Systeme. Als Grundlage soll sie die Ausarbeitung von Normen und Standards im Rahmen des European AI Act erleichtern und die globale KI-Welt voranbringen.
„Mit knapp 600 Seiten ist ein sehr umfangreicher Standard entstanden, der den vertrauenswürdigen und sicheren Einsatz von Künstlicher Intelligenz künftig sicherstellen kann“, sagt Michael Teigeler, Geschäftsführer der DKE. „Hier liegt auch die Basis für die weitere Normung im Rahmen des European AI Acts. Unternehmen haben damit eine Grundlage, KI sicher zu entwickeln und Produkte in den Markt einzuführen.“
Bislang gibt es international mehr als 200 Normen, die – auf einzelne Anwendungsfelder bezogen – einen Rahmen für die Arbeit mit KI setzen. Um den wirtschaftlichen Erfolg und die Sicherheit neuer Systeme zu gewährleisten, braucht es aber mehr.
Was hinter der neuen Anwendungsregel steckt
Die Besonderheit bei Vorgaben für KI besteht darin, dass Funktionen nicht einfach nach vorgegebenen Prozessen geprüft werden können. Das System muss Sicherheit selbst gewährleisten und Anforderungen an funktionale Sicherheit inhärent erfüllen. Wegen dieser hohen Komplexität haben sich Vertreterinnen und Vertreter aus Industrie, Wirtschaft, Forschung und Verbraucherschutz im DKE-Arbeitskreis „Autonome Systeme“ zusammengeschlossen, um den neuen VDE-Standard zu entwickeln.
„Wir haben die Anwendungsregel in sechs voneinander thematisch abgegrenzte Abschnitte unterteilt, um den kompletten Lebenszyklus eines KI-Systems abzubilden“, erklärt Dr. Henrik J. Putzer, Co-Vorsitzender des Arbeitskreises und CEO der Cogitron GmbH. „Sie reicht von der Begriffsdefinition für den Umgang mit KI-Systemen bis zu Vorgaben zur Qualifikation und Zulassung der Systeme für die Marktphase.“
Bereits die Namensgebung zeigt, dass sich die Anwendungsregel nicht im luftleeren Raum bewegt – die Ziffer 61 am Schluss bezieht sich auf die IEC-Norm 61508. Sie gilt als zentrale Grundlage für die funktionale Sicherheit von E/E-Systemen im Automotive-Bereich und ist wesentlicher Ausgangspunkt für die AR-E 2842-61.
KI für die Gesellschaft verantwortungsvoll nutzbar machen
Im Fokus der neuen VDE-Anwendungsregel steht mit Teil 3 bis 5 die Entwurfsphase, in der es insbesondere darauf ankommt, Anforderungen im Bereich Vertrauenswürdigkeit zu erfüllen. Dazu zählen Vorgaben zur Systemsicherheit, Cybersicherheit, Gebrauchstauglichkeit sowie ethische Fragestellungen. Hinzu kommen Vorgaben auf Komponentenebene – also Hardware, Software und KI-Blaupausen zur Anwendung einer KI-Methodik – sowie Maßnahmen zur Marktbeobachtung.
„Mit dem jetzt veröffentlichten Teil haben wir die Anwendungsregel vervollständigt“, berichtet Prof. Dr. Ing. Ralph Welge, Co-Vorsitzender des DKE-Arbeitskreises und CEO der Glass Sphere Software UG. „Nun rufen wir alle Beteiligten dazu auf, sie zu verwenden und KI für die Gesellschaft verantwortungsvoll nutzbar zu machen.“
Es gebe Lücken zu Verifikationsmethoden, da sei die Forschung gefragt. „Die Industrie muss die Anwendung erproben, sodass wir sie verbessern können, und die Normung ist gefordert, Ansätze und Methoden auf europäischem beziehungsweise globalem Level einzubringen.“ Dies schafft aus Sicht des Informatik-Experten nicht nur die Grundlage für einen sicheren Einsatz kognitiver Systeme, sondern stärkt auch die Rolle Deutschlands im Wettbewerb um die Technologieführerschaft im KI-Bereich.
Teil 1 (Begriffe und Grundkonzepte), Teil 2 (Management), Teil 3–5 (Kernprozesse) und Teil 6 (After Release of the Solution) der neuen Anwendungsregel VDE-AR-E 2842-61 können ab sofort komplett im VDE-Verlag erworben werden. (jpk)