Um Unternehmen Orientierung für die Implementierung vertrauenswürdiger KI zu geben, hat die von der Deutschen Akademie der Technikwissenschaften (Acatech) koordinierte Mission KI einen freiwilligen Mindeststandard entwickelt. Eine erste Version wurde jetzt auf dem Digitalgipfel der Bundesregierung vorgestellt.
KI-Anwendungen unterhalb der Hoch-Risikoschwelle
Der Mindeststandard fokussiert sich auf KI-Anwendungen unterhalb der Hoch-Risikoschwelle und ist anschlussfähig an die Anforderungen des EU AI Acts. Er soll somit Qualität und Vertrauenswürdigkeit sicherstellen, ohne Innovationen zu hemmen.
Um den Mindeststandard prüfbar zumachen, übersetzt dieser abstrakte Qualitätswerte in konkrete Prüfverfahren. Ziel ist es zum einen, das Vertrauen der Anwender in KI-Technologien zu stärken. Zum anderen soll er Wettbewerbsvorteile für KI-Anbieter schaffen, die den Standard anwenden, und Verlässlichkeit für KI-Betreiber, die die KI-Komponenten einsetzen.
Mission KI arbeitet mit den Partnern PwC Deutschland, TÜV AI.Lab, VDE, CertifAI, AI Quality & Testing Hub und dem Fraunhofer IAIS zusammen.
Für große Unternehmen und für Start-ups gleichermaßen nutzbar
Der neue Mindeststandard soll klare Vorteile bieten: KI-Anbieter könnten von einem effizienten Qualitätsnachweis profitieren, der für große Unternehmen sowie für Start-ups gleichermaßen nutzbar sei, heißt es. Da sich Unternehmen, die den Standard verwenden, durch vergleichbare Qualitätskriterien positiv am Markt abheben, können sie ihre Wettbewerbsfähigkeit verbessern. KI-Betreiber wiederum profitieren von einer höheren Markttransparenz und Zuverlässigkeit der eingesetzten KI-Anwendungen.
„Wir begrüßen es sehr, dass Mission KI Anbietern einen Standard zur Verfügung stellt, der ihnen die Möglichkeit gibt, ihre KI-Anwendungen bereits im frühen Entwicklungsprozess vertrauenswürdig auszurichten, sozusagen trustworthy by design“, sagt Manfred Rauhmeier, Vorsitzender der Acatech-Stiftung und Sekretär des Koordinationskomitees. „So erhalten sie einen Qualitätsnachweis und können sich hierdurch am Markt positionieren. Dies ist ein wichtiger Schritt, mit dem wir die Wettbewerbsfähigkeit unserer Unternehmen stärken.“
Zentrale Prinzipien, um Vertrauenswürdigkeit von KI-Systemen zu bewerten
Der Mindeststandard basiert auf den Ethik-Leitlinien für eine vertrauenswürdige KI, die durch die hochrangige Expertengruppe HLEG-KI, einberufen von der Europäischen Kommission, festgelegt wurden. Die Expertengruppe hat zentrale Prinzipien definiert, die zur Bewertung der Vertrauenswürdigkeit von KI-Systemen dienen sollen.
Das Aufgreifen dieser Prinzipien, zu denen Verlässlichkeit, KI-spezifische Cybersicherheit, Datenqualität, -schutz und -management, Nicht-Diskriminierung, Transparenz sowie menschliche Aufsicht und Kontrolle gehören, soll die Anschlussfähigkeit des Mindeststandards an die europäische KI-Regulierung und Standardisierung sicherstellen.
In einem nächsten Schritt wird das Team den Standard sowie die damit verbundenen Prüfkriterien und -verfahren anhand bereits im Einsatz befindlicher KI-Anwendungen erproben. Das soll sicherstellen, dass der Standard bedarfsorientiert und praxistauglich entwickelt wird. Entwicklung und Erprobung sollen bis Ende 2025 abgeschlossen sein. (jpk)
