Die TÜV-Unternehmen haben das TÜV AI Lab, ein Entwicklungslabor für künstliche Intelligenz (KI), gegründet. Experten werden hier die Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen zu begleiten. Das Ziel ist unter anderem, KI sicherer zu machen und ihre Nutzung in sicherheitskritischen Bereichen zu ermöglichen. Weiteres Ziel ist die Entwicklung von Lösungsansätzen für die Einteilung von KI-Anwendungen in Risikoklassen.
Im AI Lab werden Experten aus den TÜV-Organisationen an praktischen Prüfszenarien arbeiten. Die Prüfer ermitteln zum Beispiel, wie sicher automatisierte Fahrzeuge mit KI–Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren. Dabei sind die Performanz und Aspekte der Cybersecurity sowie die Robustheit von KI wichtig. „Künstliche Intelligenz ist komplex und kann sich dynamisch verhalten“, sagt Dr. Dirk Schlesinger, Leiter des TÜV AI Labs. Eine entsprechende Prüfung sollte daher in Zukunft Voraussetzung für die Zulassung neuer Fahrzeuge sein.
KI wird in Risikoklassen eingeteilt
Ein weiteres Ziel des TÜV AI Labs ist die Entwicklung von Lösungsansätzen für die Einteilung von KI-Anwendungen in Risikoklassen. „Nicht alle KI-Systeme müssen die gleichen Anforderungen erfüllen“, sagt Schlesinger. Daher sollten KI-gestützte Systeme nach ihrem Gefährdungspotenzial reguliert werden.
Die Anforderungen könnten von einem vollständigen Regulierungsverzicht über Transparenzpflichten und Zulassungsverfahren vor der Markteinführung bis zu einem Verbot besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Die EU-Kommission hat zwei Risikoklassen (niedriges und hohes Risiko) vorgeschlagen, während die Datenethikkommission der Bundesregierung für fünf Stufen plädiert. Schlesinger: „Die Frage ist, wie viele Risikoklassen tatsächlich sinnvoll sind und nach welchen Kriterien KI-Systeme den einzelnen Klassen in der Praxis zugeordnet werden können.“ Auch damit werde sich das TÜV AI Lab beschäftigen, das im ersten Quartal 2020 seine Arbeit aufnehmen wird.
Kontakt:
Verband der TÜV e.V. (VdTÜV)
Friedrichstr. 136
10117 Berlin
Tel.: +49 30 760095–0
berlin@vdtuev.de
www.vdtuev.de
