KI-Anwendungen wie ChatGPT beeindrucken zwar ihre Nutzer, bergen aber auch viele Risiken: Sie können zum Beispiel rassistische Vorurteile verstärken, für neuartige Cyberattacken genutzt werden oder Informationen falsch wiedergeben. Nicht einmal die Entwickler dieser Programme wissen, wieso ihre Systeme diese Fehler machen – dazu sind sie zu komplex und intransparent. An einem neuen Graduiertenkolleg der Saarbrücker Informatik sollen nun Ansätze entwickelt werden, um wieder mehr Verständlichkeit und Vertrauen in die Künstliche Intelligenz zu bringen.
An dem Saarbrücker Graduiertenkolleg „Neuroexplicit Models of Language, Vision, and Action“ wollen Wissenschaftlerinnen und Wissenschaftler systematische Grundlagen für den Ansatz entwickeln, der in Expertenkreisen auch als die „dritte Welle“ der Künstlichen Intelligenz bezeichnet wird – sogenannte „neuroexplizite Modelle“.
Das Beste bisheriger KI-Ansätze zu einem Ganzen verbinden
Diese verbinden das Beste bisheriger KI-Ansätze zu einem Ganzen, das sicherer, verlässlicher und verständlicher werden soll. Beteiligt am Forschungsverbund sind am Saarland Informatics Campus die Fachrichtungen Informatik und Mathematik sowie Sprachwissenschaft und Sprachtechnologie der Universität des Saarlandes, das Deutsche Forschungszentrum für Künstliche Intelligenz und die Max-Planck-Institute für Informatik und für Softwaresysteme.
Auch das nahegelegene Cispa-Helmholtz-Zentrum für Informationssicherheit ist Projektpartner. Die Deutsche Forschungsgemeinschaft fördert das Vorhaben die nächsten fünf Jahre mit rund 7,5 Mio. Euro.
„Bei unserem Graduiertenkolleg handelt es sich um die erste Forschungsinstitution zu neuroexpliziten Modellen in Europa. Wir sind damit Vorreiter, denn das Interesse an der Thematik nimmt in internationalen Expertenkreisen rapide zu”, sagt Alexander Koller, Professor für Computerlinguistik an der Universität des Saarlandes und Sprecher des neuen Graduiertenkollegs.
Bild: Thorsten Mohr
Die erste und die zweite Welle der Künstlichen Intelligenz
Unter der ersten Welle der Künstlichen Intelligenz versteht man die sogenannte explizite oder symbolische KI, bei der einem System genaue Regeln und Wissen über die Welt vorgegeben werden, wodurch es autonom agieren können soll.
Die zweite Welle der Künstlichen Intelligenz, die für Quantensprünge in der KI-Entwicklung sorgte und heutzutage dank ChatGPT auch im täglichen Diskurs omnipräsent ist, basiert auf sogenannten „tiefen neuronalen Netzen“. Dabei wird ein KI-System mit massenhaft Daten trainiert und lernt daraus selbstständig die Regeln und Konzepte, die es zum autonomen Handeln braucht.
„Beide dieser Ansätze haben für sich gesehen mit Problemen zu kämpfen. So ist es unmöglich, einem symbolischen KI-System die gesamte Komplexität der Welt in vordefinierten Regeln vorzugeben“, erklärt Koller. Neuronale Netze litten bekanntermaßen an Intransparenz, man bezeichnet sie auch als Black Box.
Da sie sich ihre Handlungsmuster anhand gigantischer Datenmengen selbst erschließen, würden sie oftmals so komplex, dass kein Mensch mehr nachvollziehen könne, warum ein auf neuronalen Netzen basierendes System etwas tue, sagt der Computerlinguist.
Neuroexplizite Modelle sind ein vielversprechender Mittelweg
„Neuroexplizite Modelle sind ein vielversprechender Mittelweg”, sagt Koller. Sie können Fachwissen erfassen, das dann nicht mehr aus Daten gelernt werden muss, oder eine Aufgabe so strukturieren, dass das Problem des neuronalen Lernens einfacher wird.
„Ein autonomes Fahrzeug würde dann nicht nur mit Verkehrsregeln gefüttert, sondern auch mit physikalischen Formeln, etwa wie sich der Bremsweg bei Nässe verlängert, wie sich das Aussehen bestimmter Gegenstände in bestimmten Lichtverhältnissen verändert, oder damit, wie sich Fußgänger und andere Verkehrsteilnehmer typischerweise verhalten. Erst dann wird es mit diesem Vorwissen auf die Trainingsdaten losgelassen“, erklärt Koller.
Dieses Vorgehen führe einerseits zu sicheren und verlässlicheren Systemen, da man besser verstehen könne, was und woher ein System etwas weiß. Andererseits könnten dadurch die benötigten Trainingsdaten reduziert werden, da die vordefinierten Konzepte verallgemeinert werden können und das System somit nicht jeden Einzelfall lernen müsse, erklärt der Professor.
KI-Anwendungsgebiete Language, Vision, Action und Foundations
Das Graduiertenkolleg wird sich mit den großen KI-Anwendungsgebieten „Language“, also z. B. Sprachmodellierung à la ChatGPT, „Vision“, also automatisierte Bilderkennung und -verarbeitung, sowie „Action“ befassen. Letzteres kommt zum Beispiel beim autonomen Fahren zum Einsatz, wenn das Auto entscheiden muss, wie es sich in einer bestimmten Situation verhält.
5 Thesen, warum 2023 das Jahr der Künstlichen Intelligenz werden wird
Im weiteren Schwerpunktbereich „Foundations“ wird erforscht, welche Kombinationen aus expliziten sowie auf neuronalen Netzen basierenden Modellen für welchen Anwendungsfall am besten geeignet sind. Aus den Erfahrungen mit diesen Forschungsthemen wollen die Wissenschaftler allgemeine Designprinzipien erarbeiten, mit denen effektive neuroexplizite Modelle in Zukunft schneller entwickelt werden können.
Die nächste Generation an KI-Forscherinnen und -Forschern ausbilden
In dem neuen Graduiertenkolleg wird die nächste Generation an KI-Forscherinnen und -Forschern ausgebildet, um diese herausfordernden Fragestellungen kompetent anzugehen. „Die Risiken von KI sind zweifellos groß, weshalb es an unserem Kolleg für alle Doktorandinnen und Doktoranden Pflicht ist, die preisgekrönte Vorlesung ‚Ethics for Nerds‘ zu besuchen“, sagt Koller. Insgesamt sollen hier in den nächsten fünf Jahren 24 Doktorandenstellen und eine Stelle für erfahrene Wissenschaftler entstehen.
„Die erfolgreiche Einrichtung dieses neuen Graduiertenkollegs ist ein beeindruckender Beleg für die herausragende wissenschaftliche Qualität und das hohe internationale Standing unseres Informatik-Standortes innerhalb der Scientific Community. Gleichzeitig unterstreicht es die langjährige Tradition und herausragende Zusammenarbeit zwischen den universitären Fachrichtungen und den Informatik-Forschungsinstitutionen und -Partnern auf dem Saarbrücker Campus”, sagt Universitätspräsident Manfred Schmitt.
Graduiertenkolleg unterstreicht Wettbewerbsfähigkeit
„Ich gratuliere allen beteiligten Wissenschaftlerinnen und Wissenschaftlern an der Universität und an den beteiligten Forschungsinstituten zu diesem gemeinsamen Erfolg. Das Graduiertenkolleg unterstreicht die Wettbewerbsfähigkeit der Saar-Informatik und wird noch mehr junge Informatiktalente für das Saarland begeistern“, so der saarländische Wissenschaftsminister Jakob von Weizsäcker.
Im Rahmen der gesamtstaatlichen Bund-Länder-Finanzierung ist das Wissenschaftsministerium an der Finanzierung der Deutschen Forschungsgemeinschaft mit jährlich insgesamt etwa 12 Mio. Euro beteiligt. (bec)
