KI-Anwendungen wie ChatGPT beeindrucken zwar ihre Nutzer, bergen aber auch viele Risiken: Sie können zum Beispiel rassistische Vorurteile verstärken, für neuartige Cyberattacken genutzt werden oder Informationen falsch wiedergeben. Nicht einmal die Entwickler dieser Programme wissen, wieso ihre Systeme diese Fehler machen – dazu sind sie zu komplex und intransparent. An einem neuen Graduiertenkolleg der Saarbrücker Informatik sollen nun Ansätze entwickelt werden, um wieder mehr Verständlichkeit und Vertrauen in die Künstliche Intelligenz zu bringen. Die Deutsche Forschungsgemeinschaft fördert das Vorhaben die nächsten fünf Jahre mit rund 7,5 Millionen Euro.

Am neuen Saarbrücker Graduiertenkolleg „Neuroexplicit Models of Language, Vision, and Action“ wollen Wissenschaftlerinnen und Wissenschaftler systematische Grundlagen für den Ansatz entwickeln, der in Expertenkreisen auch als die „dritte Welle“ der Künstlichen Intelligenz bezeichnet wird – sogenannte „neuroexplizite Modelle“. Diese verbinden das Beste bisheriger KI-Ansätze zu einem Ganzen, das sicherer, verlässlicher und verständlicher werden soll. Beteiligt am Forschungsverbund sind am Saarland Informatics Campus die Fachrichtungen Informatik und Mathematik sowie Sprachwissenschaft und Sprachtechnologie der Universität des Saarlandes, das Deutsche Forschungszentrum für Künstliche Intelligenz und die Max-Planck-Institute für Informatik und für Softwaresysteme. Auch das nahegelegene CISPA Helmholtz-Zentrum für Informationssicherheit ist Projektpartner. “Bei unserem Graduiertenkolleg handelt es sich um die erste Forschungsinstitution zu neuroexpliziten Modellen in Europa. Wir sind damit Vorreiter, denn das Interesse an der Thematik nimmt in internationalen Expertenkreisen rapide zu”, sagt Alexander Koller, Professor für Computerlinguistik an der Universität des Saarlandes und Sprecher des neuen Graduiertenkollegs.

Unter der ersten Welle der Künstlichen Intelligenz versteht man die sogenannte explizite oder symbolische KI, bei der einem System genaue Regeln und Wissen über die Welt vorgegeben werden, wodurch es autonom agieren können soll. Die zweite Welle der Künstlichen Intelligenz, die für Quantensprünge in der KI-Entwicklung sorgte und heutzutage dank ChatGPT auch im täglichen Diskurs omnipräsent ist, basiert auf sogenannten „tiefen neuronalen Netzen“. Dabei wird ein KI-System mit massenhaft Daten trainiert und lernt daraus selbstständig die Regeln und Konzepte, die es zum autonomen Handeln braucht. “Beide dieser Ansätze haben für sich gesehen mit Problemen zu kämpfen. So ist es unmöglich, einem symbolischen KI-System die gesamte Komplexität der Welt in vordefinierten Regeln vorzugeben“, erklärt Koller. Neuronale Netze litten bekanntermaßen an Intransparenz, man bezeichnet sie auch als „Black Box“. Da sie sich ihre Handlungsmuster anhand gigantischer Datenmengen selbst erschließen, würden sie oftmals so komplex, dass kein Mensch mehr nachvollziehen könne, warum ein auf neuronalen Netzen basierendes System etwas tue, sagt der Computerlinguist.

“Neuroexplizite Modelle sind ein vielversprechender Mittelweg”, sagt Alexander Koller. Sie können Fachwissen erfassen, das dann nicht mehr aus Daten gelernt werden muss, oder eine Aufgabe so strukturieren, dass das Problem des neuronalen Lernens einfacher wird. “Ein autonomes Fahrzeug würde dann nicht nur mit Verkehrsregeln gefüttert, sondern auch mit physikalischen Formeln, etwa wie sich der Bremsweg bei Nässe verlängert, wie sich das Aussehen bestimmter Gegenstände in bestimmten Lichtverhältnissen verändert, oder damit, wie sich Fußgänger und andere Verkehrsteilnehmer typischerweise verhalten. Erst dann wird es mit diesem Vorwissen auf die Trainingsdaten losgelassen“, erklärt Alexander Koller. Dieses Vorgehen führe einerseits zu sicheren und verlässlicheren Systemen, da man besser verstehen könne, was und woher ein System etwas weiß. Andererseits könnten dadurch die benötigten Trainingsdaten reduziert werden, da die vordefinierten Konzepte verallgemeinert werden können und das System somit nicht jeden Einzelfall lernen müsse, erklärt der Professor.

Das Graduiertenkolleg wird sich mit den großen KI-Anwendungsgebieten „Language“, also zum Beispiel Sprachmodellierung à la ChatGPT, „Vision“, also automatisierte Bilderkennung und -verarbeitung, sowie „Action“ befassen. Letzteres kommt zum Beispiel beim autonomen Fahren zum Einsatz, wenn das Auto entscheiden muss, wie es sich in einer bestimmten Situation verhält. Im weiteren Schwerpunktbereich „Foundations“ wird erforscht, welche Kombinationen aus expliziten sowie auf neuronalen Netzen basierenden Modellen für welchen Anwendungsfall am besten geeignet sind. Aus den Erfahrungen mit diesen Forschungsthemen wollen die Wissenschaftler allgemeine Designprinzipien erarbeiten, mit denen effektive neuroexplizite Modelle in Zukunft schneller entwickelt werden können.

In dem neuen Graduiertenkolleg wird die nächste Generation an KI-Forscherinnen und -Forschern ausgebildet, um diese herausfordernden Fragestellungen kompetent anzugehen. „Die Risiken von KI sind zweifellos groß, weshalb es an unserem Kolleg für alle Doktorandinnen und Doktoranden Pflicht ist, die preisgekrönte Vorlesung ‚Ethics for Nerds‘ zu besuchen“, sagt Alexander Koller. Insgesamt sollen hier in den nächsten fünf Jahren 24 Doktorandenstellen und eine Stelle für erfahrene Wissenschaftler entstehen. Vizesprecher der Kooperation sind die Informatik-Professorin der Universität des Saarlandes Vera Demberg und der Direktor am Max-Planck-Institut für Informatik Professor Bernt Schiele.

“Die erfolgreiche Einrichtung dieses neuen Graduiertenkollegs ist ein beeindruckender Beleg für die herausragende wissenschaftliche Qualität und das hohe internationale Standing unseres Informatik-Standortes innerhalb der Scientific Community. Gleichzeitig unterstreicht es die langjährige Tradition und herausragende Zusammenarbeit zwischen den universitären Fachrichtungen und den Informatik-Forschungsinstitutionen und -Partnern auf dem Saarbrücker Campus”, sagt Universitätspräsident Manfred Schmitt.

„Ich gratuliere allen beteiligten Wissenschaftlerinnen und Wissenschaftlern an der Universität und an den beteiligten Forschungsinstituten zu diesem gemeinsamen Erfolg. Das Graduiertenkolleg unterstreicht die Wettbewerbsfähigkeit der Saar-Informatik und wird noch mehr junge Informatiktalente für das Saarland begeistern.“, so der saarländische Wissenschaftsminister Jakob von Weizsäcker. Im Rahmen der gesamtstaatlichen Bund-Länder-Finanzierung ist das Wissenschaftsministerium an der Finanzierung der Deutschen Forschungsgemeinschaft mit jährlich insgesamt rund zwölf Millionen Euro beteiligt.

Weitere Informationen:

Pressemitteilung der Deutschen Forschungsgemeinschaft
Webseite des neuen Graduiertenkollegs: https://www.neuroexplicit.org

Fragen beantwortet:

Professor Alexander Koller
Fachrichtung Sprachwissenschaft und Sprachtechnologie
Universität des Saarlandes
Mail: koller@coli.uni-saarland.de
Tel.: +49 681 302 4345

Hintergrund Graduiertenkollegs der Deutschen Forschungsgemeinschaft:

Graduiertenkollegs sind Einrichtungen der Hochschulen zur Förderung des wissenschaftlichen Nachwuchses, die von der DFG für maximal neun Jahre gefördert werden. Im Mittelpunkt steht die Qualifizierung von Doktorandinnen und Doktoranden im Rahmen eines thematisch fokussierten Forschungsprogramms sowie eines strukturierten Qualifizierungskonzepts. Eine interdisziplinäre Ausrichtung der Graduiertenkollegs ist erwünscht. Ziel ist es, die Promovierenden auf den komplexen Arbeitsmarkt „Wissenschaft“ intensiv vorzubereiten und gleichzeitig ihre frühe wissenschaftliche Selbstständigkeit zu unterstützen. Info: https://www.dfg.de/foerderung/programme/koordinierte_programme/graduiertenkollegs

Hintergrund Saarland Informatics Campus:
900 Wissenschaftlerinnen und Wissenschaftler (darunter 400 Promovierende) und rund 2500 Studierende aus mehr als 80 Nationen machen den Saarland Informatics Campus (SIC) zu einem der führenden Standorte für Informatik in Deutschland und Europa. Vier weltweit angesehene Forschungsinstitute, nämlich das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), das Max-Planck-Institut für Informatik, das Max-Planck-Institut für Softwaresysteme, das Zentrum für Bioinformatik, sowie die Universität des Saarlandes mit drei vernetzten Fachbereichen und 24 Studiengänge decken das gesamte Themenspektrum der Informatik ab.

Über das CISPA 
Das CISPA Helmholtz-Zentrum für Informationssicherheit ist eine Großforschungseinrichtung des Bundes innerhalb der Helmholtz-Gemeinschaft. Die Wissenschaftlerinnen und Wissenschaftler erforschen die Informationssicherheit in all ihren Facetten. Sie betreiben modernste Grundlagenforschung sowie innovative anwendungsorientierte Forschung und arbeiten an drängenden Herausforderungen der Cybersicherheit, der Künstlichen Intelligenz und des Datenschutzes. CISPA-Forschungsergebnisse finden Einzug in industrielle Anwendungen und Produkte, die weltweit verfügbar sind. Damit stärkt das CISPA die Konkurrenzfähigkeit Deutschlands und Europas. Es fördert außerdem Talente und ist eine Kaderschmiede für hervorragend ausgebildete Fach- und Führungskräfte für die Wirtschaft. So trägt das CISPA sein Know-how auch in die Zukunft.

Redaktion:
Philipp Zapf-Schramm
Saarland Informatics Campus
Telefon: +49 681 302-70741
E-Mail: pzapf@cs.uni-saarland.de