Der neue Exzellenzcluster, bei dem Sie mitarbeiten, nennt sich „Bilaterale KI“. Was kann man sich darunter vorstellen?
 
Das Projekt hat sich zum Ziel gesetzt, die beiden wichtigsten Methoden der KI zu verbinden: symbolische und subsymbolische KI. Das ist ist eine einmalige Chance, im Grundlagenbereich gemeinsam und besser vernetzt zu forschen und neue Methoden zu entwickeln. In Zukunft kann das ganz verschiedenen Anwendungen von KI zugutekommen.
 
Was ist der Unterschied zwischen symbolischer und subsymbolischer KI?
 
Subsymbolische KI lernt anhand der statistischen Verteilungen in der numerischen Repräsentation von Daten. Der Vorteil von diesen Modellen ist, dass sie große Datenmengen verarbeiten können. Die gelernten Muster sind allerdings nicht ohne Weiteres erklärbar. Deswegen lernt so eine KI aus den Daten auch “ungewollt” Dinge, die nicht Fakten, Gesetzen und Normen entsprechen und übernimmt zum Beispiel Vorurteile aus dem Sprachgebrauch von Menschen – das ist natürlich ein Problem. Das berühmte Halluzinieren, das man von ChatGPT kennt, basiert auf dieser Schwäche. Mit symbolischer KI kann man hingegen regelbasiert modellieren, etwa wie ein faires Auswahlverfahren aussieht bzw. was Fairness ist. Oder welche Gesetzmäßigkeiten in den Daten gelten sollen. So kann man eben zum Beispiel soziale Normen, Regeln und Gesetze modellieren.
 
Wie kann man zwei so unterschiedliche Ansätze verbinden?
 
Das ist die entscheidende Frage. Die Methoden, um diese beiden Ansätze zu kombinieren, stehen erst am Anfang, auch weil die Forschungs-Communities, die sich mit diesen beiden Richtungen der KI beschäftigen, historisch nicht an einem Strang gezogen haben. Das Besondere an diesem Projekt ist, dass man Spitzenforscher*innen aus beiden Bereichen zusammengebracht hat, insgesamt 35 exzellente Key-Researcher von sechs österreichischen Universitäten werden hier gemeinsam ein Netzwerk aufbauen, dazu kommen neue Doktoranden und Postdoc-Stellen, die durch den FWF gefördert werden. International ist das in dieser Konstellation einzigartig. Ermöglicht werden solche groß angelegten Vorhaben nur durch die „Cluster of Excellence“-Initiative des FWF.
 

Was ist die größte Herausforderung bei diesem Unterfangen?
 
Die beiden Ansätze stehen für völlig unterschiedliche Denkweisen, wie Wissen repräsentiert wird. Die große Herausforderung ist, wie man gemeinsame Repräsentationen finden kann. Eine Möglichkeit sind sogenannte Wissensgraphen: Die Idee dabei ist, dass man Faktenwissen gemeinsam mit Quellenwissen, aber auch Wissen um die bestehenden Regeln – also den nötigen Kontext – in einem Graphen zusammenfügt. Unser Team erhofft sich neue Erkenntnisse, wie man solche Wissensgraphen skalierbar erstellen kann und wie diese Graphen dazu beitragen können, maschinelles Lernen verständlicher zu machen.
 
Was würde eine KI können, die beide Denkweisen verbindet?
 
Die Kombination von symbolischer und subsymbolischer KI würde potenziell die Entwicklung einer „broad AI“ erlauben: also einer KI, die auf völlig unterschiedliche, komplexe Problemstellungen angewandt werden kann. Dazu gehören Fragen, wie man komplexe Systeme optimieren kann – zum Beispiel das Energieversorgungssystem. Ein weiteres Beispiel sind Szenarien, in denen komplexe Systeme zum Teil auf externen Umwelteinflüssen basieren, aber auch zum Teil durch menschengemachte Regeln gesteuert werden. 
 
Welche Expert*innen von der WU sind noch an diesem Projekt beteiligt?
 
Zum Team der WU gehören Kurt Hornik, der viel im Bereich maschinelles Lernen und neuronale Netze gearbeitet hat und ein starker Vertreter der subsymbolischen KI ist. Nils Wlömert aus dem Department für Marketing ergänzt uns mit seiner Forschung zu kausalen Zusammenhängen mit einem Blick auf praktische Anwendungen im Bereich des Marketing. Sabrina Kirrane forscht an der Repräsentation von Policies und rechtlichen Rahmenbedingungen – also zu der Frage, wie man eine KI dazu bringen kann, sich regelkonform zu verhalten. Meine eigene Forschungsgruppe bringt den Aspekt der Wissensgraphen ein, wo wir versuchen, solche Wissensgraphen automatisiert zu erstellen beziehungsweise zu verbessern, und damit Maschinelles Lernen erklärbarer und robuster zu machen.
 
Wann ist mit ersten Ergebnissen zu rechnen?
 
Es handelt sich hier um ein sehr ambitioniertes Grundlagenforschungsprojekt, das auf fünf Jahre ausgelegt ist. Alle Beteiligten liefern hier bereits jetzt laufend neue, spannende Erkenntnisse: seit der Antragstellung haben beispielsweise die Kollegen der JKU bereits eine völlig neue Machine Learning Architektur präsentiert, wir selbst haben gerade Untersuchungen abgeschlossen, die analysieren wie dynamisch generierte Wissensgraphen, die bereits in der Praxis als “Hintergrundwissen” für AI-Anwendungen benutzt werden von der “Crowd” repariert werden, alle diese Arbeiten liefern uns wertvolle Grundlagen: Ergebnisse, die aber tatsächlich, all diese spannenden Einzelresultate zu einem grösseren ganzen zusammenfügen, müssen wir gemeinsam entwickeln und dazu brauchen wir diesen “Cluster”. Der Cluster of Excellence ist auf 5 Jahre angesetzt, das sind in der Grundlagenforschung sehr realistische Zeiträume, ich bin allerdings sehr optimistisch, dass man wohl in den nächsten ein bis zwei Jahren bereits mit integrierten Resultate und völlig neuen Ansätzen rechnen kann.

Mehr Informationen zum Exzellenzcluster Bilaterale KI.