KI-Systeme, die allein auf tiefen neuronalen Netzen aufbauen, sind bisher meistens Blackbox-Systeme, bei denen schwer zu verstehen ist, wie der Output mit dem Input zusammenhängt, zum Beispiel, woran es genau liegt, dass ein Bild auf die eine oder andere Weise klassifiziert wird. Für manche Anwendungen, etwa für eine Wetter-App, mag das ausreichend sein. In der Wissenschaft wollen wir aber verstehen, wie wir zu einem bestimmten Ergebnis kommen. Das wollen wir in Zukunft auch von einer KI. Eine Möglichkeit wäre, die Mittel des Wittgenstein-Preises für die Weiterentwicklung erklärbarer KI in der Grundlagenforschung, insbesondere in der Quantenphysik, zu verwenden.
Warum ist dieses Forschungsvorhaben besonders relevant?
Briegel: Es trägt zu einem besseren Verständnis der prinzipiellen Reichweite künstlicher Intelligenz bei. Bleibt sie vor allem ein Optimierungs- und Klassifizierungswerkzeug oder kann man sie noch wesentlich weiterentwickeln – kommt da noch mehr? Eine zentrale Frage ist, ob künstliche Agenten theoretisch dazu fähig sind, auch selbst Modelle zu bilden. Das ist eine Fähigkeit, die wir nutzen, um unsere Erfahrungen zusammenzufassen, Prognosen zu machen, diese in neuen Experimenten zu testen, und so die Welt zu ergründen. Es ist eine Grundstruktur von dem, was wir Verstehen nennen. Wenn wir KI-Systeme hätten, die lernen, indem sie eigene Modelle bilden und diese Modelle auch kommunizieren können, wäre das ein großer Fortschritt.
Was motiviert Sie zu Ihrer wissenschaftlichen Arbeit?
Briegel: Als Physiker möchte ich natürlich verstehen, was die Welt im Innersten zusammen hält (lacht). Die vergangenen Jahre meiner Forschungstätigkeit waren auch durch viel Interaktion mit anderen Disziplinen bestimmt – vor allem mit der Philosophie. Zusammen mit Thomas Müller an der Universität Konstanz untersuchen wir beispielsweise, wie man die Idee von Freiheit und Handlungsfähigkeit (auf englisch: agency) im Rahmen der Quantenphysik besser verstehen kann. Das ist eine philosophische Frage, aber ich denke, dass die Physik hierzu etwas beitragen kann. Die Quantenmechanik ist die erste physikalische Theorie, in der die Rolle des Beobachters mathematisch formal beschrieben ist. Es ist aber nicht klar, was denn einen Beobachter genau ausmacht und ob der Begriff hier nicht überhaupt zu kurz greift. Experimentieren ist ja mehr als Beobachten. Eine bessere Frage lautet daher, was macht ein handlungsfähiges System aus und wie passen künstliche lernfähige Agenten in diese Einordnung? Das ist im Hinblick auf die Entwicklung künstlicher Intelligenz und was sie für uns bedeuten wird eine entscheidende Frage.
Zur Person
Hans J. Briegel ist Professor und Leiter der Forschungsgruppe Quantum Information & Computation am Institut für Theoretische Physik an der Universität Innsbruck. Er studierte Physik und Philosophie in München und Edinburgh. Zu den weiteren Stationen seiner Karriere gehören unter anderem ein Postdoc-Fellowship an der Harvard University, eine Gastprofessur an der Universität Konstanz sowie die langjährige Leitung einer Forschungsgruppe als Wissenschaftlicher Direktor am Institut für Quantenphysik und Quanteninformation (IQOQI) der Österreichischen Akademie der Wissenschaften (ÖAW) in Innsbruck. 2022 wurde Hans Briegel mit einem ERC Advanced Grant ausgezeichnet.
