Leiser erinnert sich an einen seiner ersten ChatGPTPrompts, mit dem er seinen Großeltern zeigen wollte, zu wie viel die Technologie fähig ist: Erkläre mir die Regeln des Kartenspiels Binokel als Gedicht. Alle waren begeistert, als das Sprachmodell die Spielregeln dichtete. Mit der Zeit stellte er jedoch fest: Je präziser seine Prompts wurden, je mehr spezifisches Hintergrundwissen sie erforderten, desto häufiger erhielt er Antworten, die Ungenauigkeiten aufwiesen oder teilweise falsch waren. Der Chatbot hatte sie erfunden, sozusagen hinzugedichtet. Man spricht von Halluzinationen. „In dieser Hinsicht ist die generative KI uns Menschen ähnlich. Sie ist schlecht darin zuzugeben, wenn sie etwas nicht weiß“, sagt Leiser und lacht.
Aus Nutzerperspektive bleibt es eine Gratwanderung, ChatGPT-Prompts zielgerichtet zu formulieren. Wie genau muss die Anfrage sein, um gute Ergebnisse zu bekommen? Wie vage muss sie aber auch bleiben, damit das Sprachmodell Spielraum hat, kreativ generieren zu können? „Stecke ich selbst tief im Thema, kann ich besser einschätzen, ob die Antworten plausibel sind. Häufen sich die Fehlinformationen, fange ich an zu zweifeln“, führt Leiser aus. Er schätzt ChatGPT als Impulsgeber für erste Ideen. „Dann fallen auch kleinere Ungenauigkeiten nicht ins Gewicht. In dem Moment, wo ich aber aus den mir zur Verfügung stehenden Informationen Entscheidungen ableite, kann es schnell kritisch werden, wenn ich der KI blind vertraue, etwa in der Politik oder Medizin.“
Knowledge-Guided Machine Learning in der Medizin
Im Team um Prof. Ali Sunyaev befasst er sich deshalb mit hybrider Intelligenz, der bestmöglichen Synergie menschlicher und Künstlicher Intelligenz. Im Sinne von Knowledge-Guided Machine Learning sollen die Parameter menschlicher Entscheidungsprozesse für die KI nutzbar gemacht werden. Ein großer Forschungsbereich ist dabei das Gesundheitswesen. Ärztinnen und Ärzte erkennen aufgrund ihres medizinischen Fachwissens, ihrer beruflichen Erfahrungen und ihrer geschulten Intuition, welche Krankheiten vorliegen. Sie stellen Diagnosen, legen Behandlungspläne fest und stützen sich im Zweifel auf ethische Prinzipien. Aber wie lernen Maschinen, diese Entscheidungen nachzuvollziehen?
„Wir wollen die KI so trainieren, dass sie schneller bessere Ergebnisse liefert, zum Beispiel in der Krebserkennung“, erklärt Leiser. Dafür sichten Ärztinnen und Ärzte Bilder, auf denen Gewebe zu sehen ist. Mittels Eye-Tracking lässt sich nachvollziehen, auf welchen Punkt Arzt oder Ärztin in dem Moment blicken, in dem sie die Entscheidung darüber fällen, ob es sich um eine Krebserkrankung handelt oder nicht. Das Wissen über die ausschlaggebende Gewebestelle wird in die KI eingespeist. Außer Bild- können Textquellen für das Training herangezogen werden, zum Beispiel ärztliche Berichte und medizinische Leitlinien. Es gehe jedoch nicht darum, den Ärztinnen und Ärzten die Entscheidung abzunehmen, betont Leiser: „Die Entscheidung, was richtig und falsch ist, muss in der Hand der Menschenliegen. Die KI kann nur unterstützen.“
Entscheidungskompetenz der Jugend stärken
Leiser studierte Informationswirtschaft und Wirtschaftsinformatik am Karlsruher Institut für Technologie (KIT). Danach war er Doktorand in der Forschungsgruppe Critical Information Infrastructures und folgte seinem Forschungsgruppenleiter Sunyaev an den TUM Campus Heilbronn. Für den gebürtigen Heilbronner Leiser ein Heimspiel. „Es ist sehr schön, in die Heimat zurückzukehren. Aber nicht nur deshalb fühlt es sich gut an, hier zu sein. Am TUM Campus herrscht Aufbruchstimmung, es bewegt sich was.“ Leiser schätzt die Zusammenarbeit im Team und mit den ansässigen Unternehmen. Für ein aktuelles Forschungsprojekt steht er in Kontakt mit den SLK-Kliniken, einem der größten Gesundheitsdienstleister in der Region Heilbronn-Franken.
Das Thema hybride Intelligenz ist über das Gesundheitswesen hinaus für viele weitere Anwendungsfelder interessant. Besondere Relevanz misst die Forschungsgruppe dem Bildungsbereich zu. Ein entsprechender Projektantrag läuft. „Medienkompetenz ist ein Riesenthema in der Bildung. Wenn wir es verpassen, die Entscheidungskompetenz der nachfolgenden Generation zu stärken, wenn sie das Denken der KI überlässt, haben wir langfristig ein Problem“, ist Leiser überzeugt. „Wir Menschen haben jahrtausendealtes Wissen, über Kulturtechniken, über Problemlösestrategien. Das müssen wir bewahren und Wege finden, wie wir uns auch in Zukunft gemeinsam mit der KI weiterentwickeln können.“