Das war die erste GOLDKIND-Konferenz: Auf dem Panel am Nachmittag diskutierte Dr. Christina Berndt mit dem Familienpolitiker Johannes Becher und dem Wissenschaftler Professor Dr. Rüdiger Pryss über ethische Rahmenbedingungen, Grenzen und Chancen für den Einsatz von Künstlicher Intelligenz (KI) in der psychischen Versorgung.
Angesprochen auf die Situation von dysfunktionalen Familien in Bayern, zeigte sich der Landtagsabgeordnete und Grünen-Familienpolitiker Johannes Becher enttäuscht: Er berichtet aus dem Landtag, in dem bei Debatten häufig Wirtschaftsthemen im Plenum mehr Aufmerksamkeit bekommen würden als Kinder und Familien. „Zu begreifen, dass Kinder und Jugendliche mindestens genauso wichtig sind wie Geld, wäre eine Grundhaltung, die ich mir von der Politik wünschen würde“, sagte der Abgeordnete. ZUvor hatte er festgestellt: „Wir haben immer mehr belastete Kinder und Jugendliche. In der Früherkennung, in den Kitas ist das Personal am Limit. Ich würde mir wünschen, dass wir mehr hingucken bei Familien, die Hilfe brauchen. Die Kitas wären für mich der Schlüssel, aber dafür braucht man Zeit für Elterngespräche und Personal, das die entsprechende Erfahrung hat und das sich mal ausklinken kann, um sich mit dem Einzelfall zu beschäftigen, der die Aufmerksamkeit benötigt. Das ist in vielen Kitas nicht machbar.“
Das griff die SZ-Journalistin Dr. Christina Berndt auf und fragte Professor Rüdiger Pryss von der Universität Würzburg provokativ: „Wäre denn die KI eine gute Lösung, um mehr Menschen in die Versorgung zu bekommen?“
Professor Pryss erzählte aus seiner eigenen Praxis von den guten Ergebnissen einer App, die Kinder mit Autismus und Intelligenzminderung und ihr Familienumfeld begleitet hat: So sei beispielsweise das herausfordernde Verhalten der Kinder zurückgegangen, die Lebensqualität habe sich verbessert und der Stress der Bezugspersonen sei geringer geworden.
Der Wissenschaftler berichtete zudem von einer Studie, die er zusammen mit seinem Kollegen Harald Baumeister von der Universität Ulm durchgeführt hat. Diese beweise: KI-gestützte Therapie ist der Therapie im persönlichen Gespräch nicht unterlegen. „Für die Psychotherapeuten aber ist der Aufwand, diese Lösung in den Betrieb zu bekommen, wahnsinnig schwierig. Und das ist ja erst die Vorstufe zu KI. Wir sind noch nicht so weit, dass wir das in die breite Versorgung bekommen.“ Trotzdem sah er viele Vorteile: „Die KI bietet viele Möglichkeiten, sie hat aber einerseits das Problem, dass sie noch nicht genug Daten hat und dass sie an manchen Stellen unfair ist. Sie ist aber, wenn sie viele Daten hat, schon erschreckend gut.“
Professor Pryss sprach in diesem Zusammenhang darüber, dass die KI bei Anamnesen, Erstgesprächen und in der Notaufnahme gute Arbeit leiste. Sein Fazit: „Wenn Sie mir die Frage stellen, kann die KI auf Dauer das gut, was die Fachexperten und Fachexpertinnen können, dann ja!“
Der Wissenschaftler verwis bei der Diagnose psychischer Störungen auf die digitale Phänotypisierung und Studien der Harvard Medical School: „So wie wir uns in den sozialen Medien verhalten, haben wir auch einen digitalen Phänotyp und der lässt oftmals sehr gute Rückschlüsse auf die medizinische und psychische Gesundheit zu. Die Big Five der Persönlichkeitstypen können Sie aus der Handynutzung sehr gut herauslesen.“
Das Problem der Datenschizophrenie
„Wenn ich Ihnen zuhöre“, entgegnete darauf Johannes Becher, „dann muss ich befürchten, dass die KI in meinem Handy schon längst meine Psyche kennt.“ Aber er gab gleichzeitig zu bedenken: auf die Einwilligung komme es an. Hier wäre die Aufgabe der Zukunft, zum Beispiel eine Art „Daten-Geldbeutel“ zu schaffen: Damit könnten die Menschen selbst entscheiden, wofür sie ihre Daten ausgeben – und den Zugriff wieder begrenzen, wenn sie die Leistung nicht mehr haben möchten. „Ich bin dann Herr meiner Daten.“ Aktuell treffe das allerdings nicht zu.
Johannes Becher stellte stattdessen „eine gewisse Datenschizophrenie“ bei den Nutzer:innen fest, die einerseits ihre Daten gern und freizügig auf Plattformen teilen, gleichzeitig hochsensibel sind bei Datenschutzthemen. Dennoch sah der Grünen-Politiker einen Vorteil darin, dass die Digitalisierung helfen könne, zum Beispiel bildungsfernere Menschen zu erreichen und Barrieren abzubauen, sie glücklicher und gesünder zu machen.
„Stichwort Datenschutz“, fragte Dr. Christina Berndt: „Wie kriegt man das hin, dass hinterher nicht jeder weiß, wie es um meine psychische Gesundheit steht?“ Professor Rüdiger Pryss war zuversichtlich, denn eine App, die er für den Freistaat Bayern zur Corona-Zeit entwickelt hat, erfuhr sechsstellige Datenspenden, u.a. deswegen, weil das GPS-Tracking auf 11,1 Kilometer ungenau war und sich die Wissenschaftler:innen als Urheber:innen der Studie zu erkennen gaben. Seine Erkenntnis daraus: „Wenn man Vertrauen schafft, dann kriegt man das auch gut hin.“ Es sei allerdings schwierig, einen absoluten Schutz hinzubekommen, man müsse das auch gesetzlich und regulatorisch regeln. Man brauche viel menschliche Korrektur, gab Professor Rüdiger Pryss zu bedenken, das sei ein „wahnsinnig mühseliger Prozess“.
Das Publikum konnte sich mit Fragen an der Diskussion beteiligen, eine davon war: „Wie hoch sehen Sie die Gefahr zu gegebenenfalls falscher Selbstdiagnose bei nicht fachlich verifizierten KIs?“ Professor Pryss antwortete mit einer Prozentangabe: „Chat GPT als eines der besten KI-Systeme halluziniert im Moment immer noch im Bereich zwischen 20 und 30 Prozent. Wir sind im Moment noch weit davon entfernt, dass die KI verlässliche Diagnosen stellt.“
Kooperative Modelle
Dr. Christina Berndt warf ein, dass die KI in der Leukämie-Diagnose durchaus schon verlässliche Antworten liefern könne. Professor Pryss verwies in diesem Zusammenhang darauf, dass man bei der KI folgende Grundregel aufstellen müsse: Alles, was für Menschen schwierig ist, ist für diese einfach, also beispielsweise große Mengen Daten in schneller Zeit zu verarbeiten. Aber das, was für die Menschen leicht ist, sei wiederum für die KI schwierig, also die Erfassung von Nonverbalem, von Mimik und Gestik beispielsweise. Die Wissenschaft geht davon aus, dass die KI noch Jahrzehnte brauchen werde, um das zuverlässig zu erfassen. „Aber das wird besser werden, je mehr die Smartphones aufzeichnen“, prognostizierte Pryss. Johannes Becher stimmte zu: „Chancen begreifen, kritisch bleiben, Risiken realistisch einschätzen“, rät er.
Die GOLDKIND-Beirätin und Psychiaterin Dr. Sophie Greiner schlug aus dem Plenum vor, auch komplementäre Modelle weiterzudenken, wie sie zum Beispiel in der Radiologie bereits angewandt werden: Die auf Algorithmen basierende Diagnostik sei schon weit fortgeschritten, werde aber von einem Radiologen trotzdem immer noch einmal verifiziert. „Ich glaube, die Zusammenarbeit von uns Psychiatern und der KI wäre eine gute Ergänzung.“
Professor Rüdiger Pryss gab an dieser Stelle zu bedenken: Wenn die KI zur Entscheidungsunterstützung eingesetzt werde, müsse die Frage geklärt werden, wer für eine Fehlentscheidung verantwortlich sei. Sein Fazit: „Da sind noch viele Fragestellungen ungeklärt.“
