Wie Künstliche Intelligenz die Pflegebegutachtung unterstützen, effizienter machen, vielleicht sogar teilautomatisieren könnte, darüber wird derzeit viel nachgedacht. Ein Wissenschaftsteam der Humboldt-Universität Berlin und der Charité der Universitätsmedizin Berlin hat das jüngst empirisch erprobt.
Trainiert und verglichen wurden verschiedene KI-Modelle mit Daten von über 72.000 Pflegebegutachtungen des Medizinischen Dienstes. Gezeigt werden konnte, dass sich die Pflegegradempfehlung allein aus den Kommentierungen der Gutachterinnen und Gutachter – den narrativen Teilen des Gutachtens, in denen sie ihre Bewertungen in eigenen Worten begründen – mit einer Übereinstimmung von bis zu 85% vorhersagen ließ. Und doch halten die Autoren fest: Automatisierung darf nicht das Ziel der Pflegebegutachtung sein. Die gutachterliche Expertise bleibt unersetzlich. Warum?
Was diese KI-Modelle lernen, sind nicht die realen Lebenssituationen der pflegebedürftigen Menschen und ihrer An- und Zugehörigen, sondern wie die Gutachterinnen und Gutachter diese beschreiben und beurteilen. Auch bessere Daten und mehr Training der Modelle ändern daran nichts. Die Modelle arbeiten immer nur mit dem Abbild der Realität, nicht mit dem gutachterlichen Beurteilungsprozess, der dieses Abbild geformt hat. Und ein Teil dieser Beurteilung entzieht sich der Dokumentation: Er basiert auf implizitem Wissen – auf Erfahrungen, Wahrnehmungen und dem professionellen Urteilsvermögen der Gutachtenden.
Signale deuten
Solch implizites Erfahrungs- und Expertenwissen ist für die Pflegebegutachtung entscheidend, wenn es darum geht, Risiken einzuschätzen oder Aspekte zu erkennen, die nicht auf den ersten Blick sichtbar werden; z. B. wenn die Gutachterinnen und Gutachter beurteilen, ob eine Pflegesituation stabil, gefährdet oder gar prekär ist: Vielleicht riecht die Wohnung anders als sie aussieht; vielleicht sagt die pflegebedürftige Person, es gehe ihr gut, zuckt jedoch jedes Mal zusammen, wenn der Schwiegersohn in ihre Nähe kommt. Das Deuten solcher Signale – in der Atmosphäre, in der Interaktion, im Nichtgesagten – ist ein zentraler Aspekt gutachterlicher Expertise. Der Philosoph Michael Polanyi nennt es »We know more than we can tell«. Es ist Erfahrungswissen, sedimentiert in hunderten Hausbesuchen, in vielen Begegnungen. Und das lässt sich nicht kodieren.
Beim Ausloten der Potenziale von KI für die Pflegebegutachtung sollte daher immer auch die Frage gestellt werden: Was kann KI nicht übernehmen? Was sind Grenzfälle oder Situationen, in denen die Gutachtenden eine Entscheidung treffen aber die Begründung dafür erst im Nachhinein rekonstruieren können. Das sind die Momente, in denen gutachterliches Erfahrungswissen sichtbar wird. Zu wissen, was nicht delegierbar ist, hilft gleichzeitig zu entscheiden, wo KI sinnvoll eingesetzt werden kann.
Wissenschaft und Praxis gemeinsam
Hinzu kommt ein wichtiger ethischer Aspekt: Der pflegebedürftige Mensch ist kein Datenobjekt. Auch wenn es in der Pflegebegutachtung vor allem darum geht, Anspruchsvoraussetzungen auf Sozialleistungen zu objektivieren, sollte das Bemühen im Vordergrund stehen, nicht nur zu messen, sondern auch zu verstehen: Was braucht dieser Mensch in dieser kritischen Lebenssituation? So verstanden, ist die Pflegebegutachtung immer auch menschliche Begegnung und ein Akt der Anerkennung.
Doch kann Technik genau dabei helfen: indem sie entlastet, strukturiert und unterstützt, damit ihr Kern, die menschliche Begegnung und das professionelle Urteil, auch künftig gewährleistet bleibt. Zu prüfen, wie die Verbindung Mensch und Technik in diesem Sinne gelingen kann, ist eine fachliche Aufgabe, die von Wissenschaft und Praxis gemeinsam angegangen werden sollte.
Interview mit Prof. Dr. Karin Wolf-Ostermann
Prof. Dr. Karin Wolf-Ostermann ist Professorin für Versorgungsforschung in der Pflege an der Universität Bremen und eine der führenden Wissenschaftlerinnen auf dem Gebiet der Pflegeforschung in Deutschland.
Was kann KI in der Pflege(-begutachtung) realistisch leisten? Wo liegen die Grenzen?
Der aktuelle Forschungsstand spricht dafür, KI in der Pflegebegutachtung derzeit vor allem als Assistenz- und Unterstützungstechnologie zu betrachten, d.h. KI kann professionelle Einschätzungen unterstützen. KI kann und sollte aber derzeit nicht die fachliche Begutachtung durch qualifizierte Pflegefachpersonen vollständig ersetzen. Dazu muss man sich klar machen, was KI letztlich ist: nämlich verkürzt gesagt eine Technologie, die Maschinen dazu befähigt, ›intelligent‹ zu handeln. KI ist dabei aber beispielsweise davon abhängig, welche Modelle und Algorithmen zugrunde gelegt werden, welche Datengrundlagen verfügbar sind und welche Qualität diese aufweisen.
KI kann derzeit insbesondere bei der Analyse von Daten, der Strukturierung von Prozessen und der Bereitstellung von Entscheidungsgrundlagen unterstützen – wenn entsprechend valide Datenbasen elektronisch verfügbar sind. Kritisch sehe ich Bereiche, wo pflegerelevante Aspekte – z. B. Lebensqualität oder subjektive Belastung – nur begrenzt datenbasiert erfassbar sind oder aber verzerrte oder unvollständige Datensätze zu fehlerhaften Empfehlungen führen könnten.
Die professionelle Bewertung der individuellen Lebenssituation, die ethische Abwägung und die Verantwortung für die Begutachtung bleiben daher derzeit zentrale Aufgaben qualifizierter Pflegefachpersonen und die Verantwortung für Entscheidungen kann nicht auf die KI übertragen werden.
Wie verändert KI-Unterstützung die professionelle Identität der Pflegefachperson in der Begutachtung und was bedeutet das für die Ausbildung?
Aus meiner Sicht stärkt der Einsatz von KI letztendlich die professionelle Identität, weil sie den Fokus auf eine notwendige Fachlichkeit richtet. Dies erfordert aber gute fachliche Kompetenzen ebenso wie digitale und reflexive Fähigkeiten. Wenn KI datenbasierte Entscheidungen gut vorbereiten kann, verändert sich die professionelle Rolle: Pflegefachpersonen müssen dann in der Lage sein, KI-generierte Vorschläge fachlich einzuordnen und als ›kritische Nutzerinnen und Nutzer‹ solcher Systeme zu agieren. Dies bietet zugleich die Chance, sich stärker auf die Kernbereiche professionellen Handelns zu konzentrieren und Begutachtungen zu individualisieren. Es bedeutet aber auch, dass wir Pflegefachpersonen benötigen, die zum einen fachlich sehr gut ausgebildet sind, zum anderen aber auch in den Bereichen Datenkompetenz, KI-Kompetenz und digitale Ethik Kompetenzen erwerben müssen.
Was muss wissenschaftlich geklärt sein, bevor KI in der Pflegebegutachtung regelhaft eingesetzt werden kann?
Aus meiner Sicht müssen noch eine Reihe offener Fragen wissenschaftlich belastbar geklärt werden. Dies betrifft z. B. Fragen zur Validität und Transparenz: Liefert die KI konsistente und fachlich korrekte Ergebnisse und sind diese Ergebnisse mindestens gleichwertig oder besser als bestehende Verfahren? Verbessert KI tatsächlich die Qualität, Objektivität und Effizienz von Begutachtungen und trägt sie nachweislich zu fachlich besseren Ergebnissen für Pflegebedürftige bei? Können Pflegefachpersonen nachvollziehen, wie eine Empfehlung zustande kommt? Bei welchen Versorgungskonstellationen kommt KI derzeit an ihre Grenzen, z. B. aufgrund von Alter, Geschlecht, Bildung, Migrationshintergrund oder besonderen Pflegearrangements? Und werden möglicherweise bestimmte Personengruppen systematisch benachteiligt? Neben rechtlichen Fragen zur Verantwortung bei Fehlentscheidungen müsste für eine regelhafte Anwendung dann natürlich auch festgelegt werden, wie Datenschutz, informationelle Selbstbestimmung und Gerechtigkeit gewährleistet werden können. Und nicht zuletzt müsste man schauen, ob der Einsatz von KI langfristig die Urteilsbildung von Gutachterinnen und Gutachtern verändert und eine zu große Abhängigkeit von technischen Empfehlungen entsteht.
Insofern haben wir sicher noch einen längeren Weg vor uns. Aus meiner Sicht lohnt es sich jedoch, diesen Weg frühzeitig zu beschreiten, damit technische Möglichkeiten nicht die fachlichen Fragestellungen bestimmen, sondern fachliche Anforderungen die Entwicklung und den Einsatz von KI leiten.
