Werden Maschinen und Algorithmen künftig eine zentrale Rolle in der Versorgung Pflegebedürftiger spielen? Viele Menschen reagieren nachdenklich, wenn sie an die Möglichkeiten von KI in der Pflege denken.
Manfred Ensen ist Heimleiter des Seniorenpflegeheims ›Haus Friede‹ im niedersächsischen Leer und eigentlich ein technikaffiner Mensch, wie er sagt. »Aber wenn ich die Entwicklung von KI in der Pflege betrachte, dann sehe ich einen gewissen Wandel: Die Einsamkeit wird stetig zunehmen.« Er sagt das, nachdem er im Januar den humanoiden KI-Roboter namens Ameca in seinem Haus einer Gruppe von Seniorinnen und Senioren vorstellte. Die Oldenburger Firma Offis wollte testen, ob die Bewohnerinnen und Bewohner den Roboter akzeptieren. Ameca winkt, spricht, merkt sich Namen, kann sogar der Seniorenrunde ein paar SitzgymnastikÜbungen vorturnen – und die Bewohner aus dem ›Haus Friede‹ »haben alle ohne Wenn und Aber mitgemacht«, berichtet Ensen. Kurz: Die Bewohnerinnen und Bewohner haben Ameca weitgehend akzeptiert.
Zuwendung simulieren?
Aber noch hat der Einsatz von KI-gesteuerten Robotern im Pflegeheim seine Grenzen. Sie könnten zwar auf Zuruf die Jalousien rauf- und runterfahren oder das Licht dimmen. »Alles das ist heute schon möglich. Aber es gibt noch keine wirklich hilfreichen Roboter, die einen Pflegebedürftigen betten oder waschen könnten«, meint Ensen. Doch in zehn Jahren werden Roboter im Einsatz sein, die zwar nicht die Bewohnerinnen und Bewohner waschen, aber die eine Art Zuwendung simulieren können, nach Art des Roboters Ameca.
Auf jeden Fall dürfte KI in der Pflege bald eine prägendere Rolle spielen.
Auf jeden Fall dürfte KI in der Pflege bald eine prägendere Rolle spielen. So lässt sich z. B. mithilfe von Algorithmen das individuelle Risiko eines Delirs bei älteren Menschen im Pflegeheim bestimmen. »Delire gehören zu den häufigsten Komplikationen in der Versorgung von Seniorinnen und Senioren. Verwirrung, Stress, verlängerte Krankenhausaufenthalte sind die Folgen. Es sei denn, man könnte das Delirrisiko besser vorhersagen und mit diesem Wissen die Folgen lindern«, sagt Gesundheitswissenschaftler Sven Ziegler von der Uniklinik Freiburg. Er hat das Projekt KIDELIR mitinitiiert.
Algorithmen errechnen das Risiko für Delire
Dabei haben die Initiatoren aus mehr als 1 Mio. stationären Fällen die Diagnosen, Labor- und Vitalparameter, die Medikation und viele weitere Patientendaten herangezogen und »einen Algorithmus trainiert«, wie Ziegler sagt, »einen Algorithmus, der am Schluss eine verlässliche individuelle Risikoeinschätzung für einen Bewohner zulässt.«
Doch ebenso wie bei Ameca steht auch bei den KIErgebnissen der Algorithmen die menschliche Dimension infrage. »KI ist ja schön und gut«, sagt Ziegler über das Projekt KIDELIR, »aber die Ergebnisse müssen ja auch plausibel sein. Deshalb haben wir die Einschätzung der KI kombiniert mit dem persönlichen Know-how von Pflegenden und Medizinern, mit ihnen Workshops gemacht und Ergebnisse diskutiert.« So sollen durch KI nicht Algorithmen und Maschinen die Macht übernehmen, sondern den Pflegenden und Medizinern assistieren.
Interview mit Prof. Dr. Giovanni Maio
Giovanni Maio ist Mediziner, Philosoph und Universitätsprofessor für Medizinethik an der Albert-Ludwigs-Universität in Freiburg. Wie schätzt er die Grenzen von KI in der Pflege ein?
Es kann verstörend sein, wenn ältere Menschen mit einem durch KI lernenden Roboter sprechen. Er redet die Senioren mit Namen an, kennt z. B. deren Lieblingsspeise oder weiß um ihre Hobbys und bietet passende Bewegungsspiele an. Was geschieht da?
Solche sozialen Roboter, wie sie sehr vereinfacht bezeichnet werden, können gute Gefühle auslösen, etwa bei Demenzpatienten. Aber es gibt eine Schattenseite: Die Patienten realisieren nicht, dass sie es mit einer Maschine zu tun haben, dass sie getäuscht werden, dass der Roboter Gefühle simuliert, ohne Gefühle zu haben.
Könnte man nicht sagen: Solange die Täuschung hält, ist alles gut? Die Senioren irren sich zwar. Aber sie wären im Irrtum glücklich.
Das Tragische ist die reale Asymmetrie. Es ist ja erwiesen, dass die alten Menschen eine Beziehung zu den Robotern aufbauen, obwohl das Gerät nichts empfindet, keine Bindung kennt und nichts wirklich versteht. Da werden alte Menschen den Maschinen überlassen und bleiben doch letztlich sozial mutterseelenallein. Denn die Roboter sind des Sozialen nicht fähig! Sie verstehen nicht Einsamkeit noch Freude. Statt ihm die Seniorenheimbewohner auszuliefern, sollte man Methoden entwickeln, die es ermöglichen, untereinander in sozialem Kontakt zu bleiben. Sonst droht die Entmenschlichung der Pflege.
Ist das eine Frage der Würde?
So ist es. Wenn man die Menschen mit Robotern täuscht, dann werden sie wie Objekte behandelt. Und damit berauben wir sie ihrer Würde. Wie werden wir dann noch der Unverwechselbarkeit des Menschen gerecht? Gar nicht. Verständnis oder eine zwischenmenschlich sorgende Haltung liegen den Maschinen fern. Sie folgen nur den Algorithmen.
Wo wäre denn der Einsatz von KI dagegen sinnvoll?
Ein Forschungsprojekt hat z. B. viele Patientendaten ausgewertet und sie über einen Algorithmus auf Anzeichen eines Delirs analysiert. So kann KI helfen, Delirrisiken bei Pflegepatienten zu ermitteln. Natürlich können wir über KI z. B. Prognosen erstellen, die treffsicherer sind als herkömmliche Verfahren. Und dort sollte man KI auch anwenden. Allerdings, auch hier gibt es Schattenseiten: Die Pflegekräfte und Ärzte nutzen dann womöglich immer häufiger KI-generierte Erkenntnisse und nehmen die eigene Urteilskraft, das eigene Erfahrungswissen gar nicht mehr in Anspruch. Um ein Gesamtbild zu bekommen, braucht es also beides: Das Wissen aus KI und das Erfahrungswissen der Medizin und Pflege. Diesen Zusammenhang darf man nicht kleinreden! Denn Studien haben ergeben, dass 76% der befragten Ärztinnen und Ärzte sich bei der Medikation an die Empfehlungen der KI gehalten haben und nicht an die Therapieoption, die sie selbst gewählt haben.
Wer trägt bei KI-gestützten Entscheidungen die Verantwortung?
Ich würde sagen, wir sind im Zusammenhang mit KI in der Medizin und Pflege regelrecht euphorisiert. Es gibt so eine Art Hörigkeit – letztlich, um die eigene Verantwortung für die getroffenen Entscheidungen zu umgehen. Man verlässt sich auf KI, um nicht belangt werden zu können. Was im Versorgungsalltag bleibt, ist eine grundsätzliche Verantwortungsdiffusion. Ich meine aber, Pflege und Medizin müssen unbedingt verantwortlich bleiben!
KI – das bedeutet, dass Maschinen menschlich erscheinen können. Werden umgekehrt Menschen durch KI zu Maschinen?
Einerseits erleben wir eine Tendenz zur Vermenschlichung der Maschinen. Wir unterlegen diese Maschinen ja nur zu gerne mit Begriffen, die eigentlich Menschen vorbehalten sind, z. B. sozial, freundlich, sicher, unermüdlich. Zugleich neigen wir dazu, das, was der Mensch z. B. in der Medizin leistet, auf das rein Mechanische, Verrichtende zu reduzieren. Neben der Vermenschlichung der Maschine erleben wir somit eine Mechanisierung menschlicher Leistungen und übersehen, dass beide Vorannahmen falsch sind. Solange wir aber diesen Fehlannahmen aufsitzen, werden immer wieder Stimmen laut, die sagen: Was die Pflege kann, kann die KI auch. Dabei ist das, was die Pflegekräfte können, viel mehr als das Mechanische: Sie können sich einfühlen, Erfahrungen sammeln, intuitiv vorgehen und sich ein Gesamtbild der Pflegepatienten verschaffen. Das ist Beziehungsarbeit, wie sie nur Menschen tun können. Sie haben emotionale Intelligenz, soziale Intelligenz und damit eine lebensweltliche Problemlösungsintelligenz. All diese Intelligenzformen hat die KI nicht. Die KI kann besser rechnen als der Mensch, aber am Ende versteht sie nicht, was sie rechnet, und das macht sie zu einem bloßen Hilfsmittel und nicht zum letztgültigen Problemlöser: Denn das kann nur der Mensch.
