Darf der Roboter den Menschen ersetzen?

Werden KI-gesteuerte Geräte bald die Regie bei Operationen übernehmen? Ersetzen Roboter bald die Pflegerin im Pflegeheim? Über die ethischen Herausforderungen, die sich mit dem Einzug dieser neuen Technologie in Medizin und Pflege stellen, sprach forum mit dem Vorsitzenden des Deutschen Ethikrates, Professor Dr. jur. Helmut Frister.

Professor Frister, die Künstliche Intelligenz löst Begeisterung aus, aber weckt auch Ängste. Zu Recht?

Es gibt unbegründete Ängste, aber auch berechtigte Ängste aufgrund von Risiken, auf die man hinweisen muss. Der Deutsche Ethikrat hat dies bereits früh getan. 2023 hat das Gremium eine umfangreiche Stellungnahme zum KI-Einsatz veröffentlicht.

Waren Sie mit der Resonanz zufrieden?

Die Resonanz war überwältigend. Das lag unter anderem daran, dass unsere Stellungnahme kurz nach der Premiere von ChatGPT veröffentlicht wurde. Alle interessierten sich plötzlich für KI und damit auch für unsere Stellungnahme, obwohl ›Large Language M‹, also große Sprachmodelle wie ChatGPT in unserer Stellungnahme noch kein Thema waren. Aus verständlichen Gründen. ChatGPT war bei der Fertigstellung der Stellungnahme noch nicht auf dem Markt.

Gab es auch Reaktionen aus der Politik?

Es gab Einladungen der Fraktionen und sogar des Bundespräsidenten. Aber uns ging es nicht unmittelbar darum, gesetzliche Regelungen auf den Weg zu bringen. Seit zwei Jahren gibt es ein umfassendes Gesetz zur Regulierung der Künstlichen Intelligenz auf europäischer Ebene. Da steht sehr viel drin, was gemacht werden muss. Jetzt geht es darum, diese EU-Verordnung (AI-Act) anzuwenden und mit Leben zu füllen, was schwierig genug ist. Im Februar hat das Bundeskabinett hierzu einen Gesetzentwurf auf den Weg gebracht.

Wo sehen Sie den größten Handlungsbedarf?

Man muss dafür sorgen, dass KI-Anwendungen die erforderliche Qualität aufweisen. Das kann man nicht allein durch gesetzliche Vorschriften erreichen. Denn jede KI ist nur so gut wie die Trainingsdaten, die bei der Entwicklung zur Verfügung stehen. Um eine KI im medizinischen Bereich zu entwickeln, müssen die Informatiker mit Medizinexperten, am besten mit den medizinischen Fachgesellschaften zusammenarbeiten. Diese Kooperation muss bei jeder Entwicklung sozusagen tagtäglich stattfinden. Darin sehe ich aktuell die größte Herausforderung. Die Qualität muss gewährleistet sein.

Passiert das schon? Wırd kooperiert?

Ja. Aber ich glaube, es ist noch nicht ausreichend institutionalisiert.

Kommen wir zum praktischen Einsatz der neuen Technologie in Praxen und Kliniken. Welche ethischen Anforderungen sehen Sie?

Diese neuen Entwicklungen müssen für alle Patienten und Patientinnen zugänglich sind. Sie dürfen nicht in der High-TechMedizin verbleiben. Dann hätten wir eine Zwei-Klassen-Medizin. Dies betrifft auch die Ausbildung der Mediziner. Alle müssen integriert werden, damit alle lernen, mit der neuen Technologie umzugehen.

Es gibt Stimmen, die vor einem blinden Vertrauen in die KI-Systeme warnen. Was sagen Sie dazu?

Mir ist wichtig: Die KI darf nicht die letzte Entscheidung treffen. Die KI-Entscheidung muss generell einer Plausibilitätskontrolle durch den Arzt unterzogen werden. In der Praxis ist dies allerdings nicht einfach umzusetzen. Wenn Studien zeigen, dass die KI besser ist als ein erfahrener Radiologe oder eine erfahrene Radiologin, dann wird es für ihn oder sie schwer, zu sagen, ich überstimme die KI. Kann er das verantworten? Darin steckt eine erhebliche ethische Herausforderung.

Das würde bedeuten, dass Ärztinnen und Ärzte zu Assistenten der Maschine werden.

Die Gefahr besteht, mit möglicherweise weitreichenden Folgen. Wenn man routinemäßig der KI immer mehr Entscheidungen überlässt, leidet die menschliche Fähigkeit, selbst Diagnosen zu stellen. Das wiederum könnte zu gravierenden Problemen führen, wenn die KI mal nicht zur Verfügung steht und ausfällt. Hinzu kommt das Problem der Intransparenz der KI-Systeme. Bei manchen Systemen können selbst die Entwickler einzelne Entscheidungen nicht mehr nachvollziehen. Warum empfiehlt die KI dies oder jenes? Die KI urteilt nicht aufgrund von Erfahrung. In der Medizin geht es aber oft um für die Menschen bedeutungsvolle Entscheidungen. Wenn man diese Entscheidung nicht erklären kann, ist das schwierig.

Aber der Umgang mit hoch spezialisierter Technik, die Mediziner nicht erklären können, ist im Gesundheitswesen nicht neu.

Stimmt. Aber wir haben ein enormes ethisches Problem, wenn die KI eine weitere Chemotherapie als aussichtslos bewertet, aber der Mediziner und der Patient nicht wissen warum. Das darf es eigentlich nicht geben. Schließt sich eine weitere Frage an: Wer ist bei einer Fehldiagnose verantwortlich? Wenn die KI einen Fehler macht, ist derjenige verantwortlich, der sie entwickelt und trainiert hat. Es tritt die Produkthaftung ein. Wenn allerdings die KI falsch eingesetzt wurde, ist der Anwender, der Mediziner, verantwortlich. Schwierig wird es, wenn die KI falsch liegt, aber für den Fehler weder Anwender noch Entwickler verantwortlich sind. Es gibt Überlegungen, dass die KI eine eigene Rechtspersönlichkeit bekommt, also letztlich selbst haften sollte. Aber das halte ich für eine Scheindiskussion.

Sind die Patientinnen und Patienten aktuell ausreichend vom Recht geschützt?

Ja. Wie bei anderen Behandlungsproblemen.

Der Rat hat sich sehr früh auch mit dem Einsatz von Assistenzrobotern in der Pflege beschäftigt und davor gewarnt, sie einzig zur Lösung der Personalprobleme zu nutzen. Ist diese Botschaft angekommen?

Von den Pflegeexperten im Ethikrat höre ich, dass die Stimmung in der Branche schwankt. Manche glauben an den Nutzen von KI. Es gibt aber auch Stimmen, die befürchten, dass der Pflegeaufwand mit dem Einsatz des Roboters steigt und die Gefahr besteht, dass man sich mehr mit dem Roboter und weniger mit den Menschen beschäftigt. Ich persönlich kann mir vorstellen, dass man das Personal von bestimmten Routinetätigkeiten entlastet, um der enorm wichtigen menschlichen Zuwendung in der Pflege mehr Raum zu verschaffen. Ich hoffe, dass das gelingt. Aber das ist heute noch nicht absehbar.

Könnte der Rat nicht die erwünschte Entwicklung fördern?

Wir sind kein Aufsichtsgremium über die Pflege. Wir können nur Empfehlungen geben. Und man muss sehen: Wir haben aufgrund der demografischen Entwicklung in der Pflege ein Riesenproblem. Aber der Glaube, dieses ließe sich beheben, indem man Heerscharen von Robotern in die Pflegeheime schickt, wäre naiv.

Auch die Psychotherapie leidet unter Personalnot. Als Hilfe sind nun verstärkt KI-Chatbots im Einsatz. Birgt diese emotionale Beziehung zwischen Mensch und Maschine nicht auch Gefahren?

Richtig ist, dass viele der Apps, die im Internet angeboten werden, ohne die Genehmigung als digitale Gesundheitsanwendung hochproblematisch sind. Was passiert, wenn Menschen diesen Chatbot, der immer freundlich ist, mit einem echten Menschen verwechseln? Wenn er die Freundin ersetzt? Es gibt Vermutungen, dass dabei die Fähigkeit zu normalen sozialen Kontakten, zum Einfühlen in mein Gegenüber verloren geht.

Besteht die Gefahr, dass grundsätzlich menschliche Zuwendung, ein wichtiger Teil jeder Therapie, verloren geht?

Ja. Aber das darf nicht geschehen. Menschliche Zuwendung ist wichtig, vor allem in der Pflege. Aber auch in der Medizin. Der Arzt muss mit dem Patienten sprechen, ihm alles erklären und nicht nur sagen: »Das sagt die KI.« Der Roboter darf den Menschen nicht ersetzen.

Wır haben nun viel über die Risiken gesprochen. Was ist mit den Chancen?

Gut, dass Sie das fragen. Eine Botschaft ist mir sehr wichtig: Die KI ist in der medizinischen Forschung enorm nützlich. Sie sieht Korrelationen, die ein Mensch nicht sehen kann. Das ist ein enormer Fortschritt für die Medizin, vor allem für die Krebsforschung und die Entwicklung von Impfstoffen. Und im besten Fall segensreich für die Menschen. Man darf nicht nur die Risiken sehen, sondern muss auch die Chancen beachten.