Künstliche Intelligenz in der Pflege Wie lässt sich KI mit dem Datenschutz vereinbaren?

Glaubt man den Fürsprechern neuer Technologien, dann werden Anwendungen, die auf künstlicher Intelligenz (KI) basieren, auch den Gesundheits- und Pflegesektor revolutionieren. Aber stimmt das wirklich?

von Maximilian Klose (Experte für Cloud- & Cyber-Security) und Thomas Althammer (Geschäftsführer, beide bei Althammer & Kill GmbH & Co. KG)

Künstliche Intelligenz kann in einem Bereich, in dem es vor allem auf Fürsorge von Mensch zu Mensch ankommt, Fachkräfte keinesfalls ersetzen. Aber sie kann Prozesse effizienter gestalten, sodass Pflegende von administrativen Aufgaben entlastet werden. Damit dies im Pflegealltag funktioniert, gilt es Chancen und Risiken, Datenschutz und IT-Sicherheit mitzudenken.

Was umgangssprachlich als KI bezeichnet wird, betrifft technologische Anwendungen, die auf maschinellem Lernen, Robotik, Spracherkennung und darüber hinaus Augmented Reality basieren. Durch sie kann die Patientenversorgung individualisiert, Verwaltungs- und Pflegeaufgaben sowie Dokumentation und Kommunikation verbessert und Diagnostik und Behandlung differenziert abgestimmt werden. Man denke nur an Routenplanung und Stauerkennung im Auto. Wenn die Routenplanungsdaten mit Einsatzplänen in der ambulanten Pflege und dem Krankentransport kombiniert werden, lässt sich der Ressourcen-Einsatz weiter optimieren, in dem Hol- und Bringdienste so geplant werden, dass sie bestmöglich auf die Verkehrslage, den Dienstplan, aber auch die Bedürfnisse der Pflegebedürftigen abgestimmt sind. Auch Sturzerkennungs-Apps, Sprachassistenten, Diagnose-Apps wie `dermanostic‘ oder Textverarbeitung mit ChatGPT funktionieren mittels KI und werden heute schon genutzt.

Rechtliche Grundlagen für Pflegeorganisationen

Je nach Organisation greift die DSGVO, das Gesetz über den Datenschutz der Evangelischen Kirche (DSG-EKD) für diakonische Einrichtungen oder das Gesetz über den Kirchlichen Datenschutz (KDG) für Einrichtungen der Caritas. Alle drei Vorschriften enthalten (noch) keine spezifischen Hinweise zu ‚Künstlicher Intelligenz‘ oder ‚Maschinellem Lernen‘. Zunächst gelten also die gleichen Regeln für den Umgang mit personenbezogenen Daten, wie bei allen anderen IT-Systemen.

Aktuell werden die datenschutzrechtlichen Anforderungen hinsichtlich KI in Fachkreisen sehr kontrovers diskutiert. Letztlich wird die europäische KI-Verordnung (AI-Act) künftig den Maßstab für die Bewertung von KI-Anwendungen in der EU setzen. Die Vorgaben der DSGVO bzw. die Kirchengesetze zum Datenschutz werden durch die KI-Verordnung nicht ersetzt (Art. 2 Abs. 7 AI-Act), sondern sind bei einem Personenbezug von Daten im Kontext von KI parallel anzuwenden. Dies hat Auswirkungen auf die Rechte von Betroffenen z. B. im Zusammenhang mit automatisierten Entscheidungen im Einzelfall einschließlich Profiling.

Den Einsatz neuer Technologien verantwortungsvoll gestalten

Auch wenn vieles sich erst entwickeln muss, Digitalisierung und KI werden elementare Bestandteile unserer Arbeitswelt werden. Deshalb ist es wichtig, Mitarbeitende aller Altersstufen mitzunehmen und für Vorteile sowie Grenzen von KI-Anwendungen zu sensibilisieren.

Ausprobieren und Ergebnisse kritisch prüfen sind gute Ratgeber im Umgang mit KI. Es sollten dabei keine sensiblen Informationen geteilt werden. Oftmals ist KI ein guter Impulsgeber, wenn es z. B. um das Schreiben von Texten geht. Das entbindet uns aber nicht davon, die erzeugten Ergebnisse auf ihren Wahrheitsgehalt hin genau zu überprüfen. Die KI-basierten Textgeneratoren verstehen die selbst erzeugten Texte nicht – sie kombinieren nur Wortfolgewahrscheinlichkeiten und erzeugen aus erlernten Datenbeständen eine Antwort, die auf uns sehr überzeugend wirkt, aber nicht zwingend richtig sein muss. Wenn die Quellen von schlechter Qualität sind oder die Fragestellung missverständlich ausgedrückt wird, produziert ChatGPT Falschaussagen, ohne rot zu werden. Es braucht weiterhin einen Menschen, um Fragestellungen zu formulieren und die Antwort zu interpretieren.

Auf der anderen Seite stehen mit „Grounding“ und „Retrieval-augmented Generation“ (RAG) bereits leistungsfähige Technologien bereit, um eigene Daten ohne vorheriges Training mithilfe von Standard-KI-Modellen verarbeiten zu lassen. Beim Grounding wird der Fragestellung ein Kontext gegeben, z. B. wenn vertrauenswürdige Daten und Quellen angereichert werden. RAG ist eine besondere Form des Groundings, bei der die Nutzung des KI-Modells mit Suchergebnissen aus einer Dokumentensammlung, einer Datenbank oder mit Ergebnissen einer Internetsuche erweitert wird. Das Wissen für die Antwort stammt also aus verknüpften Quellen und nicht aus dem Sprachmodell selbst. So lassen sich beispielsweise Klienten-Akten zusammenfassen oder Fragen zu Daten beantworten, ohne dass diese Daten selbst in das Sprachmodell aufgenommen werden.

Leitplanken für den Umgang mit KI

Die Gestaltung einer KI-Richtlinie und zugehöriger Nutzungsbedingungen ist unbedingt empfehlenswert, um grundlegende Regeln für den Einsatz festzuhalten. In der Praxis sind erste Muster verfügbar, z. B. von Vediso e. V. oder dem Evangelischen Werk für Diakonie und Entwicklung e. V. Diese bieten eine gute Orientierung, sollten aber immer im Kontext der eigenen Organisation verfasst werden. Dazu gehört ein Aushandlungsprozess, der die Unternehmensstrategie, mögliche Einsatzszenarien, aber auch ein Verständnis über Grenzen und Nicht-Geltung umfasst. Je nach Kenntnisstand und Zielsetzung bietet es sich an, externe Berater einzubinden.

Auch wenn im Spannungsfeld KI und Datenschutz mehr Fragen offen als beantwortet zu sein scheinen, es gibt große Potenziale, KI in der Sozialwirtschaft verantwortungsvoll und zum Wohle der Menschen zu nutzen. Bis zur Klärung der aufgezeigten Unklarheiten müssen Sozialunternehmen mit der aktuellen Rechtsunsicherheit umgehen.

Auf einen Blick

1. Unterstützung, nicht Ersatz:

KI kann Pflegekräfte von administrativen Aufgaben entlasten, aber sie ersetzt nicht die menschliche Fürsorge.

2. Technologische Vielfalt:

KI umfasst maschinelles Lernen, Robotik, Spracherkennung und Augmented Reality, die zur Individualisierung der Patientenver- sorgung und Optimierung von Verwaltungsaufgaben beitragen können.

3. Datenschutzregelungen:

Aktuelle Datenschutzgesetze wie die DSGVO gelten auch für KI, obwohl spezifische Hinweise zu KI noch fehlen. Eine europäische KI-Verordnung ist in Diskussion.

4. Mitarbeiter einbinden:

Digitalisierung und KI wer- den zunehmend wichtig. Es ist entscheidend, Mit- arbeiter aller Altersstufen für den Umgang mit KI zu sensibilisieren.

5. Richtlinien und Leitplanken:

Die Erstellung von KI- Richtlinien und Nutzungsbedingungen ist empfehlens- wert, um den Einsatz von KI verantwortungsvoll zu gestalten. Muster und externe Beratung können dabei unterstützen.