Vielleicht sind Sie schon bald bei Ihren vertraulichen Kundengesprächen in der Apotheke, zumindest rein technisch gesehen, nicht mehr ganz alleine. Denn die Wahrscheinlichkeit, dass Künstliche Intelligenz (KI) mithört, wächst zunehmend. Im gesamten Gesundheitswesen fließen weltweit derzeit hohe Investitionen in Geschäftsmodelle rund um generative KI. Die meisten davon drehen sich um die Integration natürlicher Sprache. Das Ziel dabei klingt durchaus erstrebenswert: es sollen zuverlässige Behandlungszusammenfassungen erstellt und Gesundheitsrisiken erkannt werden. Doch natürlich werden derartige Bemühungen stets von Qualitäts- und Datenschutzbedenken begleitet, die selbst von den Entwicklern dieser Tools nicht so ohne weiteres von der Hand zu weisen sind.
Dabei ist KI in ihrer Form des Machine und Deep Learnings in vielen Bereichen schon längst Teil des Versorgungsalltags. In der Radiologie wird sie seit vielen Jahren zunehmend eingesetzt. Bereits letztes Jahr, also 2022, nutzten 45% der Radiologen im deutschsprachigen Raum KI in ihrem Arbeitsalltag. Und satte 98% der Nichtnutzer standen dem Einsatz von KI grundsätzlich positiv gegenüber. Sie kann bei der Befundung unterstützen und als Qualitätskontrolle für eigene Befunde dienen. Daneben kann KI dabei helfen, krankhafte Veränderungen nicht zu übersehen; sie kann die Arbeitszeit verkürzen und die Effizienz verbessern. Ein automatisiertes Vier-Augen-Prinzip, wenn man möchte. Und all das, um es nochmal zu betonen, ist der Status Quo aus dem Jahr 2022 und kein Zukunftsszenario.
Doch die Einführung von ChatGPT im vergangenen Jahr erweiterte die Einsatzgebiete von KI um eine Vielzahl neuer Möglichkeiten. Möglichkeiten, die in dieser Form bis dahin unvorstellbar waren. So kündigte beispielsweise der US-amerikanische Hersteller von Praxisverwaltungssystemen (PVS), Hint Health, Ende September ein Produkt in Zusammenarbeit mit OpenAI an, das es Ärzten ermöglicht, einen Termin aufzuzeichnen, die Notizen automatisch zu transkribieren und eine Zusammenfassung davon zu erstellen, die direkt in die (elektronische) Patientenakte eingebettet wird. Das besondere dabei: es geschieht in den normalen, unveränderten Abläufen und Prozessen der Anwender, ohne dass diese angepasst werden müssten. Hint Health reiht sich damit in eine Reihe von Unternehmen ein, darunter Amazon, Microsoft und Google, die mit generativer KI den Markt für Gesundheitsdokumentation erobern wollen.
Das eigentlich besondere daran: Hint Health gehört damit zu einer wachsenden Anzahl von KI-Anbietern, deren Anwendungen direkt mit Patienten interagieren. Die Plattform für psychische Gesundheit Talkspace setzt bereits künstliche Intelligenz ein, um die Leistung seiner Therapeuten zu verfolgen, ihre Effizienz beim Onboarding zu bewerten, sie auf Patienten abzustimmen und das Engagement zwischen Therapeuten und Patienten nach den Sitzungen zu unterstützen. Dabei betreibt Talkspace seit drei Jahren auch ein KI-Tool, das in Chats mit Therapeuten auf Signale achtet, die darauf hindeuten, dass bei einem Patienten ein erhöhtes Risiko für Selbstverletzungen besteht, und dann den Arzt alarmiert. Qualtrics – ein Unternehmen, dessen Kerngeschäft im Zusammenbringen von Daten aus unterschiedlichsten Quellen besteht, um ihre Anwender bei der Verbesserung des eigenen Kunden- und Mitarbeitererlebnisses zu unterstützen – hat KI eingesetzt, um Gespräche mit Kundendienstmitarbeitern und Rechnungsempfängern schriftlich zusammenzufassen. Als nächstes plant Qualtric, ein solches „Ambient Listening“ in Krankenhäuser zu bringen, um Ärzte über das Patientenerlebnis zu informieren. Schließlich gehören die Gespräche zwischen Ärzten und Patienten, insbesondere nach Operationen, zu den wichtigsten Momenten im Genesungsprozess. Dass diese Gespräche häufig verbesserbar sind, steht außer Frage. Dennoch müssen digitale Tools, die hier ansetzen, sorgfältig entwickelt und getestet werden, um den Ansprüchen an Sicherheit, Privatsphäre und Vertraulichkeit dieser Art von Gespräch gerecht zu werden.
Ähnlich vertraulich sind die Beratungsgespräche in der Apotheke. Wo, wenn nicht in der Apotheke, bekommen Patienten die letzte Chance, sich über die korrekte Therapie zu informieren, bevor sie mit ihrem Arzneimittel alleine gelassen werden. Würde auch hier KI mithören, so könnten beispielsweise Einnahmehinweise direkt in eine App zur Einnahmeerinnerung eingepflegt werden. Das Gespräch mit dem Apotheker könnte als Sprachmemo direkt im Smartphone der Kunden abgespeichert werden, so dass es sich Kunden mit schlechtem Gedächtnis später noch einmal anhören könnten. Es könnte von KI direkt in Fremdsprachen übersetzt werden. KI könnte Piktogramme generieren und damit Einnahmehinweise vereinfacht darstellen. Selbst Rückfragen an Ärzte oder Pflegekräfte könnten automatisch generiert und abgeschickt werden. Auch für Apotheken könnte der bürokratische Aufwand in der Nachbereitung komplexer Medikationsfälle deutlich reduziert werden und gleichzeitig die Therapietreue in der Bevölkerung gesteigert werden.
Bei allem Enthusiasmus darf aber eines nicht vergessen werden. KI ist für die meisten Menschen eine vollkommen neue Technologie, selbst wenn ihr Einsatz in den letzten Jahren stets zugenommen hat. Setzt man KI bei Patientengesprächen ein, so müssen sämtliche Bedenken hinsichtlich Datenschutz, Genauigkeit der Daten und vorurteilsfreier Bewertungen ausgeräumt sein. Egal, ob der Einsatz in der Apotheke, der Arztpraxis oder dem Krankenhaus erfolgt. Datenschützer haben bereits Alarm geschlagen, dass KI-Tools mit wenig oder ganz ohne Aufsicht eingeführt werden. Teilweise gibt es noch nicht einmal vorgegebene ethische Standards über die Frage, wann Patienten informiert werden. Eines der dringlichsten Datenschutzprobleme besteht darin, dass KI-Systeme mit großen Mengen an Daten trainiert werden müssen.
Hier muss Transparenz geschaffen werden. Wer trainiert die Systeme und hat Einsicht in echte Patientendaten? An welche Institutionen, Organisationen und Einzelpersonen werden die Daten weitergeleitet? Und wie kann man sie vor Missbrauch schützen? Solange diese berechtigten Datenschutzbedenken nicht ausgeräumt sind, bleibt die assistierende KI in der Offizin erst einmal ein Traum. Und wir sollten schnell den Rahmen dafür schaffen, dass er nicht zum Albtraum wird.
Das Edikt von Cupertino 