ChatGPT ist ein mächtiges Werkzeug, das große Chancen – aber auch Risiken birgt. Digitalisierungs-Expertin Inga Bergen erläutert im Interview, wie Krankenkassen generative KI verantwortungsvoll einsetzen können.
Inga Bergen, der wissenschaftliche Beirat für digitale Transformation der AOK Nordost gibt in dem Impulspapier „Besser versichert mit ChatGPT?“ Krankenkassen zehn Anregungen für den weiteren Umgang mit generativer KI. Was für Chancen bietet der Einsatz generativer KI den Krankenkassen aus Sicht des Beirats?
Inga Bergen: Krankenkassen sollten sich dem Einsatz von generativer KI grundsätzlich öffnen, denn die Chancen sind groß. Es geht zum einen um bessere Aufbereitung und Bereitstellung von Informationen und um Wissensmanagement. Die Chancen liegen aber auch in der Aufbereitung und besseren Strukturierung der internen Geschäftsprozesse. Wenn KI richtig eingesetzt wird, ist auch ein Einsatz von Chatbots in der Kundenkommunikation denkbar – bis hin zu den Möglichkeiten, Versicherte bei Gesundheitsthemen zu unterstützen, zum Beispiel in der Prävention.
Wer ist… Inga Bergen?
Inga Bergen hat bereits zwei Unternehmen im Bereich Digital Health als CEO aufgebaut. Sie ist studierte Politikwissenschaftlerin, nach kurzen Stationen beim Auswärtigen Amt, der UN & der Bertelsmann Stiftung ist sie 2006 ins Digitalgeschäft gewechselt und war lange bei der digitalen Innovationsberatung FJORD. Inga Bergen interessiert, wie Digitalisierung genutzt werden kann, so dass am Ende die ganze Gesellschaft davon profitiert. Heute berät sie Digital Health Unternehmer und Unternehmen, ist ich in zahlreichen Beiräten von Unternehmen und Körperschaften in der Gesundheitswirtschaft, lehrt Innovationsmethoden und ist Host des Podcast „Visionäre der Gesundheit“.
Ein großes Risiko beim Einsatz von ChatGPT ist, dass es häufig fehlerhafte Antworten gibt – die sich aber erstmal plausibel anhören. Wie können Krankenkassen diesem Problem begegnen?
ChatGPT ist ein Tool, das man benutzen kann, das aber ohne eine Qualitätskontrolle nicht funktioniert. Krankenkassen müssen also ihre Mitarbeitenden befähigen, Faktenchecks durchzuführen. In Zukunft brauchen wir hier neue spezialisierte Berufe, um diese Aufgabe effizient zu erfüllen. Derzeit sollten Krankenkassen generative KI eher wie so eine Art Sparringspartner nutzen, mit dem sie schneller arbeiten können.
Wenn eine Krankenkasse bereit ist, in Kooperation mit KI-Experten unternehmensinterne KI-Modelle zu trainieren, würde das die Präzision der Ergebnisse signifikant erhöhen. Allerdings setzt auch diese Form der Nutzung eine datenschutzkonforme Anwendung voraus.
Die italienischen Datenschutzbehörden haben ChatGPT zwischenzeitlich gesperrt, die deutschen Landesdatenschützer:innen haben einen Fragenkatalog an das Unternehmen gesendet, um mögliche Datenschutzverstößen aufzuspüren. Kann ChatGPT derzeit überhaupt datenschutzkonform genutzt werden?
Das datenschutzrechtliche Risiko hängt von zwei Faktoren ab. Der erste Faktor ist, welche Daten dort eingegeben werden. Wenn man keine personenbezogenen Daten eingibt, ist das datenschutzrechtliche Risiko gering. Und dann gibt es die Möglichkeit, Daten auch nicht weiterzugeben an ChatGPT beziehungsweise Open AI, wenn man das in den Einstellungen selbst vornimmt. Das hat Open AI so angepasst als Reaktion auf das Verbot in Italien, woraufhin die italienischen Behörden die Sperrung wieder aufgehoben haben.
Das Positionspapier
Das Positionspapier des wissenschaftlichen Beirats für Digitalisierung der AOK Nordost zum Einsatz von ChatGPT bei Krankenkassen mit 10 Anregungen zum Umgang mit generativer KI aus rechtlicher, technischer, gesellschaftlicher und ethischer Sicht: Besser versichert mit ChatGPT & Co.?
