Hiermit loggen Sie sich bei DocCheck-Login aus.
Abbrechen

Interview“KI-Entwickler sollten Hippokratischen Eid ablegen”

Ärztinnen und Ärzte werden künftig in allen Aspekten ihrer beruflichen Tätigkeit von Künstlicher Intelligenz (KI) unterstützt, ist Prof. Martin Hirsch überzeugt. Seit Jahren entwickelt er KI-gestützte Diagnosetools. Für "Der Hausarzt" gibt er Einblicke, was KI leisten kann und wo Gefahren bestehen.

Ein Roboter prüft den Blutdruck eines Patienten mit einem Stethoskop.

Es wird viel über KI – auch in der Medizin – geredet. Welche Dimensionen hat KI?

Prof. Martin Hirsch: KI hat zwei Dimensionen. Zum einen drängen Maschinen verstärkt in Lebensbereiche vor, von denen man immer annahm, dass nur Menschen dazu in der Lage sind. Das fing mit dem Schach spielen gegen den Computer an.

Heute sind vor allem Systeme wie ChatGPT in der Öffentlichkeit angekommen, die Texte schreiben und Dinge zusammenfassen oder Bilder erstellen. Sie liefern jetzt schon plausible Ergebnisse, deren (vermeintlich) hohes Niveau uns mitunter in Erstaunen versetzt. Das ist die eine menschliche Dimension.

Dann gibt es die technologische Dimension, die sich damit befasst: Wie baut man solche Maschinen, die selbst lernen und Lösungen anbieten? Ein typisches Beispiel in der Medizin ist das Erkennen eines Melanoms. Hier wurden Systeme entwickelt, die schon recht gut entscheiden können: Das ist ein Melanom, das ist keines. Sie liefern bisher aber nicht die Information, woran sie die Diagnose festmachen.

Was meinen Sie mit “vermeintlich hohem Niveau”?

Die Anwender wissen nicht, ob eine Antwort von ChatGPT wirklich stimmt – zumindest als Laie. Die Systeme wie etwa ChatGPT, die der breiten Öffentlichkeit zur Verfügung stehen, sind so konzipiert, dass sie eine Antwort erfinden, wenn sie diese nicht kennen. Bis jetzt gibt es keine KI, die so etwas wie Verständnis hat.

Für Menschen wirken die Antworten jedoch so, als hätte die KI die jeweilige Frage verstanden. Ein Beispiel: Wenn Sie mich fragen, wie viele Zellschichten hat der Cortex der Maus, müsste ich antworten: “Das weiß ich nicht.” Ich weiß aber genug von Säugetieren und vom menschlichen Cortex, dass ich vermuten würde, es könnten bei der Maus sechs Schichten sein. Eine Maschine würde keine Vermutung aussprechen und irgendetwas antworten. Ich denke aber schon, dass es Maschinen mit Verständnis in einigen Jahren geben wird.

Gerade herrscht eher Technik- Frust: Viele Ärztinnen und Ärzte machen schlechte Erfahrungen mit TI-Anwendungen. Jetzt auch noch KI… Wie nehmen Sie das wahr?

Ich verstehe es, wenn Hausärztinnen und Hausärzte bei KI abwinken. Die Digitalisierung in Deutschland ist ein Desaster. Das ist alles gut gemeint und die TI ist von der Grundstruktur auch nicht schlecht. Aber wir Deutschen neigen zur Überregulierung und dann wird es entsetzlich kompliziert. Ich glaube aber auch nicht, dass die KI über ein Programm – wie etwa Word oder Apps – in die Praxis kommt.

Wie kommt KI in die Praxis?

Viele Medizingerätehersteller verbauen KI in ihren Geräten. So wird zum Beispiel die KI-gestützte Auskultation der Lunge in Medizintechnik eingebaut. Wenn Rezepte verschrieben werden, informiert die KI zum Beispiel, dass dieses oder jenes Medikament in der Altersgruppe bei dieser oder jener Erkrankung Risiken birgt. Ich glaube, dass Hausärztinnen und Hausärzte auf diese Weise der KI begegnen werden.

Können Ärztinnen und Ärzte dieser Technik vertrauen?

Ich glaube nicht, dass sie sich große Sorgen machen müssen. Es gibt immer noch das Medizinproduktegesetz. Sei es auf Therapie- oder Diagnoseseite, Produkte müssen immer auch die Gesetzesanforderungen erfüllen. Wenn Menschen in die Praxis kommen, kann die Ärztin oder der Arzt immer sagen: “Ich nutze KI, ist das in Ordnung für Sie?”

Denkbar ist etwa, dass mit einer KI das Gespräch aufgezeichnet und anschließend ein Protokoll erstellt wird, das automatisch der Dokumentation dient (siehe Artikel “KI-Tools für Praxen“). So können Ärzte immens Zeit gewinnen. Oder aber der Patient kommt aus dem Wartezimmer zum Arzt und eine Vor-Anamnese liegt bereits über eine App vor.

Hier hat sich zum Beispiel Ada bewährt. In den USA wurden bereits über 50 Millionen Menschen mit Ada ins System eingesteuert. In Deutschland sehen hingegen viele solche Tools noch kritisch.

Eine KI-Kabine, die in der Notaufnahme in Marburg erprobt wird, haben Sie bei der Ausstellung “DGIM Futur” auf dem Deutschen Internistenkongress vorgestellt. Dort werden Menschen von einer KI befragt. Könnte das künftig für Hausarztpraxen interessant sein?

Wir haben auf der Bundesgartenschau in Mannheim mal eine ähnliche KI-Kabine, die wie eine gelbe Telefonzelle aussah, aufgestellt. Die Menschen konnten sich mit einem “KI-Doktor” über Gesundheitsthemen unterhalten. Wir haben über 8.000 Gespräche aufgezeichnet und ausgewertet.

Viele haben gesagt: Ich würde lieber zu einem echten Arzt gehen, aber die Wartezeit auf einen Termin ist zu lang. Der Ärztemangel und der Zeitdruck, dem Hausärztinnen und Hausärzte heute ausgesetzt sind, wird den Einsatz von KI-Techniken zwingend nötig machen – vor allem auf dem Land. In welcher Form muss sich noch zeigen.

Wird es also den Leibarzt auf dem Smartphone geben?

Ja, davon bin ich überzeugt. Aber das wird noch dauern. In naher Zukunft werden Menschen aber immer häufiger ihre eigene Gesundheit überwachen. Schon jetzt tragen viele eine Watch, die Blutdruck, Puls etc. kontrolliert.

Wird KI langfristig Ärztinnen und Ärzte ersetzen können?

Nein. Aber Ärztinnen und Ärzte werden sich wieder mehr auf menschliche Fähigkeiten konzentrieren müssen wie gutes Zuhören und Zuwendung. Als Kind kann ich mich erinnern – wenn ich krank war, kam der großgewachsene Mann mit der tiefen Stimme und der großen Tasche in der Hand.

Sobald er zur Tür hereinkam, wusste ich: Ich werde wieder gesund. Dazu haben heute die Hausärztinnen und Hausärzte immer seltener Zeit. Die KI wird entlasten und Zeit für ärztliche Zuwendung schaffen. Zwischenmenschliches kann nur zwischen Menschen stattfinden, nie zwischen Mensch und KI.

Das klingt so, als könnte das auch ein Pfarrer übernehmen…

Nein, medizinischer Sachverstand wird weiter nötig sein. Nur hat heute schon die Technisierung in der Medizin die Oberhand gewonnen. Ausführliche Anamnesen und körperliche Untersuchungen finden kaum statt – auch weil schlicht die Zeit in den Praxen fehlt.

Die Vorstellung, dass eine Technologie in die menschliche Domäne eindringt, wirft Fragen auf. Zum Beispiel: Wer wird mein primärer Ansprechpartner sein, wenn es um die Gesundheit geht? Ich bin mir sicher, dass das in Zukunft eine Kombination aus einer einfach verfügbaren, persönlichen KI und einer schwerer ereichbaren Hausarztpraxis sein wird.

Sehen Sie Risiken beim Einsatz von KI?

Im Moment beunruhigt mich, dass der Einsatz und die Weiterentwicklung von KI von Unternehmen ausgeht und nicht von der Akademie. Das bedeutet, dass die Algorithmen, mit denen Ärztinnen und Ärzte arbeiten, aus der Privatwirtschaft stammen.

Das ist nicht grundsätzlich schlecht, aber mir wäre wohler, wenn die Entwickler von KI und Clinical-Decision-Support Systemen sich einem ethischen Kodex wie dem Hippokratischen Eid in der ärztlichen Berufsordnung unterwerfen würden. Schließlich greifen sie mit ihren Systemen in die Gedankenwege der Ärzteschaft ein.

Ich frage mich: Wieso sollen Ärzte die Grundlagen der KI lernen? Wieso verlangen wir nicht von Informatikern, dass diese die Grundlagen der Medizin lernen? Ich bin aber optimistisch, dass wir da weiterkommen.

Immer mehr Menschen kommen jetzt schon mit Diagnosen von Dr. Google. Daskann nerven. Wird das mit KI nicht noch schlimmer?

Von ChatGPT werden Patientinnen und Patienten keine Antworten bekommen. Mit der allgemeinen rechtlichen Absicherung wurde das System zurechtgestutzt – medizinische Themen wurden hochgradig reduziert. Deshalb glaube ich nicht, dass das ein Problem ist. Wahrscheinlich wird es Systeme speziell für Medizinpersonal geben.

Auch Hausärztinnen und -ärzte werden künftig nicht mehr ohne KI arbeiten wollen. Schon allein, weil sie Entlastung brauchen.

Wo sehen Sie in naher Zukunft Einsatzgebiete der KI?

Die Unterstützung bei der Diagnose halte ich für wichtig. Mir fallen hier Drehtürpatienten ein. Diese kommen in die Praxis, ihnen wird vielleicht ein neues Medikament gegeben, nach drei Wochen werden sie wieder vorstellig.

Mitunter dauert es fünf bis sieben Jahre, bis ein Mensch mit einer seltenen Erkrankung eine Diagnose erhält. Hier würde die KI, die die Symptome auswerten kann, helfen. Dazu braucht es aber auch Abrechnungsziffern, damit der Einsatz von KI vergütet wird.

Einen großen Effekt wird KI auf das Monitoring von chronisch Kranken haben. Sie können gut telemedizinisch überwacht werden. Läuft etwas aus dem Ruder, wird die betreuende Ärztin oder der Arzt gewarnt und kann reagieren. Gerade für die medizinische Versorgung auf dem Land werden solche Systeme künftig an Bedeutung gewinnen.

E-Mail-Adresse vergessen? Schreiben Sie uns.
Passwort vergessen? Sie können es zurücksetzen.
Nur wenn Sie sich sicher sind.

Sie haben noch kein Passwort?

Gleich registrieren ...

Für Hausärzte, VERAH® und ÄiW (Allgemeinmedizin und Innere Medizin mit hausärztlichem Schwerpunkt) ist der Zugang immer kostenfrei.

Mitglieder der Landesverbände im Deutschen Hausärzteverband profitieren außerdem von zahlreichen Extras.

Hier erfolgt die Registrierung für das Portal und den Newsletter.


Persönliche Daten

Ihr Beruf

Legitimation

Die Registrierung steht exklusiv ausgewählten Fachkreisen zur Verfügung. Damit Ihr Zugang freigeschaltet werden kann, bitten wir Sie, sich entweder mittels Ihrer EFN zu legitimieren oder einen geeigneten Berufsnachweis hochzuladen.

Einen Berufsnachweis benötigen wir zur Prüfung, wenn Sie sich nicht mittels EFN autorisieren können oder wollen.
Mitglied im Hausärzteverband
Mitglieder erhalten Zugriff auf weitere Inhalte und Tools.
Mit der Registrierung als Mitglied im Hausärzteverband stimmen Sie zu, dass wir Ihre Mitgliedschaft überprüfen.

Newsletter
Sie stimmen zu, dass wir Ihre E-Mail-Adresse für diesen Zweck an unseren Dienstleister Mailjet übermitteln dürfen. Den Newsletter können Sie jederzeit wieder abbestellen.

Das Kleingedruckte
Die Zustimmung ist notwendig. Sie können Sie jederzeit widerrufen, außerdem steht Ihnen das Recht zu, dass wir alle Ihre Daten löschen. Jedoch erlischt dann Ihr Zugang.
Newsletter abbestellen

Wenn Sie den Newsletter abbestellen wollen, geben Sie bitte Ihre E-Mail-Adresse an und wählen Sie die gewünschte Funktion. Wir senden Ihnen dann eine E-Mail zur Bestätigung.