Berlin. Der Deutsche Ethikrat hat sich für strikte Begrenzungen bei der Verwendung von Künstlicher Intelligenz (KI) ausgesprochen. “Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern”, sagte Professor Alena Buyx, die Vorsitzende des Deutschen Ethikrates, am Montag (20.3.). “KI darf den Menschen nicht ersetzen”, betonte Buyx, bei er Präsentation der gut 280 Seiten umfassenden Stellungnahme “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” in Berlin.
KI-Systeme hätten heutzutage bereits in nahezu alle Bereiche des öffentlichen und privaten Lebens Einzug gehalten. Diese reichten von Krebsdiagnostik in der Medizin und intelligenten Tutorsystemen in der Schule über Empfehlungssysteme auf Onlineplattformen bis hin zu Software, die Entscheidungen im Sozial-und Justizwesen oder bei der Polizei unterstützen soll, erklärte Buyx.
KI Vorteile in der Medizin
Insbesondere in der medizinischen Forschung kämen KI-gestützte digitale Produkte zunehmend im Gesundheitssystem zum Einsatz. Das könne Vorteile haben. Der Ethikrat nennt beispielhaft die Durchsuchung großer Datenbanken, um treffsichere Vorhersagen über individuelle Krankheiten, die Ausbreitung eines Virus oder zur Struktur komplexer Moleküle zu machen.
Für Diagnostik und Therapie – etwa bei Brust – und Prostatakrebs – würden zunehmend KI-Instrumente entwickelt.
“Einer der wenigen medizinischen Handlungsbereiche, in denen KI-basierte Systeme zum Teil ärztliches bzw. anderes Gesundheitspersonal weitgehend oder sogar vollständig ersetzen können – jedenfalls in funktional-technischer Hinsicht – ist die Psychotherapie”, so Buyx weiter.
Ärztlichen Kompetenzverlust vermeiden
Bei der Entwicklung und Nutzung von KI-Produkten müsse allerdings ein ärztlicher Kompetenzverlust vermieden werden. Eine vollständige Ersetzung von Ärztinnen und Ärzten durch ein KI-System gefährde das Patientenwohl und sei auch nicht dadurch zu rechtfertigen, dass schon heute in bestimmten Versorgungsbereichen ein akuter Personalmangel bestehe, erklärte der Ethikrat.
KI besser als das Herkömmliche? Dann für alle!
Dabei gelte es, das Vertrauensverhältnis zwischen allen beteiligten Personen zu schützen und die vollständige Ersetzung medizinischer Fachkräfte zu vermeiden.
KI-Anwendungen, die nachweislich herkömmlichen Behandlungsmethoden überlegen seien, sollten allen einschlägigen Patientengruppen zur Verfügung stehen, so eine weitere Forderung des Ethikrates.
Die Stellungnahme finden Sie hier: Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz
