Was darf Künstliche Intelligenz künftig tun?

Unter dem Titel „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ hat der Deutsche Ethikrat am 20. März 2023 ein Positionspapier veröffentlicht, in dem er die Auswirkungen digitaler Technologien auf das menschliche Selbstverständnis und Miteinander umfassend untersucht und Empfehlungen ausspricht.

KI-Systeme haben heutzutage in nahezu alle Bereiche des öffentlichen und privaten Lebens Einzug gehalten und reichen von der Krebsdiagnostik in der Medizin und intelligenten Tutorsystemen in der Schule über Empfehlungssysteme auf Onlineplattformen bis hin zu Software, die Entscheidungen im Sozial- und Justizwesen oder bei der Polizei unterstützen soll. Daneben geht es darum, die im Zuge fortschreitender Digitalisierung in großem Umfang anfallenden Daten mittels Künstlicher Intelligenz zu nutzen. Der Einsatz der KI wirft vielfältige ethische Fragen auf, für die der Ethikrat nun eine „Beurteilungsmatrix“ entwickelt habe, erklärte Prof. Dr. Alena Buyx, Vorsitzende des Deutschen Ethikrates, bei der Vorstellung in Berlin.

Zu den grundlegenden Regeln für die ethische Bewertung der neuen Technologien gehört nach Buyx, dass der Einsatz der Künstlichen Intelligenz die menschliche Entfaltung erweitern solle und nicht „vermindern“ dürfe. Und ganz grundsätzlich formulierte Buyx die Anforderung „KI darf den Menschen nicht ersetzen.“

„KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen“, betont Julian Nida-Rümelin, der stellvertretende Vorsitzende des Deutschen Ethikrates und stellvertretende Sprecher der zuständigen Arbeitsgruppe. Dieser Schluss ergibt sich in der Stellungnahme aus einer Betrachtung zentraler philosophischer und anthropologischer Begriffe, die für das Verhältnis von Mensch und Maschine bedeutsam sind: Intelligenz, Vernunft, Handlung und Verantwortung.

Für die ethische Bewertung von KI ist das von Bedeutung, denn es genügt nicht, nur die Technologien zu verstehen. Auch die komplexen Wechselwirkungen zwischen Mensch und Technik sowie gesellschaftliche Effekte müssen beachtet werden. Deshalb lautet für den Ethikrat die zentrale Schlüsselfrage für die ethische Beurteilung von KI-Technologien: Werden menschliche Autorschaft und die Bedingungen für verantwortliches Handeln durch den Einsatz von KI erweitert oder vermindert?

Mit dieser Frage setzt sich der Deutsche Ethikrat in seiner Stellungnahme exemplarisch in vier Anwendungsbereichen auseinander – Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung. Dabei zeigt sich, dass die Beurteilung von KI immer kontext-, anwendungs- und personenspezifisch erfolgen muss. „Wenn menschliche Tätigkeiten an Maschinen delegiert werden, kann dies für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben“, sagt Judith Simon, die Sprecherin der Arbeitsgruppe. „Daher ist es wichtig, genau hinzuschauen, für wen dies mit erweiterten Handlungsspielräumen verbunden ist und wessen Handlungsmöglichkeiten eher vermindert werden.“

Dieses Anliegen schlägt sich auch in den Empfehlungen nieder, die der Deutsche Ethikrat zum Einsatz von KI in jedem der vier untersuchten Anwendungsbereiche formuliert. Für den Medizinbereich richten sich Empfehlungen unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten, auf die Vermeidung ärztlicher Kompetenzverluste und auf das Ziel, die Privatsphäre von Patientinnen und Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang zu bringen. Dabei gilt es, das Vertrauensverhältnis zwischen allen beteiligten Personen zu schützen und die vollständige Ersetzung medizinischer Fachkräfte zu vermeiden.

Die 287-seitige Stellungnahme ist auf der Website des Deutschen Ethikratesabrufbar.