Suche

6 Fragen zu Art. 3 – Ein europäisches Grundrecht zur künstlichen Intelligenz?


Nach Definition sind Algorithmen dazu da, Probleme zu lösen. Wie wir anhand der Praxis erkennen können, lösen sie jedoch mindestens genau so viele Probleme aus. Denn Algorithmen greifen intransparent in immer mehr Lebensbereiche ein und betreffen dadurch die Ausübung verschiedener Grundrechte: Unter anderem die Privatsphäre durch Überwachungsmaßnahmen, die Menschenwürde im Rahmen von Sozialleistungen oder die Pressefreiheit bei der Auswahl und Darstellung von Nachrichten.


Mit Artikel 3 der Initiative „Jeder Mensch“ bietet Ferdinand von Schirach als Statthalter eine Vision und einen Maßstab für Gerichte, Gesetzgeber und Regierung auf europäischer Ebene: „Jeder Mensch hat das Recht, dass ihn belastende Algorithmen transparent, überprüfbar und fair sind. Wesentliche Entscheidungen muss ein Mensch treffen.“ Der Jurist und Schriftsteller Bijan Moini ist Mitglied des Vorstands der Stiftung „Jeder Mensch“ und hat an der Ausarbeitung der Forderungen mitgewirkt. In „6 Fragen zu 6 Grundrechten“ erklärt er, dass Artikel 3 nicht einen längst enteilten Zug stoppt, sondern stattdessen eine Weiche umstellt: in Richtung einer besseren Zukunft.


von Marie Müller-Elmau, Darian Leicher und Rebecca Jussen


"Jeder Mensch", Künstliche Intelligenz, Ferdinand von Schirach, Dr Bijan Moini. © Lea Donner.
Dr Bijan Moini. © Lea Donner.

Rechtverblüffend: Grundrechte haben den Sinn, Zeiten und Generationen zu überdauern. Das Themenfeld der künstlichen Intelligenz unterliegt rasanten Entwicklungen, die Technik überholt sich in ihrem Fortschritt ständig selbst. Wie können Sie diese Dynamik mit der Formulierung eines fundamentalen und beständigen Verfassungswerts angemessen vereinbaren?


Dr. Bijan Moini: Ja, Technik normativ einzuhegen, ist schwierig. Man muss sich dazu von dem Anspruch lösen, in Zeiten raschen Wandels Formulierungen für die Ewigkeit zu finden. Vorgaben für die Gegenwart und die nahe Zukunft zu entwickeln, ist Aufgabe genug. Wir haben uns in Artikel 3 auf Grundwerte unseres Zusammenlebens besonnen: Transparenz, Überprüfbarkeit, Fairness und menschliche Kontrolle. Das klingt alles zwar selbstverständlich, aber viele neue Anwendungen werden diesen Maßstäben nicht gerecht. Denken Sie zum Beispiel an Gesichtserkennungssysteme, die Menschen mit dunkler Hautfarbe öfter falsch identifizieren als andere. Oder an Software in den USA, die eingesetzt wird zu Entscheidungen über Untersuchungshaft, eine Entlassung auf Bewährung oder das Strafmaß, aber für die Betroffenen unter Vorschub der Geschäftsgeheimnisse der Hersteller nicht transparent ist. Artikel 3 ist eine justiziable Erinnerung daran, dass wir diese Grundwerte bei aller Dynamik und allen Verheißungen nicht aufgeben dürfen.


Rechtverblüffend: Einerseits ist Art. 3 von den sechs Rechten wohl am spezifischsten formuliert, andererseits scheint der Anwendungsbereich angesichts der Vielzahl der Fallgruppen enorm weit: Pressefreiheit, Kunstfreiheit und Recht auf Leben werden alle gleichermaßen als mögliche Verletzungen angesprochen. Wie groß oder klein denkt dieses Grundrecht?


Dr. Bijan Moini: In unserem kurzen Begleitkommentar haben wir es ein „Querschnittsgrundrecht“ genannt, weil tatsächlich schon heute und erst recht in der Zukunft in praktisch jedem Lebens- und damit Grundrechtsbereich künstliche Intelligenzen zum Einsatz kommen (werden). In dieser Hinsicht hat das Grundrecht einen weiten Anwendungsbereich. Andererseits sind Pressefreiheit, Kunstfreiheit und das Recht auf Leben schon grundrechtlich verankert. Unser Artikel 3 stellt „nur“ Anforderungen an die Qualität von Algorithmen und an das Verfahren ihrer Verwendung auf. Der Anwendungsbereich ist also groß, die Vorgaben aber begrenzt.


Rechtverblüffend: Erlaubt das Grundrecht einen Kompromiss zwischen berechtigtem Fortschritt und individuellem Schaden?


Dr. Bijan Moini: Das Grundrecht steht Fortschritt nicht im Weg, es treibt ihn an: Um eingesetzt zu werden, müssen künstliche Intelligenzen erklären können, warum sie die Verweigerung von Sozialhilfe für eine Person empfehlen, sie dürfen keine höhere Fehlerquote bei der Erkennung Schwarzer Menschen bei einer Personenfahndung aufweisen und sie müssen in allen wesentlichen Fragen eine kluge Symbiose ermöglichen zwischen ihrer Fähigkeit zur effizienten Vorbereitung einer Entscheidung und dem Treffen dieser Entscheidung durch einen Menschen.


Im Übrigen darf man nicht aus dem Blick verlieren: Artikel 3 bindet in erster Linie den Staat, und auch nur, wenn er durch den Einsatz von KI tatsächlich in Grundrechte eingreift. Der private Einsatz KI-gestützter Übersetzungen, Spracherkennungssysteme, auch selbstfahrender Fahrzeuge ist nicht per se erfasst. Allerdings ist die Frage spannend, wie sehr das Grundrecht über den Einsatz von künstlichen Intelligenzen durch den Staat hinaus auch bestimmte Private binden würde, zum Beispiel monopolistische IT-Großkonzerne wie Facebook und Google. Dazu könnte die Stadionverbotsentscheidung des Bundesverfassungsgerichts einen Anhalt geben.


Anmerkung: Die genannte Entscheidungen des Bundesverfassungsgerichts betrifft die mittelbare Drittwirkung der Grundrechte, also inwieweit auch Private an diese gebunden sind. In der Stadionentscheidung (2018) ging es um die Frage, ob Hausverbote gegenüber Fans auch willkürlich erteilt werden dürfen (also im Sinne der Privatautonomie) oder dem Gleichheitssatz des Art. 3 Grundgesetz entsprechen müssen.


Rechtverblüffend: Was ist aus Ihrer Sicht an dem Grundrecht kontrovers?


Dr. Bijan Moini: Es ist technisch sehr schwierig, manche sagen: unmöglich, die Entscheidungsfindung eines selbstlernenden Systems transparent zu machen. Meine Antwort auf diesen Einwand ist, dass der Staat künstliche Intelligenzen eben nicht für Grundrechtseingriffe nutzen darf, solange sie nicht transparent sind. In den Niederlanden hat Anfang 2020 ein Gericht entschieden, dass das System SyRI, mit dem Sozialbetrug aufgedeckt werden sollte, nicht weiter eingesetzt werden darf, weil die Regierung nicht darlegen wollte (oder konnte), dass es bestimmte Bevölkerungskreise nicht diskriminiert. Entweder solche und ähnliche grundrechtssensible Systeme sind transparent, überprüfbar und fair – oder sie müssen eben in der Schublade bleiben, bis sie es sind.


Rechtverblüffend: Der asiatische Markt hält nicht nur einen großen Anteil an den Entwicklungen der Künstlichen Intelligenz, sondern steht auch in stetiger Konkurrenz zu den USA und Europa. Wie ist das Grundrecht unter einem globalen Blickwinkel zu bewerten?


Dr. Bijan Moini: Global könnte das Grundrecht ähnliche Wirkung entfalten wie die Datenschutz-Grundverordnung oder die europarechtlichen Anforderungen an die Umweltverträglichkeit, die Lebensmittel- und die technische Sicherheit von Produkten: Wird Artikel 3 zum Anlass genommen, Vorgaben an den Einsatz von künstlichen Intelligenzen auch für Privatkonzerne zu formulieren, so müsste jedes Unternehmen sie einhalten, das in der EU Geschäfte machen will. Also auch chinesische und US-Konzerne. Es stünde zu hoffen, dass von der dafür erforderlichen technischen und normativen Innovation auch die Menschen in diesen Regionen profitieren würden.


Rechtverblüffend: Die Verselbstständigung der Digitalisierung scheint oftmals nicht mehr aufhaltbar, spitz gesagt wirkt das Grundrecht wie ein verzweifelter Versuch, verbleibende Kontrolle zu gewinnen. Was von dem Grundrecht ist idealistische Vision, und was realistisches Ziel? Und selbst wenn es nur Ideal ist, was wäre so falsch daran?


Dr. Bijan Moini: Die Möglichkeiten und Herausforderungen künstlicher Intelligenzen drängen so stark, dass es eigentlich idealistischer wäre, auf ein solches Grundrecht zu verzichten. Artikel 3 soll nicht einen längst enteilten Zug stoppen, sondern eine Weiche umstellen in Richtung einer besseren Zukunft.