AI and The Body Politic

von Dr. Ivana Mikešić, R&P Legal

© Philippa Fink

Wo gibt es dieses Märchenland?

Ein Abend im Juni 2019 – das Jahr 1 A.C.N. (Ante Coronam Natam). Die Lufthansa-Maschine auf der von Vielfliegern wie eine S-Bahn genutzten Strecke Berlin Tegel – Frankfurt / Main Airport ist bis auf den letzten Platz belegt. Ich bereite einen Vortrag für eine Fachkonferenz vor – zur staatlichen Regulierung von „künstlicher Intelligenz“. Ein Beitrag aus dem Wissenschaftsteil der Frankfurter Allgemeinen Zeitung von Andreas V. M. Herz zu den neuesten Erkenntnissen der Computational Neuroscience liegt auf meinen Knien – was weiß man über die Funktion des menschlichen Gehirns? Definitiv noch nicht viel. Wertvolle Hintergrundinformation, für Laien verständlich aufbereitet. Auf dem Platz neben mir ein Herr in den besten Jahren und leitender Position: braungebrannt, Triathlon-gestählt, das Outfit post-Lehmann: lässiger Anzug, keine Krawatte. Der kostspielige, superleichte Prestige-Laptop schnurrt. Letzte E-Mails, dann Start, Flugmodus am Rechner an, Klapptisch hoch. Bald hat der Bildschirm nicht mehr viel Ablenkung zu bieten. Der kleine, liebevoll von weiblich-helfender Hand servierte Abendsnack ist schnell verspeist. Was tun? Ah, hier, die schrullige Nachbarin im Business-Kostüm mit der Zeitung in der Hand.

„Na, noch ganz analog unterwegs? Sind Sie Wissenschaftlerin? Also, bei uns im Büro, alles nur noch digital. Bald wird’s gar kein Papier mehr geben. Zeitungen sowieso nicht.“ Die Frage nach meiner Profession ignoriere ich. Auf mein höfliches Eingeständnis, dass ich den Umgang mit Printmedien für einen selbstbestimmten Weg der Informationsbeschaffung halte und deshalb nicht missen möchte – höhnisches Lachen! Selbstbestimmt, Informationsbeschaffung, wozu jetzt? „Wissen Sie was? In ein paar Jahren haben wir endlich Computer programmiert, die uns das alles abnehmen – darauf freue ich mich jetzt schon! Die Medizin verlängert unser Leben auf ewig, und dann: Zurücklehnen, Beine hoch, genießen – und das ganze Gegurke überlassen wir den Maschinen!“. Doch etwas verblüfft, wage ich auf die Wertigkeit einer pluralistischen Willensbildung, die Herausforderung eines sicher mühseligen, doch lohnenden politischen Diskurses, die unerlässlichen Grundfesten und Voraussetzungen demokratisch organisierten gesellschaftlichen Zusammenlebens, hinzuweisen (in einfachen Worten, versteht sich). Verschmitztes Lächeln, ironischer Augenaufschlag, mitleidige Herablassung: „Super. Und wo gibt es dieses Märchenland?“

Da brechen sie sich Bahn, die tiefsten Sehnsüchte der Menschheit: Ein ewiges Leben. Ein schöner, unzerstörbarer Körper. Und: das Abgeben jeder Kontrolle und Verantwortung. Sind wir bald dort angekommen?

Homunculi, Faust & Frankenstein revisited

In der Tat sind diese Tendenzen im öffentlichen Diskurs der letzten Jahre erfahrbar. Es scheint die Angst vor einer möglichen Übermacht der Maschinen zu wachsen; die freudig formulierte Erwartungshaltung in dem Flugzeug-Gespräch darf man wohl als antizipative psychologische Umkehrung im Sinne der Selbstsabotage werten. Gleichzeitig ist der Drang nach ungebremster, exzessiver Körperoptimierung allgegenwärtig. Vertrauensverluste im Hinblick auf den öffentlichen Diskurs und auf demokratisch legitimierte Institutionen äußern sich zunehmend nicht nur in Wahlergebnissen. Die Gestalt des öffentlichen Diskurses selbst durchläuft tiefgreifende Umwälzungen. Qualität, peer-Kontrolle und konsentierte Diskursregeln verlieren an Bedeutung: Es ist möglich geworden, auf niedrigster Schwelle in „sozialen“ Medien, auf Plattformen, die durch ausschließlich marktideologisch getriebene, oligopole Geschäftsmodelle gesteuert werden, Öffentlichkeit herzustellen. Ohne jede physische Präsenz, der Blick der Einzelnen eingesogen in ein leuchtendes Display, die Gedanken ohne Rückbindung an Sensorik.

Das macht uns zur leichten Beute für die Verbreitung von resignativ-verkopften Angstfantasien. Die Idee, sich und seine vitalen Funktionen einer ins Überlegene gesteigerten, synthetischen Intelligenz zu überlassen, während man seinen physischen Körper ins Unendliche konserviert, ist apokalyptisch aufgeladene Todessehnsucht. Nicht, dass wir das nicht alles schon gehabt hätten. Neu ist, dass sich der Begriff der künstlichen Intelligenz / artificial intelligence im alltäglichen, technischen und juristischen Sprachgebrauch ernsthaft durchzusetzen beginnt, obwohl er (i) irreführend und schwer definierbar, (ii) technisch sinnlos und (iii) juristisch nicht verarbeitbar ist. Dieser Begriff wird den Anforderungen von technischem, wissenschaftlichem und regulierend-juristischem Diskurs auf dem Niveau des 21. Jahrhunderts nicht gerecht, weil er kaum mehr ist als eine sprachliche Metapher mit langer Geschichte. Der Vorstellung einer von Menschenhand oder menschenähnlicher Hand geschaffenen „Intelligenz“ begegnen wir in den Schöpfungsmythen der antiken Religionen, die sich in die sogenannten Weltreligionen hineinverlängert haben. In alchemistisch geprägten Homunkulusfantasien. Im nekromantisch verschleierten Frankenstein-Hype des 19. Jahrhunderts, der seine juristische, dem Politischen abgewandte Entsprechung in den Subsumtionsautomatenfantasien eines G. F. Puchta oder F. C. v. Savigny gefunden hat.

Eigentlich sollten wir wissen: Der Traum von einer „künstlichen Intelligenz“, also einer von Menschenhand gesteuerten Rationalität, die ohne die als lästig empfundenen Defizite des als Objekt begriffenen menschlichen Körpers auskommt, ist der Traum körpervergessener Menschen, sich von den vermeintlichen Limitierungen des Körpers zu befreien – und es ist der Traum hirnloser Menschen, endlich nicht mehr selbst denken zu müssen. Wenn wir uns das nicht klarmachen, verspielen wir unser gesellschaftliches Potential zur ermächtigten Teilhabe an demokratisch legitimierten Prozessen.

Diskurs, Diskurs

Vor gut sechzig Jahren, Mitte des vorigen Jahrhunderts, fegte eine Welle des ungebremsten technologischen Optimismus durch die Gesellschaften des Westens. Alan Turing, Marvin Minsky, Hans Moravec: sie alle gingen davon aus, dass spätestens bis Ende des 20. Jahrhunderts die Aufgabe, „künstliche Intelligenz“ zu schaffen, gelöst sein werde – einschließlich der Möglichkeit, Emotionen auf Datenträgern zu programmieren. Diese Vorstellungen konnten sich nicht bewahrheiten. In der öffentlichen Wahrnehmung schien das Thema tot, abgesehen von der durchaus bildmächtigen künstlerischen Verarbeitung mit den Mitteln des Kinos, des Comics, des Romans. Wer hat es sich kurz vor der Jahrtausendwende entgehen lassen, Keanu Reeves und Carrie-Anne Moss dabei zuzusehen, wie sie in dem trotz einprägsamer Bildmetaphern kammerspielartigen Paradox „Matrix“ zu menschheitserlösenden Lack-und-Leder-Revolutionären mutierten? Die neunziger Jahre des letzten Jahrtausends wurden in diesem heute als Klassiker vielfach rezipierten Drama effektvoll verabschiedet – und einzuräumen ist, dass die Filmkostüme der vielfach ausgezeichneten Kym Barrett noch heute Bestand haben.

Was natürlich, unbeeindruckt von den nicht eingelösten Versprechen Alan Turings, weiterging, war die Forschung und Entwicklung in der Informationstechnologie. Die algorithmische Verarbeitung von Information gewinnt, mit zunehmender Beschleunigung, an Bedeutung. In Schlagworten: Micro-Trading, Bonitätsprüfungen für Kreditinstitute, Personalmanagement, medizinische Diagnoseunterstützung, Rasterverfahren in der Kriminalistik, autonomes Fahren, Navigationssysteme, Satellitenkommunikation, Partnerwahl in der Partnervermittlung. Die Anwendungsmöglichkeiten scheinen unendlich und die Grenzen sind lange nicht ausgeschöpft. Der mögliche Benefit für kleine wie große zu bewältigende Aufgaben der Menschheit steht außer Frage. Und nicht erst der Gedanke an die Anwendungsmöglichkeiten für Kriegstechnologie und Kriegsführung lässt die Risiken aufscheinen. All dies verlangt nüchterne, aufgeklärte Verarbeitung im Zusammenspiel von Technik, Ethik, Gesetzgebung, Rechtsanwendung. Unverständlich ist, warum der selbstlernende Algorithmus in einer metaphorischen Überhöhung die signifikante Weihe des – in den evidenzbasierten Natur- und Kognitionswissenschaften noch nicht aufgeschlüsselten – Begriffs der „Intelligenz“ erhält. Aus unerfindlichen Gründen gibt es wenig erkennbare Gegenwehr gegen diese missglückte Begrifflichkeit.

Das „Buzz Word“ (Thomas Söbbing) „Künstliche Intelligenz“ beherrscht, deutlich messbar anhand einer sprunghaft steigenden Menge an Publikationen, ab dem Jahr 2018 alle Qualitätsmedien. Innerhalb von Monaten stürmen Konferenzen, Zeitschriftenneugründungen und Erster-Wurf-Publikationen über Digitalisierung, Anwendungsformen der künstlichen Intelligenz, Machine Learning und Robotik auf die juristische Fach- und sonstig interessierte Öffentlichkeit ein. Der Ruf nach Normierung (Achtung, Gesetzgeber) und Normung (Achtung, Ingenieurskunst) wird laut. Der Bundestag setzt eine Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche Potenziale“ ein, deren umfänglicher Bericht am 28. Oktober 2020 dem Bundestagspräsidium vorgelegt wird. Das Deutsche Institut für Normung – kurz DIN e.V. – bringt zusammen mit einer Kommission des Verbands der Elektrotechnik, Elektronik und Informationstechnik (VDE) aufgrund eines Beschlusses des Deutschen Bundestages eine „Deutsche Normierungsroadmap Künstliche Intelligenz“ auf, mit dem erklärten Ziel der regulatorischen, gesellschaftlichen und technischen Weichenstellung für die Zukunft im internationalen Wettbewerb. Die EU-Kommission schiebt ihre Regulierungsmaschinerie geräuschvoll an, um schließlich – am 21. April 2021 – einen Verordnungsentwurf zu harmonisierten Regelungen für die künstliche Intelligenz vorzulegen, kurz „Artificial Intelligence Act“. Die Rechtswissenschaft wie die rechtsanwendende Praxis setzen – natürlich! – große Erwartungen in die ersten Regulierungsschritte, an die sich die Kommission mutig herangewagt hat. Und es wird wenig überraschen, dass erste Kritiken aus der Community des IT-Rechts vor allem monieren: unzureichende Definitionen des Rechtsbegriffs „KI-Systeme“, basierend auf dem uneinheitlich genutzten Begriff der „künstlichen Intelligenz“, schränken die Umsetzbarkeit des Artificial Intelligence Acts erheblich ein.

Schlampiges Denken mit der Folge schlampiger Begriffsarbeit sind schwer justitiabel. Was schwer justitiabel ist, muss zumindest gesellschaftlich transparent und verhandelbar sein. Besser also, wir befreien uns rechtzeitig von angstbesetzten Fantastereien, von kopflastigem Größenwahn, von Körperfeindlichkeit und vor allem: von antidemokratischen Impulsen.

Angriff auf die Demokratie

Wir sollten aufmerksam beobachten, welcher Typ Forscher und Entwickler, welcher Typ Unternehmer uns Algorithmen als Intelligenz nahelegt und wie dies im Einzelnen vermittelt wird. Wird der durch politischen, sozialen und demokratischen Konsens legitimierte Kommunikations-Code beherrscht und befolgt? Trifft eine außerordentliche, aber monolithische intellektuelle Fähigkeit auf eine bestimmte ideologische, nicht reflektierte Prägung (antidemokratische Impulse; Technikhypostase; Unterdrückung von Körperlichkeit, selbstinduziert oder von außen; Verachtung von Menschen oder Menschengruppen)? Drängt sich der Eindruck der Entfremdung vom eigenen Körper und von den Körpern der anderen auf? Wird insinuiert, dass der durch informationstechnologische Fertigkeiten entwickelte Code den bestehenden, diskursiv ausgehandelten Kommunikations-Codes überlegen sei?

Wir sollten aufmerksam beobachten, ob durch die Exponenten algorithmisch organisierter Technologien (ja, auf jede Einzelne und jeden Einzelnen kommt es an) ein Szenario des in-out geschaffen wird, indem die subjektive Unfähigkeit des Anschlusses an einen evolutionären politisch-gesellschaftlichen Konsens zur Überlegenheit überhöht wird. Denn die Folge ist Kommunikationsverweigerung: Die durch den politischen, sozialen und demokratischen Konsens legitimierten Kommunikationsregeln werden heruntergespielt und damit nicht als maßgeblich anerkannt. Die Werte, Übereinkünfte, Problemlösungen, die etwa durch den etablierten politischen Prozess aufwändig generiert und dadurch legitimiert werden, werden fundamental in Frage gestellt.

Wer sich jetzt an die Befragungen des Mark Zuckerberg vor dem US-Kongress und dem Europäischen Parlament in den Jahren 2018/19 erinnert fühlt, liegt wohl richtig. Der Befund, der deutlich beängstigender ist als die doch kaum verhandelbare Tatsache, dass wir alle irgendwann sterben müssen: Es gab zwischen dem Social Media-Avatar und den Parlamentariern beider Kammern keine gemeinsame Sprache. So sieht der Angriff auf den demokratischen Konsens aus.

Mit Kafka in der Strafkolonie

Das Internet ist eine nützliche Einrichtung (bei Social Media mag man schon streiten). Aber mehr ist es nicht. Es ist keine neue demokratische Lebensform, sondern es etabliert einen Schein-Diskurs, der zunehmend von Algorithmen gesteuert wird, deren Funktionsweise manche zu durchschauen vorgeben – die sich wiederum genau darin täuschen. Diese, die vorgeben, zu steuern (seien es Algorithmen im Internet, seien es Deep Learning Machines), sehnen sich nach totaler Selbsthingabe an eine Instanz, die nicht nach der gefürchteten, überkomplexen, sozial anstrengenden Kommunikations- und Legitimationslogik funktioniert. Sie wollen in letzter Konsequenz von Maschinen / Rechnern kontrolliert werden, die ihnen selbst vermeintlich überlegen sind. Diese Maschinen versuchen sie als Heilsbringer nicht nur für sich selbst, sondern für die ganze Menschheit zu schaffen. In ihnen steckt eine tiefe, kryptoreligiöse Sehnsucht nach Selbstauslöschung. Was fehlt diesen Leuten? Die Lebendigkeit! Was ist deshalb ihr Schöpfer-Ideal? Leblose Herrscher zu schaffen. Die leblosen Herrscher-Maschinen sind überhöhte Ideal-Bilder ihrer selbst. Der Code der Maschine, das hat Franz Kafka uns erzählt, wird uns mit spitzen Nadeln in den Körper eingeprägt – aber nur, wenn wir uns ihr freiwillig hingeben.

Shake your Body

Was tun? Zunächst das Offensichtliche: Eine klare, mythologisch entzerrte Begriffsarbeit durch die beteiligten Wissenschaften, Anwendungswissenschaften und Wissens-Distributoren ist unerlässlich. Der selbstlernende Algorithmus erzeugt nach Funktionen zu gliedernde digitale Infrastruktur; Robotik ist eine dieser Anwendungsfunktionen, und da sie mit mechanischen Elementen verbunden ist, erzeugt sie zunächst „Maschinen“, nicht „Humanoiden“.Bionik und technisches Enhancement im lebendigen Körper sollen nicht unerwähnt bleiben – die Abgrenzungen werden aber an dieser Stelle nicht diskutiert. Diskussionen um Agency und subjektive Rechte werden mit der gesamten potentiellen Anwendungsperspektive und somit dem gebotenen Überblick geführt – nicht nur in Richtung auf digital mit den Mitteln der Elektrotechnik und Informatik erzeugte algorithmische Verknüpfungen, sondern immer gleichzeitig mit Blick auf nicht-humane Lebensformen (Tiere und Pflanzen) sowie auf Unternehmungen, Leben mit Mitteln der Entwicklungs- und Reproduktionsbiologie zu erzeugen. No robotics without biopolitics. Das hat nicht nur den Vorteil, dass mit Mitteln der Normierung – also Gesetzgebung – zu implementierende Regulierung klarer und effektiver ansetzen kann. Wir dürfen auch erwarten, dass in der öffentlichen Wahrnehmung sowie deren diskursiver Verarbeitung eine heilsame Versachlichung ohne Vereinnahmungs- und Angstfantasien möglich wird.

Zu empfehlen ist eine gesunde Vorsicht im Umgang mit den „großen Zukunftsvisionären“ unserer jeweiligen Zeit. Behandeln wir die Bücher von Yuval Noah Harari nicht als Zukunftsvisionen, es handelt sich um nichts anderes als angekitschte, morbide Selbstvergewisserungsromanzen. Das Mitreißende des Narrativs, den Harari herstellt, verstellt den Blick für Lücken, Auslassungen, Verkürzungen und für die Aversionen des Autors. Wer es unbedingt lesen will, sollte sich bewusst machen: Hier geht es um die Lust an der Geschwindigkeit, am Untergang. Eine post-postmoderne Wiederauferstehung des Futurismus, des Symbolismus eines Gabriele d’Annunzio. Für Harari ist alles Diskursive überflüssiger Quark, Menschenrechte ein Schwindel der Juristen, Meditation nur ein Prozess der Ausreinigung – der temporären Enthaltsamkeit von der Datenflut –, kein Gespräch und keine Handlung folgt daraus. Die profunde Lebendigkeit des Austauschs über das, was uns verbinden kann, und damit die Evolution unserer Übereinkünfte bleibt dieser Perspektive verschlossen.

Darüber sprechen, darauf zeigen, unsere Diskurse weiterführen und weiterentwickeln. Alles, was demokratische Strukturen stärkt, ist essenziell. Also: Persönlich, von Angesicht zu Angesicht, sprechen. Debattieren, nicht rumnörgeln oder shitstormen. Die Spielregeln der Diskurse akzeptieren, zelebrieren, transformieren. Wählen gehen. Kandidieren. Den Ausgang einer nach demokratischen Regelwerken durchgeführten Wahl verbal und körperlich anerkennen. Musik nicht nur hören, sondern machen. Tänzern nicht nur zusehen, sondern tanzen. Berühren und berührt werden – sensorisch, nicht durch audiovisuelle Virtual-Reality-Effekte. Keinen Porno konsumieren, sondern Sex haben. Keine Computerspiele spielen, keine virtuellen Erfahrungen im Metaverse suchen, sondern mit dem Körper leben. Wege bauen um zu sprechen, unermüdlich.

Wenn wir beginnen, ernsthaft über die Verlängerung des Menschenrechts in die Datenwelt zu reden, heißt es: Nicht wir erlauben, dass die Maschinen auf unsere Körper übergreifen, sondern die Maschinen müssen unsere eingeübten und sich immer weiter evolutionierenden humanen Diskurse dulden, hier ist ihre Begrenzung. Was über Algorithmen nicht transportiert werden kann, ist die unbewusste DNA – Träume, Erfahrungen, und ja, auch die Erinnerung an Berührung, an körperliche Aktivität und an Momente der gelebten Teilhabe. Der Teil der Evolution, der den Menschen nicht im Bewussten zur Verfügung steht und deshalb der Programmierung nicht zugänglich ist. Dieses Erbe, überhaupt alles Unbewusste und jede Wahrnehmung von Unbewusstem durch das Gegenüber, kann nach unseren derzeitigen Erkenntnissen nur biologisch weitergegeben werden. Die Evolution des Diskursiven in allen seinen Facetten, ebenso wie die Teilhabe am Entstehen des verhandelten, verbindlichen Kompromisses, ist der Maschine und ihren Exponenten verschlossen.

Der antike Begriff des zoon politicon gewinnt damit eine neue Bedeutungsnuance. Das Politische ist vom lebendigen Körper nicht trennbar. Hätte Aristoteles sich vorstellen können, zum Gewährsmann für Bewegungs- und Berührungsaktivisten zu werden? Verlassen wir uns auf das demokratische, geteilte Selbstverständnis der Lebewesen und auf eine demokratische, geteilte Lebensform: You ARE The Body Politic.

Dieser Artikel stammt aus der Printausgabe "Utopie & Apokalypse". Mehr könnt ihr hier lesen: https://www.rechtverblueffend.com/product-page/volume-3-utopie-und-apokalypse