„Algorithmen empfehlen, ob man Menschen sterben lässt” | Wochenanzeiger

Der digitale Wandel ist in der Gesellschaft angekommen. Die Herrschaft der Künstlichen Intelligenz zieht herauf. Drohen Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden? In ihrem Buch „Das Ende der Demokratie” warnt Yvonne Hofstetter: Die Rückkehr in eine selbst verschuldete Unmündigkeit hat begonnen - im smarten Gewand der Selbstoptimierung. Mit Yvonne Hofstetter sprach Johannes Beetz.

„Ein Roboter darf kein menschliches Wesen verletzen“. So lautet die erste „Grundregel des Roboterdienstes“, die Isaac Asimov in einer Kurzgeschichte bereits 1942 formulierte. Heute warnt Stephen Hawking vor künstlicher Intelligenz, weil sie diesen Gesetzen nicht notwendigerweise folgt: Sie könne „die großartigste Idee der Menschheit“ werden – aber auch „unsere letzte“, schrieb er vor kurzem. Warum teilen Sie diese zwiespältige Bewertung?

Yvonne Hofstetter: Roboter und Künstliche Intelligenz sind nicht dasselbe, sondern zwei völlig unterschiedliche Technologieströme, die erst ganz langsam und für bestimmte Anwendungsbereiche zusammenwachsen. Industrieroboter, z.B. am Fließband, wiederholen immer und immer wieder dieselbe Tätigkeit, etwa Schrauben oder Gießen. Für immer die immer gleiche Bewegung braucht man keine Intelligenz, man kann die Aufgabe „hart“ programmieren. Bei der Abarbeitung der Aufgabe sollen Roboter Menschen, die sich in ihrer Nähe befinden, nicht verletzen. Deshalb werden Industrieroboter entweder in Käfige gesperrt – trotzdem passieren immer wieder tödliche Arbeitsunfälle –, oder sie erhalten eine Ausstattung von Sensoren, damit sie erkennen, wenn sich ein Mensch zu nahe heranwagt, um in ihrer Tätigkeit sofort innezuhalten.

Künstliche Intelligenz (KI) hingegen ist „nur“ ein Computerprogramm, das eine mathematische Aufgabe löst: die optimale Lösung für eine Aufgabe zu berechnen, anders gesagt: eine Funktion zu approximieren. Klingt unspektakulär, wird aber auch als „maschinelles Lernen“ bezeichnet. KI wird künftig überall sein, etwa wie Strom, denn es gibt viel zu optimieren: Risiken vermindern, Werbeeffizienz steigern, Lebenszeit verlängern. Warum nicht bald 210 Jahre alt statt nur 85 werden? Genau das ist die Agenda des 21. Jahrhunderts, für das das Silicon Valley u.a. KI einsetzt.

Zum Lernen – beim Abtasten des Suchraums – braucht eine KI viele Daten. Ab hier wird es problematisch, wenn diese Daten von Menschen kommen. Denn Humandaten werden durch Überwachung erhoben, am besten durch lückenlose Überwachung: mit dem Smartphone, mit Smartcars, Smart Cities, Smart Homes … Aus den Daten erstellt die KI Situationsanalyen über den Einzelnen: wie gesund er lebt, wie moralisch, ob er ein guter Bürger ist. Die KI erstellt Verhaltens- und Lebensprofile über den Einzelnen. Diese Profile werden weiterverkauft – an Versicherungen, Arbeitgeber. Auch der Staat kann Käufer sein und Profile, wie im Fall Chinas, zur Bewertung der Bürger einsetzen: Wer einen hohen »Citizen Score« hat, ist für einen Staatsjob qualifiziert oder ein zweites Kind. Wer über einen niedrigen Score verfügt, ist vielleicht arbeitslos oder kriminell oder einfach nur ein Demokrat und Menschenrechtsaktivist. Der Einsatz von KI führt zu ganz neuen Berechtigungen im 21. Jahrhundert – wer hat Anspruch auf eine Leistung und wer nicht? –, zu neuen Formen der Diskriminierung und massiven Einschränkungen der Selbstbestimmung. Damit widerspricht der Einsatz von KI wie er heute stattfindet, dem europäischen Menschenbild, unseren Werten und Grundrechten.

Bill Gates bemüht Goethes Zauberlehrling: Künstliche Intelligenz könne eines Tages zu einer Bedrohung für die Menschheit werden und - wie die gerufenen Geister - unserer Kontrolle entgleiten. Die Digitalisierung hat unseren Alltag von Grund auf verändert und tatsächlich viele Dinge leichter gemacht. Aber wir geben mit Smartphone & Co. bedenkenlos eine Fülle persönlicher Daten preis und bezahlen damit für unsere Bequemlichkeit. Rufen wir gerade die Geister, die niemand kontrollieren kann?

Yvonne Hofstetter: Der Mensch baut alles, was technisch möglich ist und was er sich vorstellen kann. Das ist es, was wir unter »Kulturleistung« des Menschen verstehen. Mit Sicherheit verändert die Digitalisierung gerade unser europäisches Menschenbild vom dualistischen Wesen, das aus Körper und Geist bzw. Seele besteht, hin zum bloß naturalistischen Verständnis vom Menschen als blankem Datenhaufen ohne Geist und Seele, der durch algorithmische Eingriffe leicht manipulierbar ist. In diesem Zusammenhang sind die Äußerungen aus Silicon Valley zu verstehen: Der Mensch ist die ultimative Maschine. Der Mensch ist nur ein Algorithmus. Er ist ein Softwarefehler der Natur, und man müsse nur neue Software in sein Hirn laden, und schon funktioniere er besser.

Wer glaubt, das sei Gerede, sei gewarnt: Genau daran arbeiten digitale Technologieunternehmen mit fast grenzenlosem Kapitaleinsatz. Algorithmen berechnen die verbleibende Lebenszeit des Einzelnen und geben eine Empfehlung ab, ob sich eine Medikamentengabe noch lohnt und man den Menschen einfach sterben lässt (Fa. Aspire Health, ein Investment von Google Ventures). Oder man lässt Tote mit Hilfe der KI auferstehen, indem man die Datenspuren eines Toten rekonstruiert (ein Projekt des MIT).

Das hat mit unserem Verständnis von »Person« nichts mehr zu tun. Aber an unserer Auffassung von Person und Rechtssubjekt hängt unser gesamtes europäisches Verfassungs- und Rechtsverständnis einschließlich Demokratie und soziale Marktwirtschaft und die EU als solche. Digitalisierung, wie sie heute von amerikanischen Tech-Konzernen betrieben wird, zerstört diese Grundlagen. Was sie stattdessen ersetzen soll, sagen uns ebenfalls die Tech-Konzerne: der rationale Betrieb des Globus als Unternehmen, das nach wirtschaftlichen Kennzahlen funktioniert. Im 21. Jahrhundert stellt sich also die Frage nach der Herrschaft erneut, und sie lautet: Staat – oder Markt?

Die Politik müsste gegen die Datensammlung Dämme bauen, aber sie verliert selbst an Boden: In einer unüberschaubarer werdenden Welt suchen immer mehr Menschen einfache Antworten – und seien es „alternative“ „Fakten“. Das ist keine gute Grundlage, um sich gegen eine wenig fassbaren Bedrohung wie „Big Data“ zu wappnen ...

Yvonne Hofstetter: Das Ideal vom »Primat der Politik« gilt nicht mehr. Es besagt, dass Entscheidungen (demokratischer) politischer Institutionen denen des Militärs oder der Wirtschaft vorgehen.

Bei der Digitalisierung nehmen politische Institutionen viel Rücksicht auf die Tech-Konzerne. Denn die Politik steckt im Dilemma: Sie braucht stetiges Wirtschaftswachstum, sonst sinkt unser Lebensstandard. Die Digitalisierung hat zu Goldgräberstimmung geführt und zum Versprechen von Wirtschaftswachstum in einer Ära, in der die drei fiktiven Güter des Kapitalismus, die Karl Polanyi im 20. Jahrhundert definiert hat, bereits aufgebraucht sind. Denn mit menschlicher Arbeit, mit der Natur und mit Kapital können im 21. Jahrhundert nur noch wenige Geld verdienen. Aber mit dem vierten fiktiven Gut des Kapitalismus, der Daten und Bürgerrechten, ist das wieder möglich. Deshalb steckt die Politik in der Klemme: Wie viel Digitalisierung soll sie regulieren?