socialnet - Das Netz für die Sozialwirtschaft

Paul Nemitz, Matthias Pfeffer: Prinzip Mensch

Cover Paul Nemitz, Matthias Pfeffer: Prinzip Mensch. Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz. Verlag J.H.W.Dietz (Bonn) 2020. 400 Seiten. ISBN 978-3-8012-0565-2. 26,00 EUR.
Inhaltsverzeichnis bei der DNB
Recherche bei DNB KVK GVK


Autoren

Mensch oder Algorithmus – wer entscheidet im Zeitalter der Künstlichen Intelligenz über unsere Zukunft? Überwältigend Ist schon jetzt die Macht der digitalen Konzerne im Silicon Valley. Paul Nemitz, Chefberater in der EU-Kommission und Mitglied der Datenethikkommission der Bundesregierung und Matthias Pfeffer, Philosoph, TV-Journalist und Produzent, zeigen, wie diese Bedrohung für Demokratie und Freiheit durch Politik in Deutschland und Europa abgewendet werden kann. Ihr Buch beschäftigt sich mit einem Weltbild, das der Digitalisierung zugrunde liegt und das mit Künstlicher Intelligenz Technik an die Stelle des Menschen setzen will, um Natur und Gesellschaft zu optimieren. In Wahrheit aber dient diese Ideologie vorrangig einem digital-ökonomischen Komplex bei seinem Versuch, die Gesellschaft zu steuern und zu beherrschen. Dabei geht es auch um die Zukunft der Demokratie. Deutlich wurde dies daran, wie schnell die Bekämpfung der Corona-Pandemie zu einem Wettkampf der Systeme umgedeutet wurde (S. 11).

Entstehungshintergrund

Die Ausgangsthese ihres Buches lautet: die Kontrolle technologischer Macht ist eine zentrale Funktion der Demokratie. Aber mit der Herrschaft der wirtschaftlichen Macht durch digitale Technik, die wir heute schon erleben, stehen wir vor jener Phase, in der die Technik selbst die Herrschaft übernimmt: nämlich die Herrschaft durch eine denkbare starke Künstliche Intelligenz, die sich selbst Ziele setzen kann. Wichtig ist auch das Problem der Machtkonzentration in der Hand des digital-technologisch-wirtschaftlichen Komplexes (S. 18). Dabei ist zwischen Macht als Chance und als Herrschaft zu unterscheiden und die Legitimitätsfrage zu stellen. Dass durch Technologie Macht ausgeübt wird, steht außer Frage und ist an sich nichts Neues. Die Entwicklung der Waffentechnik ist das beste Beispiel. Auch Kommunikationsmittel und Netzwerke sind Macht-Instrumente (S. 20–22). Charakteristisch für die Ausübung dieser technokratischen Macht ist das Internet als zentrales Vernetzungsmedium mit seinen Merkmalen Big Data, Cloud, Internet der Dinge, Mobilfunk, autonomen Automaten, Blockchain, KI, (unüberwachtes) Maschinenlernen, biophysische Systeme, virtuelle Realität und Quanten-Internet (S. 29–48).

Inhalt

Vernetzungsideologie als Technokratie – Beispiel GAFAM

Die Ambition derjenigen, die das weltumspannende technische System vorantreiben, ist es zu demonstrieren, dass nicht der Mensch, sondern das technische System das Zentrum sowohl der Welterkenntnis als auch der Weltsteuerung ist. Der hegelsche Weltgeist wird so gemäß den Vorstellungen der kalifornischen Ideologie in dem weltumspannenden, allwissenden und alles steuernden technischen System beherrschbar. Hinter dem Begriff der Vernetzung verbirgt sich die Vision eines totalen Erfassungssystems. Dieses soll zunächst Verständnis und Kontrolle des ganzen Kosmos bis hin zu jedem einzelnen Menschen und seinem Innersten sowie aller Interaktion zwischen ihnen umfassen. Letztlich soll dieses System eine totale, automatisierte Kontrolle und Manipulation auch unbemerkt und gegen den Willen des einzelnen oder einer Kollektivität möglich machen (S. 49). Treiber der neuen Bewegung sind die Geschäftsmodelle der Techno-Giganten wie GAFAM (Google, Apple, Facebook, Amazon, Microsoft), gegen die sich in den letzten Jahren immer mehr Widerstand regt, insbesondere in der EU und in letzter Zeit auch in den USA, die Ursprungsort dieses Geschäftsmodells sind, aber sehr schnell Parallelerscheinungen in China hervorgerufen haben, dort allerdings mit stärkerer staatlicher Lenkungsfunktion auch in der Überwachung (S. 52–71). Für dieses Phänomen wurde der Begriff des Überwachungskapitalismus geprägt (S. 72–90).

Tatsächlich kann der Freiheitsgewinn, den der Prozess der Individualisierung gebracht hat, ein gemeinwohlorientiertes Internet mit den neuen Möglichkeiten der Konnektivität und der Partizipation verbinden und damit ein wesentliches emanzipatorisches Versprechen der Moderne einlösen. Diese Freiheit des Internet war Teil der kalifornischen Ideologie, welche die beiden Autoren auch Steward Brand und seinen Whole Earth Catalog im Kontext der sich konstituierenden Hippiebewegung als analoges Internet vor dem digitalen (wörtlich als „Google in Taschenbuchform“; S. 97) zuordnen. Sie rechnen diese Strömung der Vorgeschichte von GAFAM und dem Traum des Silicon Valley von der Super-KI zu (S. 90–125). Als die drei Quellen der kalifornischen Ideologie identifizieren die beiden Autoren die (1) Kybernetik bzw. Informatik, (2) den Darwinismus bzw. Sozialdarwinismus und (3) den Neoliberalismus auf der Basis der Spieltheorie und der Konzeption des rationalen Nutzen-Maximierers (S. 126–136). Diese Konzeption mündete in den Dataismus und Sozialdataismus als Big Data und Grundlage für die Plattformökonomien von GAFAM (S. 137–143).

GAFAM beschränkt sich nicht auf gezieltes Lobbying gegen bestimmte Gesetzesvorlagen und praktiziert umfassende Steuervermeidung, sondern züchtet gezielt eine Kultur der Feindschaft gegen die Institutionen der Demokratie, ja eine Verachtung der Demokratie und ihrer Repräsentanten. Ihre ausdrückliche und implizite Behauptung, dass Parlamentarier und Regierungen das Internet und neue Technologien wie die künstliche Intelligenz nicht verstehen und somit keine Legitimation haben, Regeln für diese zu schaffen, wird nicht mit einer Selbstreflexion darüber verbunden, wie wenig Technologien die Demokratie und das Funktionieren von Rechtsstaatlichkeit verstehen sowie mit der Notwendigkeit verbunden, die Grundrechte in einer Welt zu schützen, in der die Technologie zunehmend dazu neigt, alle drei Säulen der konstitutionellen Demokratie zu untergraben. So propagieren sie Selbstbindung und Freiwilligkeit der Unternehmen anstelle von verbindlichem Recht und privater statt staatlicher Kontrolle. Um solche Regulierung durch gesatztes Recht zu verhindern, versuchen diese Unternehmen, die Diskussion um das Internet und die KI mit den Folgeproblemen im Bereich der Robotik auf die unverbindlichere Ebenen von Moral und Ethik abzuwälzen. Außerdem werden durch die Plattformen im umfangreichen Maße ein unabhängiger Journalismus als vierte Gewalt privatisiert und bestimmten Unternehmen unterworfen. Äquivalente zur Qualitätspresse werden im Netz nur sehr vereinzelt entwickelt (S. 154–196).

Ein weiterer Punkt: Das Menschenbild des Digitalen Komplexes und die Folgen

Durch die Macht der Algorithmen entsteht eine Öffentlichkeit 2.0, eine Demokratie im Zangengriff von Populismus und Technologie. Die Digitalisierung hat für Individuen zur Folge, dass ihr Privatleben veröffentlicht wird und durch das Sammeln von Daten und das Erstellen von persönlichen Profilen ihre Autonomie untergraben und ihre Entscheidungen manipuliert werden. Die Digitalisierung der öffentlichen Kommunikation hat einen beträchtlichen Anteil an der Spaltung von Gesellschaften, die sich weltweit beobachten lässt. Allmächtige und automatisiert ablaufende Algorithmen zerstören die demokratische Öffentlichkeit, in dem sie ohne Mitwirkung des Menschen auswählen, gewichten und vor allen Dingen entscheiden, auch wenn dies heute noch in vielem Bereichen sich auf manipulative Werbung beschränkt. Je mehr diese Algorithmen Einzug in die öffentliche Bürokratie finden, desto mehr auch juristisch bindende Entscheidungen können von solchen Algorithmen getroffen werden und damit Demokratie bedrohen (S. 197–227). Ein Entwurf gegen den digitalen Überwachungskapitalismus setzt auf die Stärkung von Demokratie und die von ihr gestaltete Öffentlichkeit durch Autonomie. Die zwei wichtigsten Elemente der Autonomie sind Subjektivität und Rationalität. Und auch der Humanismus muss unter den Bedingungen der Digitalisierung und von KI neu gedacht und verteidigt werden. Er muss die körperlichen und leiblichen Dimensionen und Freiheiten mit einbeziehen und darf nicht zu idealistisch konzipiert werden. So ist insgesamt eine kritische Theorie des Digitalen zu entwickeln (S. 238–279).

Die gewaltige Konzentration von Wissen, Daten, Infrastrukturkontrolle sowie Komplexität der durch die Plattformen geschaffenen und beherrschten Technologien machen es notwendig, Gesellschaft, Regierungen und Parlamente mit neuen Instrumenten auszustatten, die es erlauben, einerseits die Einhaltung des Rechts und andererseits die Funktionsfähigkeit der Demokratie sicherzustellen. Was jetzt notwendig ist, ist die Plattformen in die Pflicht für Demokratie zu nehmen. Sie müssen Teil der wehrhaften Demokratie werden. Dabei reicht es nicht aus, auf die Lernfähigkeit und Einsicht mit Selbstregulierungswirkungen der großen Konzerne zu setzen. Staatliches Handeln ist erforderlich und besonders wirksam im ökonomischen Verbund wie zum Beispiel im Bereich der EU und dem durch sie vertretenen Binnenmarkt. Wichtiger Teil einer solchen Strategie ist eine wissenschaftlich fundierte und durch einen unabhängigen Journalismus kommunizierte Technologiepolitik. Langfristig wird Europas digitale Souveränität als Voraussetzung für Freiheit und Demokratie nur erhalten werden können, wenn Europa selbst innovativ bleibt und so seinen Wohlstand weiter selbst erarbeitet. Technologie kann mit dem Recht Hand in Hand Probleme lösen, beide können sich bei der Problemlösung gegenseitig unterstützen oder sogar substituieren. Dabei muss die Gemeinwohlorientierung in zukünftigen technisch-ökonomischen Strukturen gesichert werden. Wir brauchen Plattformen im öffentlichen Interesse und nicht nur privates Unternehmertum in diesem Bereich. Außerdem muss die Machtkonzentration bei den GAFAM-Unternehmen verhindert werden. Dazu sind das Wettbewerbsrecht und Behördenstrukturen zu reformieren. Die Macht der großen Firmen und damit die Abhängigkeit von wenigen Konzernen darf sich im nächsten Technologiesprung, der durch das Internet der Dinge, durch KI und 5G sowie durch Quantencomputer und Quanten-Internet bevorsteht, nicht wiederholen. In Bezug auf die Plattformökonomie werden wir Regulierungen neu denken müssen, zum Beispiel durch mehr Wettbewerb, um diese Machtpositionen abzubauen. Außerdem müssen wir erkennen, dass die herkömmlichen Plattformen Mediencharakter haben und deren Regulierung rechtlich durchaus legitim ist. Dabei müssen Ethik und Recht dafür eingesetzt werden, dass KI dem öffentlichen Wohl dient. Rechtsstaatlichkeit, Grundrechte und Demokratie sind in das Design der KI einzubeziehen (S. 280–316).

Diskussion

In diesem Buch wird für mich deutlich, dass zur Technikgestaltung übertriebener Individualismus genauso wie übertriebener Kollektivismus ungeeignet sind. Pluriperspektivische demokratische Aushandlungsprozesse mit korrigierenden Rückkoppelungsschleifen sind erforderlich, auch wenn die Technologieentwicklung in den letzten Jahren immer mehr den Eindruck erweckt hat, eher autokratische politische Systeme zu unterstützen. Richtig ist, dass insbesondere die Multimedia-Virtuelle Realität von GAFAM und den der Plattformökonomie zugrundeliegenden Algorithmen im Fahrwasser der ahistorischen Konzeptionen der klassischen regulativen Kybernetik, der klassisch sozialdarwinistischen Evolutionstheorie und der spieltheoretisch orientierten neoklassischen Ökonomie stehen. Was das Werk der Herren Nemitz und Pfeffer nur anklingen lässt, besteht darin, dass das ursprüngliche Internet des Wissens und der Wissenschaft, zu dem auch die Whole Earth Bewegung gehörte, noch vor CERN in Europa in den USA entstand, nämlich mit der Open Access Bewegung für ein Internet des Wissens (sowohl was die Software wie Wissensinhalte betraf) eine echte Alternative zur GAFAM-Welt und dem Plattform Gedanken des Silicon Valley erwuchs.

Fazit

Vorliegendes Buch stellt in umfang- und kenntnisreicher wie engagierter Form die europäisch-kontinentale Antwort auf die ersten dreißig Jahre Realisierung von Vernetzungs- und Digitalisierungstechnologien dar. Und es ist ohne Zweifel offenkundig, dass die neue Technologiesierungswelle eine nicht unerhebliche Zahl ökosozialer Probleme aufgeworfen hat, die der gesellschaftlichen Gestaltung bedürfen.


Rezension von
Prof. Dr. Dr. Bernhard Irrgang
Der Rezensent lehrte Technikphilosophie und angewandte Ethik an der TU Dresden
E-Mail Mailformular


Alle 13 Rezensionen von Bernhard Irrgang anzeigen.


Zitiervorschlag
Bernhard Irrgang. Rezension vom 24.02.2021 zu: Paul Nemitz, Matthias Pfeffer: Prinzip Mensch. Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz. Verlag J.H.W.Dietz (Bonn) 2020. ISBN 978-3-8012-0565-2. In: socialnet Rezensionen, ISSN 2190-9245, https://www.socialnet.de/rezensionen/26534.php, Datum des Zugriffs 12.04.2021.


Urheberrecht
Diese Rezension ist, wie alle anderen Inhalte bei socialnet, urheberrechtlich geschützt. Falls Sie Interesse an einer Nutzung haben, treffen Sie bitte vorher eine Vereinbarung mit uns. Gerne steht Ihnen die Redaktion der Rezensionen für weitere Fragen und Absprachen zur Verfügung.


socialnet Rezensionen durch Spenden unterstützen
Sie finden diese und andere Rezensionen für Ihre Arbeit hilfreich? Dann helfen Sie uns bitte mit einer Spende, die socialnet Rezensionen weiter auszubauen: Spenden Sie steuerlich absetzbar an unseren Partner Förderverein Fachinformation Sozialwesen e.V. mit dem Stichwort Rezensionen!

Zur Rezensionsübersicht