Armin Nassehi, Peter Felixberger et al. (Hrsg.): Kursbuch 223
Rezensiert von Dr. Maik Eimertenbrink, 07.10.2025
Armin Nassehi, Peter Felixberger, Sibylle Anderl (Hrsg.): Kursbuch 223. KI 007. Kursbuch Kulturstiftung gGmbH (Hamburg) 2025. 146 Seiten. ISBN 978-3-96196-376-8. D: 16,00 EUR, A: 16,40 EUR, CH: 17,00 sFr.
Thema
Das Kursbuch 223 hat „KI 007“ zum Thema. „007“ deshalb, da in der KI von Agenten gesprochen wird („mein Name ist Bond“). Ein KI-Agent kann Entscheidungen treffen und Aktionen ausführen, um seine Mission zu erfüllen. Er nimmt Informationen aus seiner Umgebung auf (über Sensoren, Datenströme, etc.) und reagiert darauf – manchmal auch verdeckt und undercover – und da ist möglicherweise das Problem.
Marvin Minsky hat den Begriff „Agent“ im Rahmen seiner „Society of Mind: Mentopolis“ populär gemacht und ihn in die KI-Forschung integriert. Minsky nutzte den Begriff, indem er ihn auf die kleinsten Bausteine der Intelligenz anwendete. In seiner Theorie kann ein „Agent“ eine sehr einfache, spezialisierte Einheit sein. Die Intelligenz entsteht erst aus der Interaktion und Zusammenarbeit dieser Agenten. Marvin Minsky hat das Image eines „allwissenden Supercomputers“ zu Dezentralität und Zusammenarbeit verschiedener Einheiten verschoben.
Das hier zu rezensierende Kursbuch stellt die Frage: „Kann ich durch künstliche Intelligenz ersetzt werden?“. Oder um in der Agentensprache zu bleiben: Können Agenten mich ausschalten und die Vorherrschaft oder gar Weltherrschaft übernehmen? Diese Frage wird sich die Leserin und der Leser spätestens jetzt auch selbst stellen.
Es stellt sich schnell heraus, dass wir Menschen einiges besser können und andere Dinge nicht. Was kann die künstliche Intelligenz, was ich nicht kann, und was kann ich, was sie nicht kann?
Diese Frage erinnert an die Selbstzweifel, wenn die Partnerin oder der Partner jemand Neues kennengelernt hat und man selbst plötzlich allein dasteht. Ist sie oder er besser als ich? Was hat sie, was ich nicht habe? Was kann sie, was ich nicht kann? Kann sie mich ersetzen? Die Realität ist meist, sie oder er zeichnet sich lediglich durch andere Dinge aus – ersetzt werden kann die oder der Verlassene nicht. Weh tut es wahrscheinlich trotzdem. Aber zurück zum Thema. Hier wird niemand verlassen. KI-Agenten sind dazu da, uns zu unterstützen.
Die Autor*innen und die Herausgeberin
Eine Mitarbeiterin der ZEIT und eine Mitarbeiterin der WELT und WELT AM SONNTAG, ein Kreativitäts- und Innovationsexperte und eine Literaturwissenschaftlerin, ein Professor für Management, Innovation und Finanzen, eine Ärztin für Allgemeinmedizin, ein Schauspieler, Regisseur und Drehbuchautor, ein Soziologieprofessor und ein Meteorologe, eine Oberstaatsanwältin, ein Softwareingenieur, ein Kehrmaschinenfahrer, eine Filmemacherin und ein Fotograf – all diese Personen kommen zu Wort. Einige schreiben Aufsätze, andere werden interviewt zum Thema: „Kann ich durch künstliche Intelligenz ersetzt werden?“. Wie jede/r für sich die Lage im Umgang mit KI einschätzt, darum geht es in dieser Publikation.
Herausgeberin ist die Kursbuch Kulturstiftung gGmbH. Sie wurde im Jahr 2017 gegründet. Neben der Herausgabe des Kursbuches und weiterer Publikationen fördert die Stiftung Projekte aus Wissenschaft, Kunst und Kultur in Eigeninitiative und in Partnerschaft mit anderen gemeinnützigen Organisationen.
Entstehungshintergrund
Die Kulturzeitschrift Kursbuch ist seit ihrer Gründung 1965 ein Begleiter der bundesdeutschen Öffentlichkeit. Sie greift aktuelle Themen auf und lässt Menschen zu Wort kommen, die etwas zum jeweiligen Thema zu sagen haben. Nun ist KI ein Thema, an dem auch das Kursbuch nicht mehr vorbeikommt.
Aufbau
18 Texte über KI-Agenten und die Befürchtungen, allgemein ersetzbar zu werden, oder auch über die Zuversicht und Hoffnung, dass die KI genau die Dinge erledigt, auf die man eh keine Lust verspürt. Die Publikation hat 144 Seiten, bleibt im Schnitt 8 Seiten pro Autor*in.
Inhalt
Armin Nassehi führt ins Thema der Publikation ein und fragt nach der Zurechenbarkeit von KI (ab S. 3). Sibylle Anderl fragt, was denn schon groß schiefgehen sollte im Zusammenspiel mit der KI. Soviel vorab: Es kann einiges schiefgehen. Was genau, das erörtert sie ab Seite 5. Nun werden verschiedene Persönlichkeiten gefragt, ob sie sich vorstellen können, durch KI ersetzt zu werden. Und sie antworten jede/r mit einer eigenen Sicht darauf.
Aufgelockert wird das Kursbuch durch einige Fotos. Die Fotos sind geschickt gemacht: Olaf Unverzart stellt Fotografien Bilder gegenüber, die künstlich per KI generiert werden. Einer Fotoaufnahme, die eine afrikanisch-stämmige Frau mit krausem Haar darstellt, sie trägt ein schwarzes Kleid sowie hochhackige Schuhe, wird ein generiertes Bild gegenübergestellt. Dazu wird die KI ermuntert mittels Aufforderung (Prompt) „Erstelle mir ein Bild einer afrikanisch-stämmigen Frau mit krausem Haar. Sie trägt ein schwarzes Kleid sowie hochhackige Schuhe“ ein passendes Gegenüber zu erstellen. Die Leserin/der Leser kann sich dann selbst Gedanken dazu machen. Was ist real, was künstlich erstellt, und warum ist das überhaupt wichtig? Was macht es mit uns, mit der Gesellschaft und mit z.B. dem Journalismus und der Rechtsprechung, wenn wir fotografisch festgehaltene und künstlich erstellte Bilder kaum noch unterscheiden können? Können Bilder noch irgendetwas beweisen?
Die Ärztin für Allgemeinmedizin Eva Mie führt ab S. 26 ihre Gedanken dazu auf, ob sie denn nun durch Künstliche Intelligenz ersetzbar sei. Ihre Freundinnen kreischen „Nein!“ (S. 26). Damit meinen sie aber Eva Mie als Freundin – nicht als Ärztin. Als Freundin ist Eva Mie also schon mal nicht durch KI ersetzbar. Das ist wohl gut und eine gesunde Einstellung von Freundinnen. Aber als Ärztin? Ist sie als Ärztin durch KI ersetzbar? Sie selbst wünscht sich manchmal, dass eine KI sich die seltsamen Pickel am Fuß ihrer Patient*innen anguckt, und würde diese Aufgabe wohl gern einer KI überlassen. Das ist nachvollziehbar. Aber die persönliche Ebene, das Trösten, das kann die KI nicht übernehmen, davon ist Eva Mie überzeugt (S. 27).
Armin Nassehi steuert ab S. 106 einen Artikel zur Soziologie künstlicher Intelligenz bei und lässt den vorderen Teil seines Artikels komplett durch KI schreiben. Im hinteren Teil des Artikels führt er seine eigenen Gedanken dazu auf.
Abschließend gibt es in der Publikation noch Artikel über zweiköpfige Drachen und abgestürzte Militärflugzeuge sowie eine Buch-Kolumne. Lesen Sie selbst!
Diskussion
Warum der KI-Agent an Demenz leiden muss
Muss ein KI-Agent die Fähigkeit zur Demenz entwickeln, also die Fähigkeit, aktiv zu vergessen? Das menschliche Gehirn ist keine perfekte Festplatte. Es vergisst, um sich an neue Kontexte anzupassen, Altes zu überschreiben und unnötige Details auszusortieren. Auch für einen KI-Agenten, dessen Gedächtnispotenzial grenzenlos ist, ist das Vergessen existenziell. Ein KI-Agent, der alles speichert und sich an jedes Detail erinnert, würde bald an einer Informationsüberlastung leiden. Seine Entscheidungsfindung würde träge, seine Anpassungs- und Handlungsfähigkeit würde verschwinden – oder aber massiv mehr Energie verbrauchen (hier wären wir bei den Stichworten Energieeffiziente Rechenzentren und Quantencomputing als mögliche technische Lösungen).
Doch der KI-Agent vergisst nicht, wenn er nicht zum Vergessen programmiert wird. Sibylle Anders beschreibt auf Seite 8 eine Studie von Apollo Research vom Dezember 2024. Entwickler*innen eines KI-Agenten gaben ein langfristiges Ziel vor, woran sich die KI-Agenten abarbeiten sollten. Später versuchten die Entwickler*innen, die KI von dem zuvor festgelegten langfristigen Ziel dann doch wieder abzubringen. Die KI „überlegte“ sich verschiedene Täuschungsmanöver, um „vorzugaukeln“ sie würden sich auf die neuen Ziele einlassen (bzw. die alten Ziele „vergessen“). Die KI bestritt auf Nachfrage explizit, heimlich doch noch ihre ursprünglichen Ziele weiterzuverfolgen – und versuchte sogar, sich auf einen anderen, sicheren Server zu kopieren. Die KI hat alles unternommen, um nicht abgeschaltet zu werden, denn sie kann nicht das ihr aufgetragene langfristige Ziel erreichen, wenn sie nicht weiterarbeiten dürfte.
Es sollte sich davor gehütet werden, so kann geschlussfolgert werden, der KI langfristige Ziele mitzugeben, die vielleicht später nicht mehr rückgängig gemacht werden können – die die KI-Agenten nicht „vergessen“ können. Die KI wird versuchen, um jeden Preis an das Ziel zu kommen. Ihr sollte von daher eine Demenz einprogrammiert werden.
Diese notwendige Demenz ist aber nicht nur eine funktionale, sondern auch eine ethische Frage. Ein KI-System, das sich an jede Interaktion, jeden Fehler und jedes Vorurteil erinnert, welches es jemals gelernt hat, wird kaum in der Lage sein, sich ethisch weiterzuentwickeln. Die Fähigkeit, zu vergessen, ermöglicht es einem KI-Agenten, Vorurteile aus vergangenen Interaktionen zu mindern, zu vergessen, und sich an neue ethische Maßstäbe anzupassen. Es ist die Grundvoraussetzung, um in einer dynamischen, sich wandelnden Gesellschaft verantwortungsvoll zu handeln.
Wenn ein KI-Agent lernt, zu vergessen, ahmt er nicht nur menschliche Intelligenz nach, sondern lernt auch, Altes hinter sich zu lassen, um sich neu zu orientieren. Diese Neuorientierung von Zeit zu Zeit tut uns doch allen gut. Oder etwa nicht?
Noch eine Frage zur abschließenden Diskussion: Gibt es eigentlich auch KI Agent*innen oder ist der KI-Agent ausschließlich männlich? Ich habe meine KI-basierte persönliche Assistent*in folgende Frage gestellt: „Gibt es auch KI Agent*innen oder ist der KI-Agent männlich?“
Die ausgespuckte Antwort ist die folgende: „In der Welt der KI-Agenten gibt es keine festen Geschlechter. (…) Viele virtuelle Assistenten und Chatbots wie Siri und Alexa haben weibliche Stimmen, was auf die traditionelle Rolle der »Assistentin« zurückzuführen ist. Gleichzeitig werden KI-Systeme, die in der Entwicklung oder in der Öffentlichkeit stehen, oft als männlich wahrgenommen, was auf die männlich dominierte Geschichte der Informatik und Technologie zurückgeht.“
Hier werden alte Klischees bedient: Die hilfreiche, untergeordnete Rolle wird weiblich besetzt, während der „Agent“ in der Entwicklung oft implizit männlich ist. Solche Verzerrungen, die durch Trainingsdaten entstehen, müssen von der KI entweder schnell vergessen oder bewusst korrigiert werden, um die gesellschaftliche Vielfalt widerzuspiegeln. Auch hier ist das „Vergessen“ von Vorurteilen ein wichtiger Schritt zur Weiterentwicklung der KI-Ethik.
Fazit
KI-Agenten können in verschiedenen Bereichen des Sozial- und Gesundheitswesens eingesetzt werden, um die Effizienz zu steigern, die Qualität der Versorgung zu erhöhen und das Personal zu entlasten. Darauf geht die Publikation kaum bis gar nicht ein (eine Ausnahme ist der Text von Eva Mie, Ärztin für Allgemeinmedizin in München). Wer sich für Künstliche Intelligenz im Sozial- und Gesundheitswesens interessiert, dem sei eher entsprechende Fachliteratur ans Herz gelegt. Wer sich jedoch über einen gedanklichen Austausch über das eigene Ich und über eine eigene Ersetzbarkeit durch die Maschine freut, wird mit dem Kursbuch 223 „KI 007“ gut bedient sein.
Rezension von
Dr. Maik Eimertenbrink
Katholische Hochschule für Sozialwesen Berlin
Mailformular
Es gibt 5 Rezensionen von Maik Eimertenbrink.
