Kategorie: Feuilleton

Veröffentlicht am

KI als Strukturverstärker – Macht, Algoritmen und Autorenschaft

Bild: Steve-johnson-KI .unsplashed+

KI ist Gamechanger,  darüber sind sich fast alle einig. Darüber wie sich die Spielregeln ändern sollen, nicht.
Einstellungen und Haltungen zu KI gehen weit auseinander, die Diskussionen verlaufen meist innerhalb bestehender Gruppierungen, die den jeweiligen  Deutungslogiken folgen.

Gründe dafür, dass sich die Diskurse kaum treffen, gibt es viele. KI greift in zahlreiche gesellschaftliche Funktionssysteme ein: Medizin, Recht, Bildung, Produktion, Werbung, kreative Kreation und so viele mehr …  Ihr Einsatz, ihre Nutzung folgt einer  jeweils eigenen Logik.
Grundsätzlich tritt KI in zwei Formen auf: als sichtbare, aufrufbare Chatbots wie ChatGPT, Claude Sonnet oder Bildgeneratoren, wie Midjourney und  Googles Nano Banana/ Gemini 2.5 Flash Image und als im Hintergrund in Prozesse eingebettete Algorithmen, die Abläufe präemptiv steuern.
Konzerne sehen in KI ein Effizienz-Tool, das Abläufe beschleunigt und Arbeitskosten reduziert. Wirtschaftsförderer sehen in ihr einen Baustein der Infrastruktur, der Technologiesouveränität erfordert. Anwender erleben sie oft spielerisch.
Andere sehen KI in der Nähe eines autoritären Machtapparats oder als einen Angriff auf geistige Autonomie und das Prinzip der Autorenschaft.

Chatbots erlauben es uns, mit ihnen zu experimentieren, ihre Funktionsweise zu erkunden, sie für eigene Zwecke zu nutzen oder auch zu verwerfen. Sie sind sichtbar, direkt erfahrbar und eröffnen Spielräume zur Einübung neuer Praktiken. Sie können als bottom-up- Praxis verstanden werden. Im besten Falle als Werkzeuge der Co Creation.
Eingebettete Algorithmen hingegen sind unsichtbar in Prozesse integriert. Sie lassen sich nicht einüben, sondern wirken strukturell – als Teil einer Macht-und Steuerungsarchitektur, die Entscheidungen präemptiv vorgibt, noch bevor wir selbst eingreifen können. Sie können als top-down Praxis verstanden werden. 

Für beide Formen gilt aber, dass sie Interessen spiegeln. Chatbots ebenso wie eingebettete Algorithmen liefern nicht neutral, sondern genau das, was in ihren Vorgaben, Trainingsdaten oder politischen Entscheidungen angelegt ist – im besten Fall also auch das, was demokratisch beschlossen wurde.
LLMs basieren auf einer oft urheberrechtlich problematischen kulturellen Extraktion: LLM systems harvest everything that can be made digital, and then use it to train corporate AI models (Kate Crawford, 2023)

KI ist zwar seit fast drei Jahren Hype und  die meisten Menschen sind mit ihr in Berührung gekommen, dennoch fehlt der Diskussion die inhaltliche Breite, die ihr zukommt.
Die öffentlichen Debatten drehen sich überwiegend um die sichtbare, dialogische Oberfläche, die wir mit einigem Lernaufwand sinnvoll und für uns nützlich gestalten können.  Die unsichtbare Allgegenwart der eingebetteten Algorithmen, die Prozesse steuern und Entscheidungen präemptiv beeinflussen, bleibt im Hintergrund.
Frage ist: Wie können Prozesse gestaltet werden, ohne von ihnen überrollt zu werden? Ohne dass sich strukturelle Macht weiter konzentriert?
KI ist in Machtstrukturen eingebunden. Ganz offensichtlich können  eingebettete Algorithmen präemptiv, vorentscheidend im – selektierenden-  Sinne der jeweiligen Betreiber verwendet werden.
Es fehlt eine gesellschaftliche Bewegung, die Machtstrukturen thematisiert, ohne gleich die ganze Technologie abzulehnen. Die Thematisierung eines neuen, smarten Faschismus – wie bei Rainer Mühlhoff ist richtig. Ein alleiniger Rückzug darauf kommt aber einer splendid isolation gleich.
KI-Technologien wurden ursprünglich dazu entwickelt,  aufwendige Analysen zu erleichtern und uns bei komplexen Aufgaben zu unterstützen. In den letzten Jahren haben sie sich zu nahezu omnipräsenten Begleitern  entwickelt. KI-basierte Systemen sind so sehr mit unserer Wirklichkeit verwoben, dass wir uns oft nur noch am Rande bewusst sind, wie stark sie unsere Entscheidungsprozesse beeinflussen.
Zudem kratzt KI  an dem menschlichen Selbstverständnis als kreativem und intellektuellen Wesen.

Von Frank Witt  stammt der Begriff  von  KI  als Strukturverstärker. KI ist bzw. wirkt als eine soziotechnische Konstellation: Weder als neutrale Technik noch als autonomes System, sondern als ein Ensemble aus Algorithmen, Daten, Institutionen und Akteuren. KI reproduziert nicht nur bestehende gesellschaftliche Tendenzen, sondern verstärkt sie in vielen Fällen. KI beschleunigt, wirkt als Verstärker von Effizienz. Das gilt für  Überwachungsprozesse ebenso wie für kreative Prozesse. KI kann gesellschaftliche und ökonomische Macht verstärken – ihre Anwendung und Wirkung gehören in den öffentlichen Diskurs.
KI zeigt die ganze Ambivalenz mächtiger Technologien: Sie kann ebenso kreative Prozesse bereichern wie demokratische Diskurse untergraben, Wissensarbeit unterstützen wie  Desinformationskampagnen automatisieren. Sie kann ganze  Trollfabriken steuern oder als cocreatives Werkzeug genutzt werden.

Vor rund 25 Jahren, um die Jahrtausendwende, setzte sich das Internet in der Breite durch. Blicken wir  zurück,  gab es damals einen ersten Anlauf zu einem Internet der Konzerne, das heute oft vergessene Internet der Portale.
Zentrale Portale sollten den Einstieg ins Internet kontrollieren, Walled Gardens statt offener Suche und Navigation- ein klassisches Gatekeeper– Modell, top-down konstruiert. Portal-Websites dienten als zentrale Startseiten, über die Dienste wie Nachrichten, E-Mail, Chats, Shopping, Online-Banking gebündelt werden sollten.  AOL, Yahoo, Compuserve, Lycos, aber auch MSN (Microsoft Network)   und t- online waren die Protagonisten.

Bild: unsplash +

Dagegen formierte sich eine breite Bewegung für ein freies Internet ohne Gatekeeper mit offenen Standards und der Vision einer vernetzten Gesellschaft.  Das Modell der  proprietären Portale der Konzerne scheiterte.
Der Erfolg wirkte einige Jahre nach  und gab basisdemokratischen Strömungen Auftrieb. Man sprach von  Netzkultur – gemeint war ein von einer Community getragener  Standard.
Die schliesslich erfolgreiche Beherrschung  der digitalen Welt durch quasi-Monopole, gelang auf anderem Wege- beschrieben u.a. von Shoshana Zuboff (Überwachungskapitalismus) und Michael Seemann (Macht der Plattformen),  oft als  Landnahme durch Big Tech bezeichnet. Aus dem partizipativen Web 2.0  war wieder ein Internet der Konzerne – jetzt BigTech genannt –  geworden – mit neuen Formen von Kontrolle und Gewinnerzielung. .
Generative KI ist ein Kind dieses Social Web. Ohne dessen Datenfülle und die Digitalisierung des verfügbaren menschlichen Wissens gäbe es sie nicht. Die systematische Verknüpfung, Verdichtung und Automatisierung dieses Wissens war technisch eine logische Weiterentwicklung der Digitalisierung.
So wird technologische Disruption von quasi-Monopolen als Triebkraft gesellschaftlichen Fortschritts inszeniert – ein Fortschritt, der zunehmend mit neuen Formen des Autoritarismus in Verbindung gebracht wird.

Der Filmkomponist Matthias Hornschuh beschreibt in seiner Schrift Wir geben uns auf. KI, Kultur und die Entwertung der Wissensarbeit (die in dieser Woche als Buch erscheint, s.u.)  eine  systematische Entwertung kultureller Arbeit. Einer auf schnell erfassbare Oberflächenreize optimierten Welt setzt er den Wert kultureller Durchdringung entgegen.
An anderer Stelle hebt er das Prinzip der Autorenschaft hervor, zitiert dabei den Kunsttheoretiker Bazon Brock: Menschen, hinter denen nichts steht, kein Papst, kein Militär, kein garnichts, und die trotzdem angehört werden, weil das, was sie sagen, interessant und von Wichtigkeit ist, aufgrund ihrer Fähigkeit, Welterkenntnis zu eröffnen.
Wenn der Zufluss neuer, innovativer und vielfältiger Inhalte zu versiegen droht, dann müssen sich Staat, Gesellschaft und Volkswirtschaft auf eine geistige Dürre einstellen. Es stellt sich die nicht geringe Frage, wie eigentlich in Zukunft das Neue in die Welt gelangen soll.
Auch KI- Kritiker wie Rainer Mühlhoff und Kate Crawford  sprechen  an einigen Stellen  von entmenschlichender Technologie  – gemeint ist Vereinnahmung von Subjektivität durch technologische Systeme.

KI kann Ähnliches im Verschiedenen erkennen, aber  nicht intentional Muster brechen oder völlig neue konzeptionelle Verbindungen schaffen, die jenseits statistischer Wahrscheinlichkeiten liegen. KI ist gut darin, aus Trainingsdaten erworbenes Wissen anzuwenden,   logisches Denken jenseits erlernter Muster fällt ihr schwer. Die spannendsten Momente entstehen nicht durch perfekte Beherrschung von Mustern , sondern durch deren überraschende Brechung. Es setzt voraus, dass jemand will, dass etwas anders läuft – eine Intention, die KI allein nicht haben kann.

Der KI-Debatte fehlt bislang eine kulturelle Aneignung, eine tiefer gehende ästhetische Durchdringung. Etwas wie Andy Warhols Pop Art, die Konsumkultur kulturell verfügbar machte. Eine KI-Kunst, die weder die Technologie dämonisiert noch vergötzt, sondern ihre Möglichkeiten und Grenzen kreativ auslotet. So kann aus einer technologischen und politisch polarisierten Debatte eine gesellschaftliche werden.

Das Web 2.0 sollte alle zu Autoren machen, das KI- Web macht alle zu Objekten einer Praxis der Extraktion. Wer wird die Prozesse der Zukunft gestalten – und wer lässt sich von ihnen gestalten? – Technologie wird erst durch kulturelle Aneignung zu gesellschaftlicher Realität.

 

vgl.  Holger Schmidt:  Revolution der Arbeitswelt: Bots statt Folien. FAZ 3.09.25.  *Matthias Hornschuh:. Wir geben uns auf: KI, Kultur und die Entwertung der Wissensarbeit – 9/25; 96 S.  Matthias Koch & Patrick Mennig: Plattformökonomie am Ende? Welchen Einfluss haben KI, Metaverse und Nachhaltigkeit auf digitale Geschäftsmodelle?  Vgl. auch Frank Witt: Stille Umbrüche – Was KI wirklich verändert. (8/25) . und Künstliche Intelligenz: Transformation und Krisen in Wirtschaft und Gesellschaft  (5/25) 



Veröffentlicht am

Stille Umbrüche  – Was KI wirklich verändert. Rückblick auf das Autorengespräch im Kölner Startplatz

Buchvorstellung und Diskussion

Am letzten Donnerstag (28.08) hatten wir in den Kölner Startplatz eingeladen: Stille Umbrüche  – Was KI wirklich verändert, eine Diskussion  mit dem Autor Frank Witt.

Sein Buch  Künstliche Intelligenz: Transformation und Krisen in Wirtschaft und Gesellschaft war im Frühjahr diesen Jahres erschienen. Zu diesem Buch gab es auch in diesem Blog eine Rezension, eine weitere von Gunnar Sohn.
Seit 2023 ist der Startplatz  AI Hub  offizielles Innovationszentrum für die deutsche KI-Community in Köln und Düsseldorf. Somit eine erste Adresse für Veranstaltungen dieser Art.

Vorweg: Was der Veranstaltung an Masse fehlte, machte sie durch Klasse wett: Die engagierte Beteiligung und die beeindruckende technische Kompetenz der Teilnehmer führten dazu, dass die Diskussionen knapp zwei Stunden über den vorgesehenen Zeitrahmen hinausgingen.

Bereits die konzeptionelle Ausgangslage der Diskussion war  bemerkenswert und ging über die gängigen Muster hinaus: Die Grundidee einer wirkmächtigen künstlichen Intelligenz hat nur wenig mit klassischen programmierten Computern gemein und orientiert sich vielmehr an der Funktionsweise biologischer Gehirne. Wenn sich diese durch mathematische Modelle im Parallel-Computing funktional äquivalent simulieren lässt, dann kann KI prinzipiell auch zum eigenständigen Akteur in der Gesellschaft werden – eine These, die weit über technische Innovationsdebatten hinausweist.

Der Vortrag bot einen differenzierten Blick auf die tiefgreifenden Umbrüche, die mit der Entwicklung und Integration von Künstlicher Intelligenz (KI) einhergehen. Im Zentrum stand die These, dass KI nicht nur eine technische, sondern vor allem eine gesellschaftliche Herausforderung darstellt.

Frank Witt, promovierter Philosoph und systemtheoretisch geschulter Beobachter technischer Entwicklungen, machte von Beginn an deutlich: Es geht nicht um Technikoptimismus oder Fortschrittsgläubigkeit, sondern um die kritische Reflexion eines Wandels, der bereits in vollem Gange ist. KI verändert nicht nur Produktionsweisen oder Kommunikationsformen, sondern greift tief in gesellschaftliche Machtverhältnisse und institutionelle Strukturen ein.

Strukturverstärkende Effekte von KI.

Witt beschrieb KI als soziotechnische Konstellation: Weder als neutrale Technik noch als autonomes System, sondern als ein Ensemble aus Algorithmen, Daten, Institutionen und Akteuren. Er zeigte, dass KI bestehende gesellschaftliche Tendenzen nicht einfach nur reproduziert, sondern in vielen Fällen sogar verstärkt:

  • In der Wirtschaft führt der Einsatz von KI zu neuen Rationalisierungsstrategien, zu Effizienzgewinnen, aber auch zur Prekarisierung von Arbeit.
  • Im Sozialen wird die Logik der Bewertung, Selektion und Überwachung durch algorithmische Systeme forciert.
  • In Organisationen können durch KI neue Formen von Kontrolle entstehen, die wenig Raum für Eigenverantwortung und Gestaltung lassen.

KI ist also nicht nur Werkzeug, sondern auch Strukturverstärker. Sie wirkt nicht nur auf der Ebene der Funktionen, sondern auch auf der Ebene der gesellschaftlichen Leitbilder.

Chancen, Risiken und der schmale Grat der Gestaltung

Die Diskussion bewegte sich entlang des Spannungsfeldes zwischen Innovationspotenzial und gesellschaftlicher Verantwortung. Witt betonte, dass KI große Möglichkeiten birgt: von der Automatisierung monotoner Aufgaben bis zur besseren Auswertung komplexer Daten. Gleichzeitig warnte er vor einem blinden Technikimport:

Die Digitalisierung wird oft als alternativlos dargestellt. Doch wir sollten fragen: Welche Gesellschaft wollen wir gestalten? Und welche Rolle soll Technik darin spielen?

Gerade im Bildungsbereich sei eine kritische Auseinandersetzung mit KI notwendig. Nicht nur die Techniknutzung, sondern die Reflexion über ihre Wirkmechanismen, impliziten Normen und gesellschaftlichen Auswirkungen sei entscheidend.

Kritik an Digitalisierungspolitik und den überformten Fortschrittsnarrativen

Witt übte deutliche Kritik an politischen Programmen zur Digitalisierung. Er sprach von einer “Verengung des Fortschrittsbegriffs”:

  • Digitalisierung werde vorrangig als Standortpolitik verstanden.
  • Die Frage nach Gemeinwohl, Partizipation und sozialer Gerechtigkeit werde zur Nebensache.

Dabei, so Witt, wäre gerade jetzt eine breite gesellschaftliche Debatte über die Zielsetzungen und Rahmenbedingungen digitaler Transformation notwendig.

Der Begriff der “Stillen Umbrüche”

Im Zentrum des Buches steht der Begriff der “Stillen Umbrüche”. Damit meint Witt keine plötzlichen Revolutionen, sondern die allmähliche, oft kaum bemerkte Veränderung grundlegender Verhältnisse:

  • Die Aufweichung klarer Erwerbsbiografien.
  • Neue Abhängigkeiten in der Plattformökonomie.
  • Die Verschiebung von Entscheidungsmacht zu Unternehmen und Algorithmen.

Diese Veränderungen geschehen oft leise, aber nachhaltig. Sie verändern das Verhältnis von Mensch, Arbeit und Gesellschaft langfristig.

KI und Bildung: Jenseits der Anpassung

Ein besonderer Fokus lag auf dem Bildungssystem. Witt forderte, Bildung dürfe sich nicht in der Vermittlung digitaler Kompetenzen erschöpfen. Vielmehr gehe es um:

    • kritisches Denken,
    • ethische Urteilsbildung,
    • Gestaltungskompetenz.

Die Schule der Zukunft müsse ein Ort der Aufklärung und nicht nur der Techniknutzung sein.

Verantwortung als Gestaltungsperspektive

Zum Abschluss betonte Witt, dass die Frage nicht sei, ob KI kommt oder nicht, sondern wie wir mit ihr umgehen: Technik ist gestaltbar. Aber nur, wenn wir uns dieser Gestaltungsaufgabe aktiv stellen.

Als Moderator steuerte ich einige Impulse aus Soziologie und Zeitgeschichte bei – ansonsten war wenig Moderation nötig – die Diskussion steuerte sich selbst. Die Veranstaltung zeigte eindrucksvoll, dass eine fundierte Debatte über KI nicht nur möglich, sondern notwendig ist.

Fazit:
Der Vortrag war ein Plädoyer für eine reflektierte, gesellschaftlich eingebettete Auseinandersetzung mit KI. Sie richtete sich an alle, die jenseits von Hype und Untergangsszenarien nach Wegen suchen, KI demokratisch, gerecht und verantwortungsvoll zu gestalten. In der anschliessenden Diskussion kamen zahlreiche weitere Details zur Sprache – und auch die Feststellung, dass wir in der KI noch in einer Frühstufe stehen.
Witts Analyse fügt sich in eine wachsende kritische Literatur ein, die die gesellschaftlichen Dimensionen der KI-Transformation ernst nimmt.
Rainer Mühlhoffs Künstliche Intelligenz und der neue Faschismus thematisiert  die ideologischen Verknüpfungen zwischen Tech-Eliten und autoritären Bewegungen, wie auch in diesem Blog  die Herausbildung neuer  Machtsysteme. immer wieder Thema war.
Karen Haos Empire of AI deckt imperiale Strukturen der KI-Industrie  auf. Frank Witt bietet eine  systemtheoretische Perspektive, die von der Entstehung und der Struktur von KI ausgeht, auf die  strukturverstärkenden Effekte von KI-Systemen.
Entgegen andere Schüben der Digitalisierung fehlt KI die breite Beteiligung einer Bewegung, die Umbrüche mitgestaltet. KI erschien ready-to-use aus der Hand und in der Kontrolle von BigTech Konzernen.

KI kann nicht als neutrale Technologie begriffen werden, sondern als soziotechnische Konstellation, die bestehende Machtverhältnisse reproduziert und verstärkt.
Aktuell polarisiert sich – entsprechend der politischen Großwetterlage – auch die KI-Diskussion zwischen imperialen Tech-Ambitionen und fundamentalistischer Technikkritik. Die Veranstaltung erinnerte daran, dass Technik immer auch eine Frage der gesellschaftlichen Wahl ist – und damit der demokratischen Gestaltung.

Die Stillen Umbrüche werden nur dann gestaltbar, wenn sie sichtbar gemacht und zum Gegenstand öffentlicher Deliberation werden. Darin liegt die politische Dimension einer kritischen KI-Forschung, die über technische Machbarkeit hinausfragt und die Bedingungen demokratischer Teilhabe in den Mittelpunkt stellt.

Frank H. Witt: Künstliche Intelligenz: Transformation und Krisen in Wirtschaft und Gesellschaft-UVK Verlag , 220 S. –  auf yt: Wittgenstein und Turing: KI als kumulative Innovation   Im Blog: Rezension zu:  Empire of AI – Dreams and Nightmares in Sam Altman’s Open AI –  Rezension zu:  Künstliche Intelligenz und der neue Faschismus . Rezension zu: Künstliche Intelligenz: Transformation und Krisen in Wirtschaft und Gesellschaft



Veröffentlicht am

Empire of AI – Dreams and Nightmares in Sam Altman’s Open AI (Rez.)

extraktiver Kolonialismus

An diesem Buch kommt  nicht vorbei, wer sich ernsthaft mit der gesellschaftlichen Dimension von KI befasst.
Karen Haos Empire of AI erschien bereits vor drei Monaten. Spät dabei zu sein, bringt auch den Vorteil mit sich, dass man erste Reaktionen und Rezensionen in die eigene Besprechung einfließen lassen kann.
Empire of AI wurde nahezu durchgängig positiv hervorgehoben – als kritische, detailreiche Analyse der globalen KI-Industrie und ihrer imperialen Strukturen – hervorragend und gründlich recherchiert, mit kritischem Insiderwissen als Hintergrund.
Wer das Silicon Valley der 2020er Jahre, den KI-Boom und seine weltweiten Auswirkungen mit nur einem Buch verstehen möchte, sollte dieses lesen.

Karen Hao schreibt nicht von außen über die KI-Industrie. Empire of AI lässt sich als journalistische Ethnographie lesen. Teilnehmende Beobachtung ist der Rahmen. Persönliche Erlebnisse fließen ein, die Basis der Analysen sind aber über 300 Interviews, ergänzt durch Korrespondenzen und andere Dokumente.

Karen Hao war über Jahre hinweg Teil des Ecosystems in dem sich KI- Unternehmen entwickelten. Sie teilte Wohnungen mit Entwickler:innen, nahm an internen Treffen teil und führte Hintergrundgespräche mit Gründerfiguren wie Sam Altman.  I was the first journalist to profile OpenAI. I embedded within the company for three days in 2019 sagte sie in einem Interview.
Ihre Sichtweise changiert zwischen Beschreibung aus der Nähe und Analyse, diese Spannung macht den Wert ihrer Darstellung aus. Der Text bleibt dabei auf immerhin 482 Seiten gut lesbar.

Etwas überrascht hat mich, dass Karen Hao an keiner Stelle den Atlas of AI von Kate Crawford (2021) erwähnt. Beide Autorinnen benennen die extraktive Logik der KI, beide analysieren globale Machtasymmetrien und die Auslagerung von Datenarbeit als crowdworking, thematisieren eine  postkoloniale Ausbeutung, beide argumentieren kritisch gegenüber dem Silicon Valley.
Crawfords Buch ist eher akademisch, in den Critical Data Studies verankert. Hao geht es um investigative  Aufklärung. Beide Bücher ergänzen sich in ihrer Wirkung und  ihrer kritischen Perspektive .

Kaum eine Technik ist unschuldig – und KI ist es auch nicht. Zentrales Thema des Buches ist der Widerspruch zwischen dem Versprechen einer künstlichen allgemeinen Intelligenz, einer Technik, die der gesamten Menschheit zugute kommen sollte und der  messy, secretive reality behind OpenAI’s bid to save the world  -wie es die Autorin  bereits im Februar 2020 schrieb.

KI, wie generell digitale Techniken, wird meist als dematerialisiert wahrgenommen. Das mag in der Endausgabe so erscheinen. Letztlich beruht KI aber auf der Abschöpfung materieller, energetischer, kultureller und kognitiver Ressourcen:
Benötigte Ressourcen sind so breit gestreut wie seltene Erden und andere Mineralien, Energie, Wasser, ausgelagerte menschliche Arbeitskraft, kulturelle Produkte, digitalisiertes menschliches Wissen, die Datenfülle der Plattformen etc. – Ohne all diese Ressourcen gäbe es KI nicht.

OpenAI wurde mit dem Anspruch auf Transparenz gegründet. Im Vordergrund stand die Idee, eine künstliche Intelligenz zu entwickeln, die value for everyone rather than shareholders schafft – einen Nutzen der weltweit gerecht verteilt werden sollte, jenseits privatwirtschaftlicher Interessen.
In der OpenAI Charter, einer Art ethischem Leitbild bzw. selbstgegebener Verfassung, heisst es: To ensure that artificial general intelligence benefits all of humanity und weiter: We are committed to broad distribution of benefits and long-term safety, and to cooperative orientation with other research and policy institutions. 
Hao setzte dem schon 2020 eine Beschreibung der realen Logik entgegen: Nicht das ethische Leitbild treibt das Handeln an, sondern die Angst, den entscheidenden Innovationsschub zu verpassen.
The need to be first or perish beschreibt die geltende Systemlogik, unter der das Unternehmen längst operiert. Das ursprüngliche Versprechen, eine künstliche Intelligenz zum Wohle aller zu entwickeln, steht heute im Spannungsverhältnis zu einem beschleunigten Innovationswettlauf, der sich durch die geopolitische Konstellationen verschärft: Die Entwicklung leistungsfähiger KI gilt zunehmend als strategischer Standortvorteil – technologisch, wirtschaftlich und militärisch. OpenAI bewegt sich in einem globalen Wettbewerb, in dem China als systemischer Rivale wahrgenommen wird.
Die Weiterentwicklung folgt in erster Linie der Logik des Venture Capitals, nicht der einer am Gemeinwohl orientierten Forschung. Hinzu kommt die enge Partnerschaft mit Microsoft die der ehemals gemeinnützigen Organisation eine neue Abhängigkeit schafft. Microsoft stellt nicht nur die notwendige Cloud-Infrastruktur bereit, sondern hat sich durch Milliarden-Investitionen direkten Zugang zu OpenAIs Technologien gesichert.

Die Idee einer Artificial General Intelligence  (AGI) – einer künstlichen Intelligenz, die den Menschen übertrifft oder gleichkommt – dient bei OpenAI als als strategisches Legitimationsnarrativ für gegenwärtige Entscheidungen  (vgl. Who is building a brain for the world?). 
OpenAI leitet aus der erwarteten Entwicklung von AGI den Anspruch ab, als vorausschauende Instanz zu handeln: to shape AGI before it shapes us. Damit erhebt das Unternehmen den Anspruch auf eine Mehrfachrolle als technischer Wegbereiter, ethischer Regulator und politischer Akteur.
AGI wird so zur Legitimationsfigur für weitreichende Entscheidungen – die Intransparenz bei GPT-4, die Einschränkung von Open Source oder die gezielte Bündelung von Ressourcen. Je größer die angenommene AGI-Gefahr, desto plausibler erscheint es, ihre Entwicklung wenigen, vermeintlich verantwortlichen Akteuren zu überlassen.
Ein Ziel, das bisher nicht erreicht wurde, verleiht dem Unternehmen bereits heute eine außerordentliche Stellung. Hao nennt es eine  quasi- religiöse Rhetorik – ich würde es als  tragenden Mythos bezeichnen.

Sam Altman, CEO von Open AI, wird  von Hao als ambivalente Schlüsselfigur beschrieben: als visionärer Kopf für eine transformative Technologie, zugleich geschickter Machtpolitiker – brillant, ideologisch flexibel, auf dem Grat zwischen Weltrettung  und dem Aufbau eines Imperiums.
Ein kennzeichnender Satz:   Every single person that has ever clashed with him about his vision of AI development has left.

KI-Unternehmen verschieben den Fokus digitaler Macht: Plattformen wie Amazon oder Facebook lieferten standardisierte Angebote und personalisierte Werbung. KI-Systeme hingegen erzeugen singularisierte Texte, Bilder oder Entscheidungen – oft in Echtzeit, oft einmalig. Diese Form automatisierter Einmaligkeit hebt sich deutlich von der Logik der klassischen Plattformökonomie ab (vgl. Automatisierte Singularisierung – KI und die Herstellung von Einmaligkeit). 

Effektiver Altruismus (EA) bedeutet eine rational optimierte Philanthropie. Laut Hao durchlief EA eine bemerkenswerte Wandlung: von einer philosophischen Nischenbewegung zu einem dominanten Mainstream-Diskurs, mittlerweile hochgradig institutionalisiert und finanziell gut ausgestattet. EA dient als ethische Grundlage für die KI-Entwicklung und legitimiert dabei die Machtkonzentration bei wenigen Akteuren.
Insbesondere Anthropic (Betreiber von Claude Sonnet)  orientiert  sich an EA und hat sich mit Constitutional AI eine daran angelehnte Verfassung gegeben, die grundlegende normative Werte sicher stellen soll.
Karen Hao kritisiert aber auch die Praxis des Effektiven Altruismus als moralisierenden Vorwand für imperiale Praktiken, Ausbeutung und Machtkonzentration. Sie mahnt an, dass EA im Kontext der KI zu einer Legitimationsstrategie verkommen kann, die globale Ungleichheiten verstärkt, anstatt sie zu überwinden. Paradoxerweise kann EA durch seine Rationalisierung des Guten selbst zu einer Form technokratischer Herrschaft werden – was bei Kritikern auch so gesehen wird.

Karen Hao liefert keine Technikgeschichte und bedient keinen Fortschrittsnarrativ. Sie schreibt auch nicht über die Anwendungsmöglichkeiten in Medizin oder Klimaforschung. Ihr Interesse gilt unter welchen Voraussetzungen technische Potenziale entstehen – der Aufklärung über ihre Entstehungsbedingungen, Machtkonzentrationen und Versprechen. Ihre Frage ist nicht, was KI könnte – sondern was sie darf, wofür sie eingesetzt wird und wer darüber entscheidet.
Trotz ihrer demokratischen Gründungsnarrative bleiben die Innovationen der KI- Unternehmen in der Logik des Profits, der Kontrolle und der geopolitischen Interessen verhaftet – nicht anders, als man es bisher aus  der Tech Branche kennt. Die wenigen Unternehmen, die die leistungsfähigsten Modelle kontrollieren, haben massgeblichen Einfluss auf Diskurse, Bildung, Wissenschaft und gesellschaftliche Meinungsbildung. Sie entwickeln sich über multinationale Konzerne hinaus zu Imperien – so knüpft der Titel Empire of AI  an  frühere koloniale Imperien an. 

In einem Guest Essay der NewYork Times, kurz nach Erscheinen des Buches, formuliert die Autorin ihre aktuelle Sicht: Tech companies have long reaped the benefits of a friendly U.S. government, but the Trump administration has made clear that it will now grant new firepower to the industry’s ambitions. 
Das Streben nach KI bietet Unternehmen die Möglichkeit, mehr Daten als je zuvor abzusaugen, mit tiefgreifenden Auswirkungen auf die Privatsphäre und die Rechte des geistigen Eigentums der Menschen.

Die Diskussion zu KI hat sich in den letzten Monaten – entsprechend den politischen Ereignissen –  polarisiert bzw. verengt. Der Fortschrittsnarrativ verbindet sich immer stärker mit den imperialen Ambitionen von Big Tech, technologische Entwicklung wird als Grundlage globaler Machtarchitektur gesehen.
Auf der anderen Seite formiert sich eine scharfe Gegenbewegung, die in ihrer Fundamentalkritik oft luddistische und kulturpessimistische Züge annimmt. Begriffe wie Digitaler/ KI  Faschismus werden verwendet, die Technologie als solche diabolisiert.
Differenzierte Einschätzungen geraten in den Hintergrund. Dabei ist es gerade diese Haltung, die angesichts wachsender Alltagsnutzung – auch durch die Kritiker:innen selbst – Gestaltung ermöglicht.
Wer kontrolliert Technologie? Wie werden Nutzen und Risiken verteilt? Welche Gestaltungsmöglichkeiten haben wir (noch)?

 

Karen Hao: Empire of AI.:- Dreams and Nightmares in Sam Altman’s Open AI., New York 2025. : Silicon Valley Is at an Inflection Point. New York Time. 30.05.2025  – Karen Hao on How AI Colonialism Is Threatening the World.  . Democracy Now, 4.06.2025 – Inside the story that enraged OpenAi.MIT Technology Review. 19.05.2025.    The messy, secretive reality behind OpenAI’s bid to save the world. MIT Technology Review. 17.02.2020. Brian Merchant and Gail Brussel: Dismantling the Empire of AI with Karen Hao. Blood in the Machine.May 2025 Matteo Wang: The AI Industry Is Radicalizing. The tech industry and its critics occupy parallel universes. The Atlantic 12.07.25



Veröffentlicht am

KI 2025 – und die Einstellungen dazu

geprompted, nicht gezeichnet: KI-Titel der Neuausgabe des Zauberberg von  Thomas Mann

Auch im dritten Jahr nach ChatGPT bleibt generative KI ein vorrangiges Thema. Aus dem Stadium des Hype entsprechend dem Gartner Hype Cycle™ ist KI längst herausgewachsen, bleibt aber eine mit Innovationsversprechen verbundene gesellschaftliche Obsession.
Die Diskussion  ist von Nutzungserfahrungen, aber ebenso von politischen Einschätzungen bestimmt, die oft schwer zu überschauen sind.

Generative KI ist ein Kind des Social Web. Ohne dessen Datenfülle und die Digitalisierung des verfügbaren menschlichen Wissens gäbe es sie nicht. Die systematische Verknüpfung, Verdichtung und Automatisierung dieses Wissens war technisch eine logische Weiterentwicklung der Digitalisierung.

Das Chatfenster ist die Benutzeroberfläche, natürliche Sprache – vorausgesetzt man versteht Prompting-Befehle als solche – dient als Betriebssystem. Wir können mit der KI chatten, sie auffordern, ein Buchcover zu Literaturklassikern (s.o.) zu gestalten – oder einen Essay dazu zu schreiben.  Die KI liefert uns Ergebnisse, doch bis diese unseren Vorstellungen entsprechen, ist es ein Weg mit vielen Arbeitsschritten. Der Mensch füttert und steuert die KI, und entscheidet, wofür sie eingesetzt wird.
Manche Dinge kann die KI aus dem Stand: Übersetzungen, Wissensabfrage, Code- Snippets, Transkriptionen etc. KI automatisiert primär das, was ohnehin schon standardisiert war. Bei allem anderen bleibt sie Werkzeug, nicht Ersatz.

Wie schlagen sich drei Jahre generative KI in den Haltungen und Einstellungen nieder? Welche positiven und welche negativen Einschätzungen haben sich verfestigt?
Die Einstellungen zu KI  hängen von den Erfahrungsebenen  ab: Als aktives Werkzeug wird sie meist positiv erlebt; als fremdgesteuertes System erzeugt sie Abhängigkeit. Autonom ist KI nie – sie führt stets menschlich gesetzte Regeln aus, deren Bewertung wiederum von der Perspektive der Betroffenen abhängt.
Carsten Rossi, Agenturchef aus Köln, fasste in einem Video auf LinkedIn seine Nutzungserfahrung zusammen, die für viele Kreativarbeiter stehen kann: KI ist keine Wahrheitsmaschine. Ihre Stärke liegt im divergenten Denken, also in der Generierung einer Vielzahl von Ideen und Lösungswegen für ein Problem.
Divergentes Denken öffnet den Raum für multiple Lösungswege und Innovation, während konvergentes Denken zu einer einzigen, korrekten Antwort führt. Der Mensch als Nutzer bleibt für Angemessenheit (Appropriateness) verantwortlich.
Ähnliche Erfahrungen werden von Journalisten genannt. KI wird als nützliches Werkzeug erlebt und verstanden, wird in der Breite und auch mit Spass dabei eingesetzt. Generell wird KI als Erweiterung kreativer Möglichkeiten erlebt. 

Andere Nutzungserfahrungen gibt es in anderen Branchen. KI reorganisiert bestehende  Wissensbestände, macht sie auf neue Weise zugänglich. In manchen Branchen gibt es messbaren Nutzen  (Rechtsdatenbank-Durchsuchung, Radiologie-Auswertung, Code-Debugging) und eine jeweils entsprechende, meist positive Resonanz. In Branchen mit interpretativen Aufgaben (Marktforschung, Personalauswahl, kreative Beratung) bleibt die Resonanz  ambivalent. Entscheidend ist letztlich, wie sinnvoll die  einzelnen Lösungen erlebt werden.
KI ist längst nicht nur Technik, sondern auch ein Markt, der sich selbst antreibt. KI- Experten profilieren sich mit Wissens- und Erfahrungsvorsprüngen.  Konferenzen/ Events zu KI, Beratung und  Fortbildung boomen.

Das Chatfenster ist nur das eine Gesicht der KI – das andere ist zunehmend Embedded AI in technischen Systemen (z. B. Autos, Kameras, Industrieanlagen) bzw. implementierte KI. Letztere ist selten sichtbar, sie kommt nicht als große neue Maschine daher, sondern wird unauffällig in bestehende Systeme eingebaut – von HR-Software über Kreditscoring, dynamische Preisgestaltung bis hin zu Predictive Policing. Sie folgen eindeutigen Algorithmen ohne Raum für kreative Exploration.
Es ist dieses – kontrollierende – Gesicht, das Unbehagen verursacht. Der amerikanische Soziologe George Ritzer meinte dazu: The control exercised by AI is more insidious than that of other non-human technologies because it is largely invisible*

Standardwerk zur materiellen Dimension von KI – mit Klick gelangt man zur Rezension

Eine ausführlich begründete und wohl formulierte Kritik liefert Kate Crawford mit dem Atlas of AI.  Sie beschreibt KI als Metamaschine und zugleich als extraktive Industrie. Auch vier Jahre nach dem Erscheinen der Originalausgabe (2021) bleibt  der Atlas ein Schlüsselwerk zur Diskussion der strukturellen, sozialen und ökologischen Dimensionen von KI. Die von Crawford aufgezeigten physischen und gesellschaftlichen Kosten haben sich seither nicht relativiert, sondern verstärkt. Alle von ihr identifizierten Problembereiche haben an Intensität gewonnen – von der Umweltbelastung über die Abhängigkeit von kritischen Rohstoffen bis hin zur Konzentration wirtschaftlicher Macht in den Händen weniger Konzerne (vgl. Rezension).

An die materielle Extraktion schliesst die kulturelle Extraktion an: LLM systems harvest everything that can be made digital, and then use it to train corporate AI models – so die Autorin 2023 in einem Interview.

Rohstoff von KI –  Anthropic umging die Lizenzfrage mit dem händischen Einscannen von Millionen gebrauchter Bücher. Bild: unsplash unlimited- Gustavo Reyes

KI-Systeme werden mit immensen Beständen an Texten, Bildern, Musikstücken, Memes und anderen kulturellen Artefakten trainiert – von gemeinfrei bis urheberrechtlich geschützt. Fast das gesamte Internet mit seinen gesammelten kollektiven Wissen und kulturellen Ressourcen  wurde verfüttert. KI produziert aus ihnen neue (oft exklusive und kommerziell verwertbare) Bedeutungen.
Die Opposition gegen die Aneignung durch kulturelle Extraktion  differenziert sich nach Branchen: abgesehen von literarischen Werken haben Texte selten Werkcharakter, Textarbeiter nutzen zudem KI oft selber,  der Widerstand ist gering. Photos und Illustrationen sind stärker mit Autorenschaft und Stil verbunden und klarer urheberrechtlich geschützt. V. a. der Markt für Stockphotos- und illustrationen wird von KI verdrängt.
Musiker und Komponisten sind am stärksten von direkten Lizenzeinnahmen abhängig, ihre Einkommenslage am unmittelbarsten von KI bedrängt. So gibt es hier den ausgeprägtesten organisierten Widerstand.

Die Logik der Extraktion –  materiell und kulturell – führt direkt in die politische Dimension.  Datenhoheit ist Machtfaktor.
Seit der zweiten Trump-Wahl, dem Aufstieg des Populismus und dem Sturz der Ampel hat sich das politische Klima verschärft und polarisiert. Diese Polarisierung begünstigt radikale Diagnosen und Zuspitzungen. Ein übergreifender Konsens zwischen politischen  Lagern  schwindet.
In den USA entsteht ein neues oligarchisches Machtsystem – eine Verklumpung aus Rechtspopulismus, digitalem Kapitalismus und technokratischer Macht, angereichert mit diffusen Zukunftstheorien und reichlich persönlichem Narzissmus.
Der Auftritt der Tech-CEOs bei der Amtseinführung Trumps wurde international als Bekenntnis zu diesem neuen Machtsystem verstanden – auch wenn die Ansichten darüber auseinandergehen, wie geschlossen dieses System tatsächlich ist.

Ein Machtsystem, in dem man faschistoide Tendenzen erkennen kann. Ich habe es als Mash- Up/ Verklumpung beschrieben – seine Bestandteile sind (noch) zu konfus, um es als konsistentes Herrschaftssystem zu erkennen. Die Demokratie wird zwar angegriffen, besteht aber weiterhin.
Faschismus ist ein schwerwiegendes Wort, eine Keule, Ausdruck von Unvereinbarkeit, eine Art Exkommunikation aus der Gemeinschaft der Demokraten.
Keine Frage, dass die Verklumpung ein faschistisches Potential beinhaltet, das Möglichkeiten von Datenanalyse- und KI-Technologie nutzt, um den Rechtsstaat auszuschalten. Eine technokratische Vision ist ein schlanker, auf Automatisierung und Präemption basierender Apparat. Ein intransparenter Einsatz von Algorithmen funktioniert  dabei als Herrschaftswerkzeug.
Eine fundamentale Kritik an KI ist in ihren Aussagen radikaler geworden. Zwar distanziert sich etwa Rainer Mühlhoff in Künstliche Intelligenz und der neue Faschismus  (vgl. Rez.), von einer zwangsläufigen Entwicklung zu einem technokratischen bis faschistischen Staatswesen,  doch wird KI häufig eine ideologische und technologische Affinität zum  Faschismus zugeschrieben.
AI is a perfect example for the capitalism-to-fascism pipeline. It embodies capitalism and carries the seed of fascism –  so fasst es Malte Engeler, Jurist und Digital- Aktivist zusammen. KI ist technologisch nicht neutral, sondern spiegelt die Bedingungen und Ideologien ihrer Betreiber. KI gilt in dieser Argumentation  als totale Mobilisierung des Kapitalismus.
Die Kritik richtet sich insbesondere gegen Präemption, die Logik der Vorwegnahme von Entscheidungen. Im schlimmsten Falle eine Menschensortier-Technologie mit folgender Ungleichbehandlung, die gesellschaftliche Teilhabe so selektiert.

So berechtigt diese Kritiken im Detail sein mögen – sie vermengen Technologie- und Machtkritik. Präemption ist zweifellos ein mögliches Einsatzfeld von KI. Doch rechtfertigt dies die Dämonisierung einer Technologie, die in anderen Bereichen als nützlich und sinnvoll erlebt wird?  Technologie ist Macht, KI wahrscheinlich in besonderem Maße. Eine fundamentale Ablehnung bedeutet auch einen Rückzug aus den Gestaltungsmöglichkeiten.

In der Debatte um eine Superintelligenz/ AGI (Artificial General Intelligence)vermengen sich technische Spekulation, kommerzielle Interessen und endzeitliche Phantasien. Rainer Mühlhoff sieht darin eine absichtliche Überzeichnung von KI-Möglichkeiten und -Risiken, die im weiteren eine anti-demokratische Überhöhung von Technologie bedeutet – im utopischen als auch im apokalyptischen Sinne. Mit der technischen Realität von KI hat AGI  nichts zu tun.

Anders als frühere Digitalisierungsschübe ist KI nicht mit einer breiten sozialen Bewegung verbunden. Die Verbreitung des Internet war von partizipatorischen Visionen getragen, die oft auch Diskurshoheit gewannen. Technologischer und gesellschaftlicher Fortschritt wurden als Einheit erlebt. KI erscheint dagegen als Top-Down-Durchsetzung ohne demokratische Partizipation.

Ein Blick in die US-Tech-Szene zeigt ähnliche Radikalisierungen: Auf der einen Seite Evangelisten, Start-up-Gründer und Longtermisten, die Superintelligenz als unausweichlich predigen. Auf der anderen Seite Kritiker, die Chatbots als stochastic parrots oder racist piles of linear algebra abtun und deren Zusammenbruch voraussagen. Zwischen diesen auseinander drängenden Haltungen bleibt wenig Raum für die Auseinandersetzung mit den realen KI-Effekten: Effizienz- und Kreativitätsgewinne vs Umweltkosten, sozialer Ungleichheit, extraktiver Raubbau.

Ein Gedanke kam mir beim Schreiben immer wieder: Vielleicht braucht KI eine ästhetische Durchdringung – etwas wie Andy Warhols Pop Art, die Konsumkultur kulturell verfügbar machte. Eine KI-Kunst, die weder die Technologie dämonisiert noch vergötzt, sondern ihre Möglichkeiten und Grenzen kreativ auslotet. So kann aus  einer technologisch und polarisiert- politischen Debatte eine gesellschaftliche werden.

Abschliessend ein Veranstaltungshinweis:
Diskussions- und Vortragsveranstaltung zum Buch von Frank Witt  Künstliche Intelligenz: Transformation und Krisen in Wirtschaft und Gesellschaft am Donnerstag dem 28.08.2025 im Startplatz Mediapark 5 Köln 19:30
Anmeldung beim Startplatz.
Ich freue mich, einige meiner Leser zu sehen 😉

vgl auch:  Rezension zu Rainer Mühlhoff : Künstliche Intelligenz und der neue Faschismus. Reclam Verlag  Juli 2025. : David Golumbia: Cyberlibertarians’ Digital Deletion of the Left.  und Tech- Faschismus – Ein Mash-Up als Machtsystem (in diesem Blog) ** vgl.: LOOPS Fascist AI with Malte Engeler and Tante. Aufzeichnung vom 3.07.25 , Berlin  * George Ritzer: McDonaldization and Artificial Intelligence 4/2024 Matteo Wang: The AI Industry Is Radicalizing. The tech industry and its critics occupy parallel universes. The Atlantic 12.07.25

 



SideMenu