Auf den Atlas of AI wurde ich durch ein Interview in der FAZ am Sonntag (18.08) mit der australischen Autorin Kate Crawford aufmerksam – aus Anlass der deutschen Ausgabe, die in derselben Woche erschien.
Die englische Ausgabe liegt bereits seit August 2021 vor – was macht ein Buch zu einem derart aktuellen Thema auch nach drei Jahren so interessant, eine Übersetzung herauszugeben?
AI is neither artificial nor intelligent (8). Ein KI-System denkt nicht, sondern verarbeitet bzw. trifft Vorhersagen, ähnlich wie Google oder andere Computersysteme. Crawford widerlegt die Vorstellung von KI als immaterieller Cloud-Software, indem sie den enormen physischen und gesellschaftlichen Ressourcenverbrauch aufzeigt, der mit der Technologie verbunden ist. Sie beleuchtet die politische und ökonomische Verankerung von KI sowie die damit verbundenen sozialen und ökologischen Kosten.
U. a. beschreibt sie KI als Metamaschine (48 ff), ein komplexes, globales Agglomerat aus technologischen Funktionen, das sich letztendlich auf Daten, menschlicher Arbeit und Umweltressourcen aufbaut. KI als Metamaschine verdeutlicht die Rolle von Technologie als übergreifender, datengetriebener Instanz, die in Machtstrukturen eingebunden ist.
Der Atlas of AI führt an eine Reihe von Orten der Abschöpfung– der Titel ist gemeint als Kartierung der materiellen und gesellschaftlichen Grundlagen künstlicher Intelligenz.
Extraktiv/ abschöpfend ist der Begriff, mit dem Crawford KI immer wieder belegt: extractive industry, Technologie der Extraktion, Culture of data extraction (119). Gemeint ist die Abschöpfung von Zulieferungen materieller, operativer und ideeller Art. Bleibt man im Bild werden in sechs Kapiteln sechs “Kontinente” kartiert:
- Earth – Die Gewinnung von Rohstoffen wie Seltene Erden, Lithium und Kobalt, die für die Produktion von KI-Hardware unerlässlich sind, oft unter schwierigen geo- und umweltpolitischen Bedingungen
- Labor – Die Ausbeutung menschlicher Arbeitskraft, insbesondere in Form von Crowdworking, um KI-Systeme zu trainieren, oft unter prekären Arbeitsbedingungen.
- Data – Der immense Bedarf an Trainingsdaten, der zur Abschöpfung aller verfügbaren digitalen und zu digitalisierenden Materialien führt, einschließlich Texten, Code, Stimmen, Handgesten, Bildern und Bewegungsdaten
- Classification – Die Kategorisierung und Klassifizierung von Menschen und Dingen, die tief in kulturelle und soziale Normen eingebettet ist
- Affect – Die Erkennung und Nutzung menschlicher Emotionen durch biometrische Verfahren wie Gesichtsanalyse.
- State – Die enge Verbindung zwischen der Tech-Branche und dem militärisch-industriellen Komplex.
- Conclusion/ Power – untersucht, wie KI als Machtstruktur funktioniert, die Infrastruktur, Kapital und Arbeit vereint.
Als Anhang das Kapitel Coda/ Space zum Raumfahrtspektakel der Tech- Milliardäre, dargestellt als common corporate fantasies.
Hinzu kommt der Verbrauch enormer Mengen an Energie – der global zusammengefasst an Volkswirtschaften in der Grösse von Argentinien oder Schweden reicht, mit steigender Tendenz.
Von Supply Chains/ Lieferketten ist in der KI – Diskussion selten die Rede, doch lassen sich, ähnlich wie bei physischen Produkten, Schritte und Komponenten die notwendig sind, um KI-Lösungen zu entwickeln, bereitzustellen und in Betrieb zu halten, als solche verstehen.
Ein Absatz (218) fasst den Blickwinkel Crawfords kompakt zusammen: KI/ AI is born from salt lakes in Bolivia and mines in Congo, constructed from crowdworker- labeled datasets that seek to classify human actions emotions, and identities. It is used to navigate drones over Yemen, direct immigration police in the US, und modulate credit scores of human value and risk around the world. A wide-angle, multiscalar perspective on AI is needed to contend with these overlapping regimes.
Der “Atlas of AI” bleibt drei Jahre nach dem Erscheinen der Originalausgabe ein Schlüsselwerk zur Diskussion der strukturellen, sozialen und ökologischen Dimensionen von KI. Seit dem Erscheinen der Originalausgabe 2021 wurde der Atlas of AI in 10 Sprachen übersetzt. Forschungsverlauf und Reisen dazu reichen weitere zehn Jahre zurück. Es geht nicht um die Momentaufnahme eines bestimmten Jahres.
Was sich in den letzten beiden Jahren verändert hat, ist bekannt: Seit dem Launch von ChatGPT und weiterer KI- Modelle hat sich ihre Nutzung stark verbreitet, und die Investitionen haben sich beschleunigt.
In einem Interview von Juni 23* äusserte sich Crawford zu den Modellen generativer KI: Sie sieht den Launch der Large Language Models (LLMs) als einen bedeutsamen Wendepunkt, etwas, das es in diesem Ausmaß seit langem nicht gegeben habe. LLMs sind nicht nur eine neue Schnittstelle, sondern ein neues Medium, über das wir in den kommenden Jahren Informationen erhalten und erstellen werden. Das Wachstum der LLM erfordert enorme Datenmengen, mehr Menschen, die hinter den Kulissen als Clickworker und in Fabriken arbeiten, und einen immer höheren Energieverbrauch – damit auch einen weiteren Anstieg von Emissionen.
Der Atlas der KI ist ein politisches Buch, ein Korrektiv zum Hype: Crawford geht es um den Zusammenhang von Kapitalismus, Computation und Kontrolle (227). Sie thematisiert Arbeits-, Klima- und Datengerechtigkeit, um eine realistische Analyse der Umweltauswirkungen, Überreichweiten exekutiver Gewalt. KI wird als Teil eines Systems beschrieben, das auf einer Kette des Extraktivismus beruht, der alles andere als immateriell ist.
Manchmal wurde KI mit technologischen Sprüngen, wie der Einführung der Dampfmaschine oder der Elektrizität, verglichen. Innovationen, die zu ihrer Zeit ganz neue industrielle Möglichkeiten und Dynamiken eröffneten.
KI ist Teil der digitalen Revolution, oder besser: ein weiterer Schub der digitalen Evolution. Sie baut auf den Fortschritten in der Datenverarbeitung, Vernetzung und Rechenleistung sowie auf dem riesigen Umfang digital gespeicherten Wissens und von Verhaltensdaten auf.
Deutlich sind die Parallelen zur Analyse des Überwachungskapitalismus von Shoshana Zuboff (2018). Zuboff thematisierte die massenhafte Abschöpfung und Vermarktung von Verhaltensdaten, die zu einer Grundlage des digitalen (Plattform-) Kapitalismus wurde.
Beide Autorinnen beleuchten kritisch, wie digitale Technologien zu neuen Formen von Machtkonzentration und Kontrolle führen. Zuboff spricht von der Instrumentarisierung menschlichen Verhaltens, während Crawford die extraktiven Machtstrukturen hinter KI-Systemen aufdeckt. Beide Bücher sind sowohl wissenschaftlich fundiert, wie auch aktivistisch motiviert.
Social Media wie auch generative KI beruhen auf der digitalen Lesbarkeit von Kommunikation und Wissen – to capture the planet in a computationally legible form. Wissen über Verhalten und Verbindungen der Nutzer sind Geschäftsgrundlage. Beide Branchen nutzen Technologien, um wirtschaftlich verwertbare Informationen abzuschöpfen, und werfen dabei Fragen zu Datenschutz, Ethik und Regulierung auf. Das Konzept der Landnahme lässt sich mit beiden verbinden: Die Einnahme und Bewirtschaftung des Digitalen Neuland.
KI macht das, was Digitalität auszeichnet: Sie zerlegt Inhalte in kleinere, analysierbare Einheiten, analysiert sie und fügt sie nach definierten Vorgaben wieder neu zusammen. Auf diese Weise lässt sich durchaus von einer Neuorganisation des Wissens sprechen.
Datenextraktion ist die neue Dimension: LLMs systems harvest everything that can be made digital, and then use it to train corporate AI models *.
Neben Text, Code etc. zählen dazu alle zugänglichen Medienformate in Bild, Ton/ Musik, Video/ Film, Daten über Menschen, wie Stimmen, Gesichtsbilder/ Selfies, Fahndungsfotos, Handgesten, Selfies, Tattoes bis hin zu Daten, die Haushaltsgeräte oder Schrittzähler sammeln. All das kann auch als Rohmaterial zur Generierung von Avataren dienen. Sicherlich gibt es Unterschiede in der Handhabung zwischen den Modellen. Letztlich setzt sich die Dominanz weniger Konzerne, wie wir es von BigTech kennen, fort.
Viele der abgeernteten Inhalte sind Produkte der Arbeit von Autoren, Künstlern und anderen Kreativen. Oft steckt langfristige Arbeit dahinter und/ oder es bestehen Urheberechte. Seit neueren wurden hier und da Nutzungsverträge abgeschlossen.
Neue Techniken sind eine Sache, kulturelle Rechte eine andere: Stehen sie tatsächlichen oder rechtlichen Urhebern zu, sind sie globale Allmende – oder steht den Entwicklern der neuen Technik die Abschpfung zu? Generative KI schickt sich an, diejenigen, von deren Inhalten sie lebt, in deren eigenem Markt zu ersetzen** (s.u.).
Aktuell scheint der Hype um KI etwas abzuflachen – vom Erreichen eines Plateaus ist immer öfter die Rede. Die jüngsten Fortschritte übertreffen die Erwartungen nicht mehr in gleichem Maße wie zuvor. Der Mehrwert der Verbesserungen scheint den Umfang der Investitionen nicht mehr zu rechtfertigen. Das bedeutet aber nicht, dass die Verbreitung generativer KI abflaut. Die jüngsten Fortschritte übertreffen die Erwartungen nicht mehr in gleichem Maße wie zuvor.
Die Autorin steht der Branche nicht fern: Sie ist, neben anderen akademischen Positionen, Senior Principal Researcher bei Microsoft Research New York, ist aber auch an Kunsprojekten im Spannungsfeld Technologie/ Macht beteiligt, so an dem 2025 in Mailand geplanten Projekt Calculating Empires: A Genealogy of Technology and Power, 1500–2025.
Die deutsche Ausgabe gibt es als Atlas der KI: Die materielle Wahrheit hinter den neuen Datenimperien für 32 € bei C.H. Beck, die englische ist für 18 € als Paperback bestellbar.
Kate Crawford: Atlas of AI. Yale University Press. 2021. 327 S. de: Atlas der KI . Übers: Frank Lachmann 8/24 — KI ist von vorn bis hinten Politik – Interview mit Kate Crawford. FAZ am Sonntag. 18.08.2024, S. 33. Calculating and Powers: Interview with Kate Crawford– * Mining for Data: The Extractive Economy Behind AI – Green European Journal 13.06.2023. John Wyatt et al.: Atlas of AI’ by Kate Crawford: a review In. Evangelical Focus. Tech Human, 16.08.2023. + **vgl.: Matthias Hornschuh, In: KI-Training ist Urheberrechtsverletzung Initiative 4.09.24 — *so der franz./ amerikan. Gründer von Hugging Face , Clément Delangue auf LinkedIn. – 14.09.
