Kategorie: KI

Veröffentlicht am

KI im zweiten Jahr des Hype – BigTech wird zu BigAI

So sieht sich Chat GPT selber

Auch Technologien brauchen eine Geschichte, um verstanden zu werden, oder zumindest um eine Erwartung an sie aufzubauen.  Und es ist ein länger währender Prozess, bis sie zum Teil unserer Zivilisation werden.
Das Internet wurde als  Beginn einer neuen Medienepoche der Menschheitsgeschichte* begrüsst – und war mit einer Aufbruchsstimmung zu einer partizipatorischen Kultur verbunden. Historisch wurde der Einschnitt oft mit der Einführung des Buchdrucks verglichen.
Das Metaverse knüpfte an Bilder einer parallelen Welt oder eines begehbaren Internet an, die aber langsam verschwanden bzw. zurückgefahren wurden. Der Hype ist abgeflacht, die Entwicklung geht aber in Richtung immersive Technologie bzw. räumliches/ Spatial Computing voran.

KI ist mit zahlreichen Mythen der Popularkultur verbunden, vom Golem bis zum Supercomputer HAL. Chat GPT und seine Mitbewerber wurden anfangs oft wie eine Art Zauberkasten wahrgenommen, der auf erstaunliche und oft unerwartete Weise ganz unterschiedliche Aufgaben löst.
Öffentliche Wahrnehmung und Diskussion haben sich seit Beginn des Hype erweitert und differenziert – in der Kritik, wie im Ausbau der Nutzung.
Es fallen Vergleiche zu Innovationen, die die industrielle Entwicklung ausgelöst oder erneuert haben: zur Dampfmaschine, zur Elektrizität. Rafael Laguna de la Vera,  Chef der Bundesagentur SPRIND setzte noch einen drauf: Wenn der Computer das Fahrrad fürs Hirn (Steve Jobs) ist, dann ist KI die Rakete.  Die 🚀  wird übrigens – informell – als Emoji für KI- generierte Inhalte verwendet . 
KI und der Hype dazu – das sind zwei verschiedene Phänomene. KI ist ein technologisches Konzept mit seinen eigenen Grundlagen und Möglichkeiten, ein Fundament für verschiedenste technologische Anwendungen und Entwicklungen, die noch längst nicht zu Ende gedacht, noch weniger umgesetzt sind. Die heutigen Modelle der generativen KI sind eher frühe Versionen von dem, was möglich ist. Für manche sind sie bereits  ein Aufbruch in eine neue Zeit. Der Hype lässt sich als Vorbote einer neuen technologischen Revolution verstehen ( vgl. Gunnar Sohn 8/24).

Der Hype ist ein ökonomisches und popular- kulturelles Ereignis.  Er ist nicht gratis, weder ökonomisch, noch nach Kriterien der Nachhaltigkeit. Tech companies übertreffen sich gegenseitig im massiven finanziellen Einsatz. Es gibt jedoch noch kein klares Geschäftsmodell, abgesehen von der Steigerung der Cloud-Gewinne für Big Tech. Starke finanzielle Anreize treiben die Entwicklung an und lassen sie  heisslaufen – so übersteigt der Hype oft die tatsächlichen technologischen Möglichkeiten.
Schon die bisherigen Investionen sind gewaltig. Rechnet man veröffentlichte Zahlen zusammen, kommt man schnell auf mehrstellige Mrd – Beträge Investitionsvolumen. Bis 2025 werden 200 Mrd angenommen (vgl. ai-investment- statistics). I don’t care if we go through $500 million, $5 billion, or $50 billion a year, as long as we’re moving the needle on AI – so ein Statement von Sam Altman (5/23), das den Willen zur Umsetzung verdeutlicht.

Mit den Investitionen entsteht eine globale Infrastruktur:  Die Cloud- basierten Services der BigTech Giganten, die nun auch zu BigAI Giganten werden: There is no AI without Big Tech.  Sie bieten Plattformen und Werkzeuge, die als Rückgrat von KI-Innovationen dienen und es ermöglichen, KI in nahezu allen Bereichen der Wirtschaft und des täglichen Lebens zu integrieren.
Es gibt aber noch kein klares Geschäftsmodell, abgesehen von der Steigerung der Cloud-Gewinne für Big Tech durch die Bündelung von KI-Diensten mit Cloud-Infrastruktur. Und ein Geschäftsmodell ist wichtig, wenn es um Systeme geht, deren Training und Entwicklung Hunderte Millionen Dollar kosten kann (vgl.  Amba Ka et al., s.u.). 
Welche Rollen, welche Funktionen von KI eingenommen werden, ist noch längst nicht klar. Chatbots wie Chat GPT, werden etwa oft als eine Art persönlicher Assistent genutzt, haben aber im professionellen Einsatz bislang  ihre Grenzen.

Share of Industry Employment Exposed to Automation by AI. Quelle: Goldman Sachs. Global Economics Analyst – öffnet sich nach Klick in voller Auflösung

Singularisierte Automatisierung – gemeint sind KI-basierte Anwendungen, die jeweils spezifische Prozesse oder Funktionen automatisieren.. Es bedeutet die Automatisierung jeweils einzelner, spezifischer Prozesse oder Funktionen. Automatisierungen, die sich nach den jeweils erkannten Mustern richten – und in sehr unterschiedlichen Kontexten eingerichtet werden können.

Die Durchdringung von Branchen durch KI verläuft sehr unterschiedlich. Pharma- und Biotechnologiebranche profitieren etwa stark von generativer KI. Allgemein dringt KI dort am schnellsten vor, wo eine stark strukturierte Kommunikation vorherrscht, wie etwa in Kundensupport-Systemen, in IT, Marketing und Vertrieb. Branchen, die von standardisierten Verwaltungstätigkeiten oder strukturierten Prozessen geprägt sind – wie die Rechtsbranche mit ihrer präzisen Argumentation – gehören ebenfalls zu den Vorreitern (s. Abb.).
Aber niemand  sollte sich bei Problemlösungen allein auf einen Chatbot verlassen:  Vorsicht vor Botshit: ein Schlagwort für unwahre, ungenaue, unsinnige Chatbot- Inhalte, die unreflektiert übernommen werden (André Spicer, s.u.).  Qualitätskontrolle bleibt notwendig.

KI ist selbst ein bedeutendes und lukratives Feld von Weiterbildung und Beratung. Klassische betriebswirtschaftliche Argumente  wie Sicherung von Wettbewerbsfähigkeit und Standort, Entwicklung neuer Geschäftsmodelle, Zeitersparnis, Kosten- aber auch Personaleinsparung -streuen sich ein. Es geht um Effizienzsprünge, manche Schätzungen sprechen von Produktivitätszuwächsen von bis zu 70%.“
Diese Versprechungen sind wohl nur in ganz bestimmten Workflows und mit darauf zugeschnittenen Lösungen erreichbar.  So brüstete sich der schwedische Finanzdienstleister Klarna kürzlich, nach der Einführung von KI die Hälfte seiner Mitarbeiter einsparen, d.h. entlassen zu können.
Ob die mit KI verbundenen Versprechen von enormen Produktivitätssteigerungen tatsächlich gesamtwirtschaftlich realisiert werden können, bleibt abzuwarten. Der Return on Investment (ROI) scheint bislang keine zentrale Rolle zu spielen.

Zwei allgemein bekannte Muster von Hypes lassen sich sicherlich auch auf den KI- Hype beziehen:  der Gartner Hype Cycle– mit den auf- und absteigenden Kurven der Aufmerksamkeit. Ebenso Amaras Gesetz   Menschen neigen dazu, die Auswirkungen einer Technologie anfangs zu überschätzen, auf lange Sicht aber zu unterschätzen.
Die wesentlichsten Wirkungen des KI- Hypes liegen wohl anderswo: Hunderte Millionen Menschen haben Generative KI ausprobiert bzw. getestet – sie machten dabei einige ähnliche Erfahrungen:  ganz vorn steht die, mit Computern in der eigenen Sprache umzugehen – das Betriebssystem, das Menschen am besten verstehen.
Generative KI hat unsere Fantasie beflügelt,  die Hoffnungen und Ängste vieler Menschen über den Aufstieg intelligenter Maschinen genährt: grenzenlose Produktivität, grenzenlose Informationen, grenzenlose Fehlinformationen. Prompten ist die Kulturtechnik, gezielte Ergebnisse zu erreichen.  Zu den Möglichkeiten gehört aber genauso die erleichterte Produktion von mit Absicht erstellten Fakes und ihre Verbreitung.

KI ist nicht nur eine Querschnittstechnologie, die in vielen Branchen Veränderungen auslöst, genauso wirkt sie auf zahllose gesellschaftliche Bereiche ein. Chatbots sind als popular- kultureller Motor wahrscheinlich bedeutsamer  denn als technisches Werkzeug.
Zwei Beispiele in denen KI kulturelle Verwerfungen mit sich bringt: In einem der letzten Blogbeiträge hatte ich Digital Afterlife  thematisiert, das Weiter- Bestehen der Kommunikation mit den Avataren von Verstorbenen   –  ein Format, das tief in unsere Vorstellungen von Tod und Trauer eingreift.
Ein ganz anderes Beispiel: Der spanische Fast Fashion Gigant Mango meldete, statt menschlicher Models nur noch KI- generierte Models einzusetzen.
Es lässt sich als  Schritt in eine Synthetisierung von Schönheitsidealen lesen. Bildgenerierungen erinnern tatsächlich oft an über- standardisierte Stock- Photos –  genauso können sie als ästhetisches Experimentierfeld dienen.

Letztlich wird der Hype um KI aber angetrieben durch die geschäftlichen Interessen von BigTech – es geht um die Landnahme in einem neuen Feld: Big Tech erweitert zu BigAI.
Ohne signifikante Eingriffe wird der KI-Markt letztlich dieselben Unternehmen belohnen und stärken, die bereits von den Gewinnen des invasiven Geschäftsmodells der Überwachungsgesellschaft profitiert habe, das das kommerzielle Internet angetrieben hat – oft auf Kosten der Öffentlichkeit (vgl.  Amba Ka et al., s.u.).
Konzentrierte Macht ist nicht nur für Märkte ein Problem. Sind wesentliche Teile der Infrastruktur in den Händen weniger Unternehmen oder Entscheidungsträger, wird dies zu einem Problem für Demokratie, Kultur sowie individuelle und kollektive Handlungsfähigkeit.

KI bleibt ein zentrales Thema öffentlicher Aufmerksamkeit, sie verbreitet sich zunehmend in unserem Alltag. In ihrem Gebrauch bilden sich mehr und mehr Alltagsroutinen.
Nach und nach, aufeinander folgend gab es die Hypes zur Blockchain/ Web3, zum Metaverse und nun KI.  Gemeinsam ist allen, rechenintensive Stromfresser  zu sein. So steht  der enorme Energieverbrauch der neuen KI- Infrastruktur in der Kritik. Ohne breit verfügbare erneuerbare Energie kann sich der Planet KI in diesem Ausmass   nicht leisten.

 

*vgl. : Dirk Baecker: 4.0 oder die Lücke die der Rechner lässt – ² Gunnar Sohn 8/24 –P. McCarthy, Timothy R. Hannigan, and André Spicer: The Risks of Botshit  AI And Machine Learning. In : Harvard Business Review 17.07.2024  André Spicer: .Beware the ‘botshit’: why generative AI is such a real and imminent threat to the way we live. The Guardian 3.01.2024. Matteo Wang: What ChatGPT Has Changed in Its First Year – The Atlantic. 16.01.24  – Silicon Valleys Trillion Dollar Leap of Faith: Tech companies are spending as if AI’s transformative uses are a foregone conclusion. They’re not. The Atlantic 29.07.2024 —  Charlie Warzel: This Is What It Looks Like When AI Eats the World. The Atlantic  Thomas Ramge: Wie sieht eine gute Zukunft mit KI aus? Eine Fortschrittserzählung Juli 2024. Robert Peters, Klaus Burmeister, Wenke Apt: Arbeiten mit Künstlicher Intelligenz , fünf Kurzszenarien zur „Mensch-Technik- Interaktion 2030“ Holger Schmidt: Generative KI bringt aktuell mehr Produktivität, aber kaum Umsatzzuwachs. FAZ 24.07.2024. Der Hype nähert sich dem Ende.  D2030 FuturesLounge 3.07.2024: KI-ein Schlüssel zur Welt von morgen. Passt er zur deutschen KI-Strategie?.  Jaron Lanier: How to Picture A.I. ´The New Yorker. 01.03. 2024. Jupus: KI im Anwaltssekretriat  — vgl. auch:  L’I.A. est un concept. pas un produit Daron Acemoglu:  The Simple Macroeconomics of AI* 05/2024. Fred Cavazza: L’ I.A. est un concept, pas un produit. 06/2024.   Doris Aschenbrenner, Robert Peters: KI ist tot! Es lebe die hybride Intelligenz. Tagesspiegel 2.08.24. – — From Burnout to Balance: AI-Enhanced Work Models. Upwork.com 23.07.24. – Amba Kak et al: Make no mistake—AI is owned by Big Tech. MIT Technology Review 05.12.2023 , Melissa Heikillä: Here’s how people are actually using AI. MIT Technology Review 14.08.2024



Veröffentlicht am

Digital Afterlife – Become Virtually Immortal

Become Virtually Immortal – Screenshot Trailer “Eternal You”. 3.15

Zur Vorstellung eines gelebten Lebens gehört es, etwas zu hinterlassen, das inder Erinnerung, in der Wirkung auf andere, weiterlebt.
Es kann vieles sein, nicht nur ein festgemauertes Lebenswerk mit Inschrift und Festrede – genauso sehr die Summe der kleinen Gesten, ein gewisser Stil, eine Aura, eine spezifische Haltung, die nicht nur Angehörige in ihrem Leben inspiriert.  Man kann es Vermächtnis bzw. Legacy nennen.

Generative KI erkennt Muster in dem Material, das in sie eingespeist wurde, extrahiert daraus relevante Merkmale, und kann, darauf basierend, neue Inhalte generieren.
So kann generative KI auch Muster in dem erkennen, was ein menschliches Leben hinterlässt. Noch nicht lang zurück, war das Material rar. Denke ich an meine Eltern, gab es Fotos, ein paar Ton- und Videoaufnahmen, handschriftliches etc.  Heute sind digital gespeicherte Medien allgegenwärtig – als Text, Bild, Video, gesprochene Sprache. Genug, um aus dem passenden Datenmaterial einen Avatar zu klonen.
Je mehr und um so passenderes Datenmaterial ihr zugeführt wird, desto realitätsnäher liegt die Ausgabe der KI, bis hin zu den einzigartigen Charakteristika der Stimme mit ihren wechselnden Emotionen und Tonalitäten. So kann die KI ein Gespräch (oder einen Monolog), nicht nur als Text, sondern auch als persönlich erkennbare, gesprochene Stimme synthetisieren.

Ganz neu ist das Konzept nicht. Vor zehn Jahren (2014) erschien im New Yorker der Essay How to Become Virtually Immortal. Es war die Zeit des grössten Hypes um Social Media – das Konzept scheint sich stark auf Social Media Daten bezogen zu haben. Ein echter KI- Dienst entwickelte sich daraus noch nicht. Das damals genannte Start Up Eterni.me ist jedenfalls nicht mehr auffindbar.
Ein Film und ein Pionier zwischen Vision und Vermächtnis brachten das Thema in den letzten zwei Monaten in die öffentliche Aufmerksamkeit.

Die Wiederbegegnung mit der verstorbenen Tochter. Screenshot von 03.08 Die Doku “Eternal You” über KI und das Ende der Endlichkeit

Der Dokumentarfilm Eternal You startete am 20.06.24 in den Kinos, entstammt aber nicht dem aktuellen KI- Hype. Die Idee ist etwas älter. Die Dreharbeiten waren von Corona unterbrochen worden, Fertigstellung und Kinostart schoben sich so etwas hinaus.
Der Film ist eine Montage mehrerer dokumentarischer Stränge. Einige unterschiedliche Szenarios sind  erkennbar.
Zunächst in schriftlicher Dialogform –  Der Text kommt aus dem Ticker, wie wir es von Chat GPT her kennen; ein Angebot zum schriftlichen Dialog. Ein Mann chattet mit dem Avatar seiner verstorbenen Geliebten, andere Situationen sind vorstellbar. Nebenbei, lernt die KI in den Dialogen weiter? Dann müsste sie sich im weiteren Verlauf verändern, weiterentwickeln …
In einem zweiten Szenario kommt eine Stimme aus dem Off – grundsätzlich wirkt sie in dieser Form als Monolog dominant – als wolle sie posthum  in das Leben der anderen hinein regieren.
Das dritte Szenario wirkt aufwühlend und befremdlich. In der südkoreanischen TV- Show Meeting You  versucht eine Mutter von ihrer verstorbenen Tochter in einem VR- Raum Abschied zu nehmen. Die Tochter erscheint lebensecht, bleibt aber unfassbar – die Mutter kann sie nicht in die Arme schliessen.  Im weiteren stirbt der Avatar der Tochter einen zweiten, virtuellen Tod, die Mutter konnte Abschied nehmen. Sie bekräftigte, dass ihr diese Begegnungen geholfen haben.  Virtual Reality als Traumatherapie?

VR hat sich seitdem (2020) weiterentwickelt, der heutige Stand würde weit detailliertere Szenarios ermöglichen. Und sicherlich kommen manch seltsame Gedanken auf: ein Totenreich im Metaverse – in dem Verstorbene aufgesucht werden können? Mir fiel dabei die Szene aus der Odyssee ein, in der Odysseus dem Schatten seiner Mutter im Hades begegnet – eine solche Wiederbegegnung ist ein uraltes, archetypisches Motiv.
Vielleicht ist manches in Zukunft möglich.  Jetztsind es v.a. Menschen, die plötzlich und unerwartet Angehörige verloren haben, die solche Angebote aufgreifen.  Als eine Möglichkeit zur vermissten Auseinandersetzung oder dem verpassten Abschied.

Michael Bommer

Michael Bommer war der erste Kunde des Start Ups Eternos Life.
In jeder Hinsicht ein idealtypischer Pionier. Selber war er lange Jahre Software- Manager, als solcher bestens vertraut mit den technischen Hintergründen. Pionier in Sachen Kundenkommunikation, deren Entwicklung und Verbesserung er entscheidend mitgestaltet hat – dazu begabt darin, komplexe Innovationen und Technologien verständlich zu erklären.
Michael Bommer war seit zwei Jahren an Krebs erkrankt und  warf sich in seinen letzten Monaten mit Verve in sein letztes Projekt zwischen technischer Vision und persönlichem Vermächtnis. Beeindruckend ist seine Begeisterung, die aktive Beteiligung daran,  kurz vor seinem Tod …. dass ich in den letzten Tagen meines Lebens noch etwas gefunden habe, was mich begeistert, was mich mitreißt, was ich sozusagen mit Anlauf mit ins Grab nehme. Für ihn eine tiefe emotionale Erfahrung. 
Seine Geschichte ging durch die Medien: Zeit, Spiegel, FAZ, ZDF berichteten.  Gunnar Sohn hat ein Book-on-demand dazu gestaltet und mir zur Verfügung gestellt.
Im Gegensatz zu anderen Beispielen von Digital Afterlife wurde Bommers Geschichte ausschliesslich positiv kommuniziert – im Respekt vor seiner überzeugenden Offenheit.
Technisch beruht die hier entwickelte KI auf allen verfügbaren Quellen von Erinnerungen, Wissen, Meinungen, Erfahrungen etc. aus Videos, Bilder, Dokumenten. 315  Phrasen, 150 Geschichten aus versch. Lebensphasen wurden eingespeist – in unterschiedlichen Tonalitäten und Stimmungen. Das Leben bleibt aber endlich. Am 25.06. starb Michael Bommer.

Das Gedächtnis an Verstorbene, ihre Bestattung, ihr Afterlife war immer zentraler Bestandteil menschlicher Zivilisationen. Beim Bau von Pyramiden und Megalithgräbern haben sich z.B. die damaligen Kulturen in ihren technischen Möglichkeiten selbst übertroffen.  Manche Zivilisationen wurden von ihrem Totenkult dominiert.  In anderen Kulturen gehören die Verstorbenen genauso zur Familie, zum  persönlichen Umfeld, wie die Lebenden. manche Vorstellungen sind bizarr.
Jetzt erscheinen neue Möglichkeiten. Ein synthetisch erzeugtes –  dialogfähiges Gegenüber ist etwas bislang nicht dagewesens. Was es vordem nur als Vorstellung gab, wird auf trickreiche Weise erlebbar gemacht. An der  Endlichkeit des Leben ändert es nichts.

Wie man dieses Neue nennen kann, ist noch unklar. Bezeichnungen wie  Digitaler Zwilling, Ghost Bot, Verwandlung in eine KI fallen in den Beschreibungen. Mehrfach schliesst sich ein kritischer Verweis auf Geschäft und Kommerzialisierung an – als ob die  Dienste herkömmlicher Bestatter nicht ebenso geschäftlich organisiert wären. Es ist ein kultureller Prozsee, was davon weiterentwickelt – und in Zukunft von  StartUp Bestatter – oder anderen angeboten wird.

Eternos Life:Testimonial Michael Bommer — Gunnar Sohn:  Michael Bommer. Zwischen Vision und Vermächtnis. Sohn & Sohn Schriftenreihe Band 3, 148 S., 6/2024 Bestellen/ Die Zeit. Nr. 25./2004  18.0.24 S.66 / Unsterblich dank Künstlicher Intelligenz. ZDF 18.05.2024 – Eternal You – Vom Ende der Endlichkeit.  Film von Hans Block & Moritz Riesewieck, D, USA 2024; 87 Min. Website: https://eternalyou-film.de/ –  Laura Parker: How to Become Virtually Immortal . The New Yorker. 14.04. 2014.  Using A.I. to Talk to the Dead… s.auch: Lilli Berger: Virtuelle Erinnerungsräume, Die Zukunft Des Trauerns |  TEDxPotsdam, yt 2023 —  Simulate the Dead- Project December. James Trew:  Digital ‘immortality’ is coming and we’re not ready for it 7/2023

 



Veröffentlicht am

Code & Vorurteil – KI und die Nebenwirkungen

KI ist im zweiten Jahr des Hype, mit einer gewissen Verzögerung  auf dem Buchmarkt.
In Code & Vorurteil – über künstliche Intelligenz, Rassismus und Antisemitismus geht es um Nebenwirkungen der KI. Ein Sammelband mit 18 Einzelbeiträgen + Glossar. Mit Schwerpunkten zum Verhältnis KI zu  strukturellen Ungleichheiten, Fake & Unfake, Kontrolle. Herausgeber ist die Bildungsstätte Anne Frank, ein Bildungszentrum gegen Gewalt und Diskriminierung mit historisch-politischer Bildungsarbeit mit Sitz in Frankfurt (ganz in der Nähe des Geburtshauses von Anne Frank) und Kassel.

Die Verbreitung von KI wird oft mit anderen technologischen Innovationszyklen verglichen, zumeist älteren Stufen der digitalen Revolution- manchmal aber auch mit früheren folgeträchtigen Innovationen, wie der Elektrizität.
Unter KI wurden immer wieder ziemlich unterschiedliche Dinge verstanden, der Begriff hat sich aber durchgesetzt. Auch hier geht es v.a. um generative KI, die auf der Grundlage von Trainingsdaten, nach Anweisung/ Promptings neue Texte, Bilder, Videos – und noch einiges mehr generieren kann.  Auf Nachfrage einer treffenden Selbstbezeichnung nennt sich ChatGPT selber sprachgesteuertes maschinelles Lernmodell.
 Werden mit KI gesellschaftliche Ungleichheiten fortgeschrieben?,  Wer hat den Nutzen von der gewonnenen Effizienz?, Kann KI unter den bestehenden Umständen zu einer gerechteren Gesellschaft beitragen?, Wie gerecht sind automatisierte Entscheidungssysteme? Es geht um die Detektion antisemitischer und rassistischer Codes, daran anschliessend die strategische Frage, ob KI- Systeme Verbündete im Kampf gegen Ungleichheit sein können?
Zusammengefasst als die Frage, die die Herausgeber bewegt: Wie können Politische Bildung und kritische Zivilgesellschaft einen guten Umgang mit den neuen KI-Tools und ihren Auswirkungen finden? oder auch: Können technische Systeme Probleme lösen, die im Kern sozial und politisch sind? – Um diese Dimension der KI- Diskussion geht es in den  Beiträgen.

Einige der Autoren sind mir von anderen Quellen  bekannt:
Jürgen Geuter,  Pseudonym @tante, hat sich einen Namen als Kritiker, als Gegensprecher von Hypes gemacht – man kann auch sagen als markanter De- Bullshitifyer. Im Falle Web3 lieferte er die letztendlich entscheidenden Argumente, zusammengefasst als das Internet, das es zu verhindern gilt, einen antipolitischen Raum zur Kapitalakkumulation.
Auch in den Diskussionen zu Metaverse und KI nimmt @tante die Rolle des Kritikers ein. Daten beschreiben die hegemoniale Sicht auf die Welt und ihre Strukturen (81) – ist in etwa seine hier vertretene Grundansicht. Generative KI kennt nur die gelernten Daten und zwängt alles in bekannte Muster ´– reduziert so Diversität und verstärkt einen digitalen Mainstream. Generative KI  ist demnach strukturkonservativ, die alte Welt, die es zu überwinden gilt, steckt zu tief in ihren Knochen (88).

Metaverse ist zwar out of Hype, dennoch eine sich weiter entwickelnde Umgebung.  Matthias Quent, Soziologie- Professor in Magdeburg, war mir von einem Essay zum Rechtsruck bis in die Mitte der Gesellschaft bekannt.
Hier (101 – 113) schreibt er aus der Perspektive des Forschungsprojekts Immersive Demokratie über KI im Industrial und im sozialen Consumer Metaverse. Mit Hilfe von KI können komplexe Immersive Virtuelle Umgebungen (IVU, 105) konstruiert und gesteuert werden, wie wir es bereits von Texten, Bildern und nun auch Videos kennen.
KI kann darin vielfältig eingesetzt werden. Dazu, Gesetze und Regeln einzuhalten, Gemeinschaftsstandards und erwünschte Verhaltensweisen zu regulieren, Diskussionen zu moderieren. Genauso wie massenhaft manipulative und propagandistische Inhalte generiert werden können. Quent thematisiert Scenarios demokratie-gefährdender Radikalisierung. Das kann einzelne Personen, Gruppen, Bewegungen, virtuelle Räume und digitale Netzwerke umfassen. Als lernendes System ist auch maschinelles Lernen radikalisierungsfähig (104).

Eva Berendsen (115-124) thematisiert den Einsatz von KI durch rechtsextreme Aktivisten.  Zu deren Werkzeugkasten, speziell zur  Illustration politischer Meinung gehören KI- Bildgeneratoren.  Zu erwarten wäre eine Ausbreitung von Fake- Bildern, die Emotionen, Ängste, Desinformation schüren. Sicher kann KI eine Schneise sein, durch die sich solche Trigger verbreiten. Chat GPT selber gilt als woke AI – und sagt von sich selber, dass es trainiert sei, respektvoll und höflich zu sein, eine politisch korrekte Sprache zu verwenden und sich dabei an allgemein akzeptierte soziale Normen zu halten. 
Eine mögliche Perspektive politisch- historischer Bildung entwirft Deborah Schnabel in Frag doch das Hologramm (145 – 153) mit der Vision KI- gesteuerter Hologramme historischer Personen.

Das Fazit überrascht kaum: Ein verantwortungsvoller Umgang mit KI braucht eine starke Zivilgesellschaft (198). Demokratische Kultur muss auch in digitalen Räumen konsequent gelebt werden. KI kann, wie jede Technologie, für sozialen Fortschritt wie für sein Gegenteil, benutzt werden. Sie reproduziert das, was in der Gesellschaft ist. Letztlich geht es um das gesellschaftliche Verständnis davon, wie Wahrheit erzeugt und richtige Entscheidungen getroffen werden  (80).
Man kann es auch zivilgesellschaftliche Wachheit nennen – genau das bedeutet Wokeness.  Gegenspielern einer demokratischen Öffentlichkeit sind Bedenken fremd, Techniken für ihre Zwecke zu nutzen.
Eine Frage wird nicht thematisiert, das ist der zu erwartende Machtüberhang einiger weniger Plattformen und Unternehmen – BIG AI – so wie wir es aus dem Social Web kennen.

Bei aller geäusserten Skepsis und Besorgnis bleibt doch klar, dass generative KI ein Publikumserfolg ist. So wie das Internet bei seiner Einführung, wie das SmartPhone – und auch wie Social Media. Die Möglichkeiten werden auf allen Seiten ausgetestet – in der Bildung, in der  Marktforschung, im Journalismus – um nur die zu nennen, in denen ich in den letzten Tagen praktische Beispiele gesehen habe.
Parallel zur Re: Publica in Berlin Ende Mai gibt es eine offene Vernastltung zur Prompting Culture. Ein Hinweis auf die Popularität der Anwendung generativer KI.

Folgt man dem Konzept der Technogenese, das die Co- Evolution, eine parallele Entwicklung  von Technik und Gesellschaft bedeutet, ist die laufende Diskussion ein Teil der Aushandlung über die gesellschaftliche Einbettung von KI – und dieses Buch ein lesenswerter Beitrag dazu.

Praktisch ist das Glossar (>20 S.) mit kompakten Definitionen der verwendeten Begriffe und einiger mehr.

Marie- Sophie Adeoso, Eva Berendsen, Loe Fischer, Deborah Schnabel: : Code & Vorurteil  – Über künstliche Intelligenz, Rassismus und Antisemitismus. Edition Bildungsstätte Anne Frank. Verbrecher Verlag, Berlin 2024.   Financial Times . Amba Kaka, Sarah Myers & Meredith Whittaker: Make no mistake—AI is owned by Big Tech – MIT Technology Review 5.12.2023 —
AI NOW. – 2023 Landscape – Confronting tech power



Veröffentlicht am

The Internet Con – Enshittification is coming

This is a book for people who want to destroy BIG TECH – nicht eines, um BigTech zu zähmen, so  beginnt The Internet Con – how to seize the means of computation.
Cory Doctorow ist Science Fiction Autor, Tech- Journalist und sozialer Aktivist. Der  Duktus der ersten Sätze setzt sich genauso angriffslustig und pointengeladen fort. Ein Manifest, die Macht von Big Tech zu brechen – darin Martin Andrees Big Tech muss weg ähnlich – kompakter und ohne Illustrationen.  Doctorow’s Sprachstil wurde mal von einem Kritiker als verbale Pyrotechnik bezeichnet.
Beide Bücher waren in etwa zeitgleich im Aug/Sept 23 erschienen – einige male überschneiden sie sich, das Konzept Interoperabilität ist zentral – und  letztlich nehmen beide Gesetzgeber und Kartellbehörden in die Pflicht, BigTech zu zerschlagen.

Seit etwa der Mitte der 2000er Jahre hat sich das wild and wooly Web in  wenige giant websites (8) verwandelt. Was bis dahin keinem gelang, gelang der Pentarchie GAFAM – einige mehr lassen sich evtl. hinzurechnen: They didn’t just get big, they stayed big, and then they got bigger (77).
Ökonomen erklären das gigantische Wachstum von BigTech oft mit Netzwerkeffekten, als historisch unvermeidbar: Mit jedem zusätzlichen Nutzer gewinnt das Netzwerk an Wert.  Switching Costs/die Nachteile des Wechsels, das, was man bei einem Wechsel verliert – je höher sie sind, desto länger halten sie Nutzer fest.
Interoperalität ist eine entscheidende Forderung und bedeutet offene Standards, die die walled gardens öffnen,  die  Switching Costs niedrig halten und es Nutzern ermöglichen, weitgehend selber zu entscheiden, wie sie diese Technologie verwenden.  Geschlossene Standards binden die Nutzer an Hersteller und Betreiber, schränken die Freiheit zum Wechsel ein.

Tech exceptionalism – meint eine Ideologie, die besagt, dass sich die Tech- Branche fundamental von anderen Branchen unterscheidet,   allgemeingültige Regeln für sie nur wenig gelten. Eine ganze Generation von  Innovatoren ist mit der Überzeugung aufgewachsen, dass Technologie der Schlüssel zur Verbesserung der Welt ist, dass die – oft disruptiven – Visionen der Gründer, wie dies zu erreichen sei, die richtigen seien.  Tech in diesem Sinne bedeutet nicht eine Branche, sondern eine Einstellung zur Zukunft (vgl. Eisenstat & Gilman).   Auch der  Starkult um die Super- CEOs baut darauf auf, bis hin zu dem Narrativ  these business leaders are Great Men of History. 
Die Imperien, die sie aufgebaut haben, zählen zu den einflussreichsten Unternehmen der Wirtschaftsgeschichte, mit einem grösseren Budget als viele Nationalstaaten.

Cory Doctorow. Commons. Wikimedia

Cory Doctorow legt Hintergründe aus der Ära der neoliberalen Deregulation in den 80er Jahren vor, die zu einer immer monopolistischer werdenden Industrie, incl. der Tech- Industrie führten, Monopolisierungen jedenfalls begünstigten. Doctorow, Kanadier aus Toronto, greift dabei auf US- amerikanische Verfassungsideale zurück: Wenn Unternehmen zu viel an Macht gewinnen, werden sie zu ähnlich selbstherrlichen, damals royalen, Kräften,  gegen die sich die Gründer der Nation aufgelehnt hatten. Er verweist dazu auf Monopole der Vergangenheit (AT&T), die kartellrechtlich zerschlagen wurden.

Enshittification💩- Beschissenwerdung – der drastische Begriff bringt  Doctorows Einschätzung auf den Punkt,  kommt im Buch selber aber gar nicht vor, sondern in einigen anderen Texten, im eigenen Blog pluralistic.net,  und ganz prominent und aktuell in der Financial Times vom 8. Februar. mit dem Untertitel Enshittification’ is coming for absolutely everything.
Und so verläuft der Prozess der Enshittification:  It’s a three-stage process: first, platforms are good to their users. Then they abuse their users to make things better for their business customers. Finally, they abuse those business customers to claw back all the value for themselves. Then, there is a fourth stage: they die.
In den USA reussierte der Begriff als Word of the year: “Enshittification is a sadly apt term for how our online lives have become gradually degraded” – so Ben Zimmer, Sprach- Kolumnist des Wallstreet Journal und Vorsitzender des ADS* New Word Comittee.

Die einzige Graphik im Buch: Facebook more surveillant & more control- freaky

Facebook/ Meta steht bei Doctorow ganz oben auf der Liste harscher Kritik – Mark Zuckerberg ein  feudaler Warlord über walled fiefdoms of surveillance incl.  der Zugewinne instagram und Whats App:  Maximale Überwachung, maximale Kontrolle. Ein Unternehmen, das Googles unstillbaren Appetit auf  private Daten mit Apples eiserner Kontrolle darüber kombiniert, wie seine Dienste genutzt werden. Die schlimmste aller möglichen Welten (20).
Die grossen Tech- Firmen regieren die digitale Welt und darüber hinaus: strukturieren unser Leben in der medialen Breite – und darüber hinaus, im Tourismus. Heerscharen von Influencern und Digital Creators bildeten ihr Business nach den Rahmenbedingungen der Plattformen aus.

Doctorow nennt 4 Kräfte die Unternehmen disziplinieren können, ihre enshittificatory impulses in Zaum zu halten*:
Competition/ Wettbewerb: Unternehmen, die befürchten, dass ihre Kunden den Anbieter wechseln, sind zurückhaltend, wenn es darum geht, die Qualität zu verschlechtern oder die Preise zu erhöhen. Wettbewerb verhindert, dass Unternehmen too big to fail und zu groß, um zur Rechenschaft gezogen zu werden.
Regulation:  schafft rechtliche Rahmen, Unternehmen, die Aufsichts-behörden ernst nehmen, werden sich  weitgehend an Spielregeln halten. 
Self- Help:  Computer können mit etwas technischem Verständnis soweit umgestaltet werden, dass sie die Einschränkungen umgehen
Workers/ Mitarbeiter: Tech Worker sind traditionell gesucht, Fachkräfte mangel…  Sie sehen sich  oft  selber als Gründer im Wartestand, als Unternehmer, die vorübergehend ein Gehalt beziehen. Google’s “Don’t be evil” und Facebook’s “Make the world more open and connected”  wurden ernst genommen. Tech- Worker haben zumeist eine profunde moralische Basis, die sie nicht verletzt sehen wollen.

In Part II  geht es in kurzen Abschnitten ums What About: Privacy, Harassment, Algoritmic Radicalization , schliesslich  What About Blockchain: Die Blockchain-Technologie wurde bekanntlich lange Zeit u.a. als Lösung der Probleme mit BigTech kommuniziert – bevor sie  von mehreren Seiten desavouiert wurde – Doctorow macht das auch  ….

Der nächste Machtüberhang von BigTech bildet sich bereits aus:  There is no AI without Big Tech.  AI, und damit generative KI, ist fundamental  von Ressourcen abhängig, die von wenigen BigTech kontrolliert werden.
Die Dominanz von  Big Tech in AI erstreckt sich über mehrere Dimensionen –  – aber das ist dann wie der ein neues Thema. .. Die gleichen Unternehmen, die die Gewinne der algorithmischen Plattformökonomie eingestrichen haben, sind auch hier am Zuge.

Machtüberhang ist nicht nur ein Problem der Plattformen, sondern der demokratischen Grundlagen von Gesellschaft.

Cory Doctorow:The Internet Con.  How to Seize the Means of Computation. Verso. London & New York, 2023 –  * nur in ‘Enshittification’ is coming for absolutely everything . In: Financial Times .  8.02.2024   auch: Pluralistic: Tiktok’s Enshittifications.   *ADS: American Dialect Society. —. Yael Eisenstat & Nils Gilman: The Myth of Tech Exceptionalism  – ©2024 Noema Magazine.  — Amba Kaka, Sarah Myers & Meredith Whittaker: Make no mistake—AI is owned by Big Tech – MIT Technology Review 5.12.2023 —
AI NOW. – 2023 Landscape – Confronting tech power



SideMenu