KI ist im zweiten Jahr des Hype, mit einer gewissen Verzögerung auf dem Buchmarkt.
In Code & Vorurteil – über künstliche Intelligenz, Rassismus und Antisemitismus geht es um Nebenwirkungen der KI. Ein Sammelband mit 18 Einzelbeiträgen + Glossar. Mit Schwerpunkten zum Verhältnis KI zu strukturellen Ungleichheiten, Fake & Unfake, Kontrolle. Herausgeber ist die Bildungsstätte Anne Frank, ein Bildungszentrum gegen Gewalt und Diskriminierung mit historisch-politischer Bildungsarbeit mit Sitz in Frankfurt (ganz in der Nähe des Geburtshauses von Anne Frank) und Kassel.
Die Verbreitung von KI wird oft mit anderen technologischen Innovationszyklen verglichen, zumeist älteren Stufen der digitalen Revolution- manchmal aber auch mit früheren folgeträchtigen Innovationen, wie der Elektrizität.
Unter KI wurden immer wieder ziemlich unterschiedliche Dinge verstanden, der Begriff hat sich aber durchgesetzt. Auch hier geht es v.a. um generative KI, die auf der Grundlage von Trainingsdaten, nach Anweisung/ Promptings neue Texte, Bilder, Videos – und noch einiges mehr generieren kann. Auf Nachfrage einer treffenden Selbstbezeichnung nennt sich ChatGPT selber sprachgesteuertes maschinelles Lernmodell.
Werden mit KI gesellschaftliche Ungleichheiten fortgeschrieben?, Wer hat den Nutzen von der gewonnenen Effizienz?, Kann KI unter den bestehenden Umständen zu einer gerechteren Gesellschaft beitragen?, Wie gerecht sind automatisierte Entscheidungssysteme? Es geht um die Detektion antisemitischer und rassistischer Codes, daran anschliessend die strategische Frage, ob KI- Systeme Verbündete im Kampf gegen Ungleichheit sein können?
Zusammengefasst als die Frage, die die Herausgeber bewegt: Wie können Politische Bildung und kritische Zivilgesellschaft einen guten Umgang mit den neuen KI-Tools und ihren Auswirkungen finden? oder auch: Können technische Systeme Probleme lösen, die im Kern sozial und politisch sind? – Um diese Dimension der KI- Diskussion geht es in den Beiträgen.
Einige der Autoren sind mir von anderen Quellen bekannt:
Jürgen Geuter, Pseudonym @tante, hat sich einen Namen als Kritiker, als Gegensprecher von Hypes gemacht – man kann auch sagen als markanter De- Bullshitifyer. Im Falle Web3 lieferte er die letztendlich entscheidenden Argumente, zusammengefasst als das Internet, das es zu verhindern gilt, einen antipolitischen Raum zur Kapitalakkumulation.
Auch in den Diskussionen zu Metaverse und KI nimmt @tante die Rolle des Kritikers ein. Daten beschreiben die hegemoniale Sicht auf die Welt und ihre Strukturen (81) – ist in etwa seine hier vertretene Grundansicht. Generative KI kennt nur die gelernten Daten und zwängt alles in bekannte Muster ´– reduziert so Diversität und verstärkt einen digitalen Mainstream. Generative KI ist demnach strukturkonservativ, die alte Welt, die es zu überwinden gilt, steckt zu tief in ihren Knochen (88).
Metaverse ist zwar out of Hype, dennoch eine sich weiter entwickelnde Umgebung. Matthias Quent, Soziologie- Professor in Magdeburg, war mir von einem Essay zum Rechtsruck bis in die Mitte der Gesellschaft bekannt.
Hier (101 – 113) schreibt er aus der Perspektive des Forschungsprojekts Immersive Demokratie über KI im Industrial und im sozialen Consumer Metaverse. Mit Hilfe von KI können komplexe Immersive Virtuelle Umgebungen (IVU, 105) konstruiert und gesteuert werden, wie wir es bereits von Texten, Bildern und nun auch Videos kennen.
KI kann darin vielfältig eingesetzt werden. Dazu, Gesetze und Regeln einzuhalten, Gemeinschaftsstandards und erwünschte Verhaltensweisen zu regulieren, Diskussionen zu moderieren. Genauso wie massenhaft manipulative und propagandistische Inhalte generiert werden können. Quent thematisiert Scenarios demokratie-gefährdender Radikalisierung. Das kann einzelne Personen, Gruppen, Bewegungen, virtuelle Räume und digitale Netzwerke umfassen. Als lernendes System ist auch maschinelles Lernen radikalisierungsfähig (104).
Eva Berendsen (115-124) thematisiert den Einsatz von KI durch rechtsextreme Aktivisten. Zu deren Werkzeugkasten, speziell zur Illustration politischer Meinung gehören KI- Bildgeneratoren. Zu erwarten wäre eine Ausbreitung von Fake- Bildern, die Emotionen, Ängste, Desinformation schüren. Sicher kann KI eine Schneise sein, durch die sich solche Trigger verbreiten. Chat GPT selber gilt als woke AI – und sagt von sich selber, dass es trainiert sei, respektvoll und höflich zu sein, eine politisch korrekte Sprache zu verwenden und sich dabei an allgemein akzeptierte soziale Normen zu halten.
Eine mögliche Perspektive politisch- historischer Bildung entwirft Deborah Schnabel in Frag doch das Hologramm (145 – 153) mit der Vision KI- gesteuerter Hologramme historischer Personen.
Das Fazit überrascht kaum: Ein verantwortungsvoller Umgang mit KI braucht eine starke Zivilgesellschaft (198). Demokratische Kultur muss auch in digitalen Räumen konsequent gelebt werden. KI kann, wie jede Technologie, für sozialen Fortschritt wie für sein Gegenteil, benutzt werden. Sie reproduziert das, was in der Gesellschaft ist. Letztlich geht es um das gesellschaftliche Verständnis davon, wie Wahrheit erzeugt und richtige Entscheidungen getroffen werden (80).
Man kann es auch zivilgesellschaftliche Wachheit nennen – genau das bedeutet Wokeness. Gegenspielern einer demokratischen Öffentlichkeit sind Bedenken fremd, Techniken für ihre Zwecke zu nutzen.
Eine Frage wird nicht thematisiert, das ist der zu erwartende Machtüberhang einiger weniger Plattformen und Unternehmen – BIG AI – so wie wir es aus dem Social Web kennen.
Bei aller geäusserten Skepsis und Besorgnis bleibt doch klar, dass generative KI ein Publikumserfolg ist. So wie das Internet bei seiner Einführung, wie das SmartPhone – und auch wie Social Media. Die Möglichkeiten werden auf allen Seiten ausgetestet – in der Bildung, in der Marktforschung, im Journalismus – um nur die zu nennen, in denen ich in den letzten Tagen praktische Beispiele gesehen habe.
Parallel zur Re: Publica in Berlin Ende Mai gibt es eine offene Vernastltung zur Prompting Culture. Ein Hinweis auf die Popularität der Anwendung generativer KI.
Folgt man dem Konzept der Technogenese, das die Co- Evolution, eine parallele Entwicklung von Technik und Gesellschaft bedeutet, ist die laufende Diskussion ein Teil der Aushandlung über die gesellschaftliche Einbettung von KI – und dieses Buch ein lesenswerter Beitrag dazu.
Praktisch ist das Glossar (>20 S.) mit kompakten Definitionen der verwendeten Begriffe und einiger mehr.
Marie- Sophie Adeoso, Eva Berendsen, Loe Fischer, Deborah Schnabel: : Code & Vorurteil – Über künstliche Intelligenz, Rassismus und Antisemitismus. Edition Bildungsstätte Anne Frank. Verbrecher Verlag, Berlin 2024. Financial Times . Amba Kaka, Sarah Myers & Meredith Whittaker: Make no mistake—AI is owned by Big Tech – MIT Technology Review 5.12.2023 —
AI NOW. – 2023 Landscape – Confronting tech power