{"id":84431,"date":"2024-04-16T20:42:04","date_gmt":"2024-04-16T18:42:04","guid":{"rendered":"https:\/\/www.klaus-janowitz.de\/wordpress\/?p=84431"},"modified":"2024-04-22T12:46:43","modified_gmt":"2024-04-22T10:46:43","slug":"code-vorurteil-ki-und-die-nebenwirkungen","status":"publish","type":"post","link":"https:\/\/www.klaus-janowitz.de\/wordpress\/code-vorurteil-ki-und-die-nebenwirkungen\/","title":{"rendered":"Code & Vorurteil – KI und die Nebenwirkungen"},"content":{"rendered":"

\"\"<\/a>KI ist im zweiten Jahr des Hype, mit einer gewissen Verz\u00f6gerung \u00a0auf dem Buchmarkt.
\nIn Code & Vorurteil <\/strong>– \u00fcber k\u00fcnstliche Intelligenz, Rassismus und Antisemitismus<\/em> geht es um Nebenwirkungen der KI.<\/em>\u00a0Ein Sammelband mit 18 Einzelbeitr\u00e4gen + Glossar. Mit Schwerpunkten zum Verh\u00e4ltnis KI zu\u00a0 strukturellen Ungleichheiten<\/em>, Fake & Unfake<\/em>, Kontrolle<\/em>. Herausgeber ist die Bildungsst\u00e4tte Anne Frank<\/em><\/a>, ein Bildungszentrum gegen Gewalt und Diskriminierung mit historisch-politischer Bildungsarbeit mit Sitz in Frankfurt (ganz in der N\u00e4he des Geburtshauses von Anne Frank) und Kassel.<\/p>\n

Die Verbreitung von KI wird oft mit anderen technologischen Innovationszyklen verglichen, zumeist \u00e4lteren Stufen der digitalen Revolution- manchmal aber auch mit fr\u00fcheren folgetr\u00e4chtigen Innovationen, wie der Elektrizit\u00e4t.
\nUnter KI wurden immer wieder ziemlich unterschiedliche Dinge verstanden, der Begriff hat sich aber durchgesetzt. Auch hier geht es v.a. um generative KI, die auf der Grundlage von Trainingsdaten, nach Anweisung\/ Promptings<\/em> neue Texte, Bilder, Videos – und noch einiges mehr generieren kann.\u00a0 Auf Nachfrage einer treffenden Selbstbezeichnung nennt sich ChatGPT selber sprachgesteuertes maschinelles Lernmodell.
\n<\/em>\u00a0Werden mit KI gesellschaftliche Ungleichheiten fortgeschrieben?,\u00a0 Wer hat den Nutzen von der gewonnenen Effizienz?, Kann KI unter den bestehenden Umst\u00e4nden zu einer gerechteren Gesellschaft beitragen?, Wie gerecht sind automatisierte Entscheidungssysteme? <\/em>Es geht um die Detektion antisemitischer und rassistischer Codes, daran anschliessend die strategische Frage, ob KI- Systeme Verb\u00fcndete im Kampf gegen Ungleichheit sein k\u00f6nnen?
\n<\/em>Zusammengefasst als die Frage, die die Herausgeber bewegt: Wie k\u00f6nnen Politische Bildung und kritische Zivilgesellschaft einen guten Umgang mit den neuen KI-Tools und ihren Auswirkungen finden?<\/em> oder auch: K\u00f6nnen technische Systeme Probleme l\u00f6sen, die im Kern sozial und politisch sind?<\/em> – Um diese Dimension der KI- Diskussion geht es in den\u00a0 Beitr\u00e4gen.<\/p>\n

Einige der Autoren sind mir von anderen Quellen\u00a0 bekannt:
\nJ\u00fcrgen Geuter<\/em><\/strong>,\u00a0 Pseudonym<\/em> @tante, hat sich einen Namen als Kritiker, als Gegensprecher<\/em> von Hypes<\/a> gemacht – man kann auch sagen als markanter De- Bullshitifyer.<\/em> Im Falle Web3<\/em><\/a> lieferte er die letztendlich entscheidenden Argumente, zusammengefasst als das Internet, das es zu verhindern gilt<\/em>, einen antipolitischen Raum zur Kapitalakkumulation<\/em>.
\nAuch in den Diskussionen zu Metaverse und KI nimmt @tante<\/em> die Rolle des Kritikers ein. Daten beschreiben die hegemoniale Sicht auf die Welt und ihre Strukturen <\/em>(81) – ist in etwa seine hier vertretene Grundansicht. Generative KI kennt nur die gelernten Daten und zw\u00e4ngt alles in bekannte Muster \u00b4<\/em>– reduziert so Diversit\u00e4t und verst\u00e4rkt einen digitalen Mainstream. <\/em>Generative KI\u00a0 ist demnach strukturkonservativ, die alte Welt, die es zu \u00fcberwinden gilt, steckt zu tief in ihren Knochen (88).<\/p>\n

Metaverse<\/em><\/strong> ist zwar out of Hype,<\/em> dennoch eine sich weiter entwickelnde Umgebung.\u00a0 Matthias Quent<\/em><\/strong>, Soziologie- Professor in Magdeburg, war mir von einem Essay zum Rechtsruck<\/em><\/a> bis in die Mitte der Gesellschaft<\/em> bekannt.
\nHier (101 – 113) schreibt er aus der Perspektive des Forschungsprojekts Immersive Demokratie <\/em>\u00fcber KI im Industrial<\/em> und im sozialen Consumer Metaverse<\/em>. Mit Hilfe von KI k\u00f6nnen komplexe Immersive Virtuelle Umgebungen<\/em> (IVU, 105) konstruiert und gesteuert werden, wie wir es bereits von Texten, Bildern und nun auch Videos kennen.
\nKI kann darin vielf\u00e4ltig eingesetzt werden. Dazu, Gesetze und Regeln einzuhalten, Gemeinschaftsstandards und erw\u00fcnschte Verhaltensweisen zu regulieren, Diskussionen zu moderieren. Genauso wie massenhaft manipulative und propagandistische Inhalte generiert werden k\u00f6nnen. Quent<\/em> thematisiert Scenarios demokratie-gef\u00e4hrdender Radikalisierung. Das kann einzelne Personen, Gruppen, Bewegungen, virtuelle R\u00e4ume und digitale Netzwerke umfassen. Als lernendes System ist auch maschinelles Lernen radikalisierungsf\u00e4hig<\/em> (104).<\/p>\n

Eva Berendsen <\/strong><\/em>(115-124) thematisiert den Einsatz von KI durch rechtsextreme Aktivisten.\u00a0 Zu deren Werkzeugkasten, speziell zur\u00a0 Illustration politischer Meinung<\/em> geh\u00f6ren KI- Bildgeneratoren.\u00a0 Zu erwarten w\u00e4re eine Ausbreitung von Fake- Bildern, die Emotionen, \u00c4ngste, Desinformation sch\u00fcren. Sicher kann KI eine Schneise sein, durch die sich solche Trigger<\/em> verbreiten. Chat GPT selber gilt als woke AI –<\/em> und sagt von sich selber, dass es trainiert sei, respektvoll und h\u00f6flich zu sein, eine politisch korrekte Sprache zu verwenden und sich dabei an allgemein akzeptierte soziale Normen zu halten.\u00a0<\/em>
\nEine m\u00f6gliche Perspektive politisch- historischer Bildung entwirft Deborah Schnabel<\/strong><\/em> in Frag doch das Hologramm<\/em> (145 – 153) mit der Vision KI- gesteuerter Hologramme historischer Personen.<\/p>\n

Das Fazit \u00fcberrascht kaum: Ein verantwortungsvoller Umgang mit KI braucht eine starke Zivilgesellschaft<\/em> (198). Demokratische Kultur muss auch in digitalen R\u00e4umen konsequent gelebt werden.<\/em> KI kann, wie jede Technologie, f\u00fcr sozialen Fortschritt wie f\u00fcr sein Gegenteil, benutzt werden. Sie reproduziert das, was in der Gesellschaft ist. Letztlich geht es um das gesellschaftliche Verst\u00e4ndnis davon, wie Wahrheit erzeugt und richtige Entscheidungen getroffen werden<\/em>\u00a0 (80).
\nMan kann es auch zivilgesellschaftliche Wachheit nennen – genau das bedeutet Wokeness<\/strong><\/em>.\u00a0 Gegenspielern einer demokratischen \u00d6ffentlichkeit sind Bedenken fremd, Techniken f\u00fcr ihre Zwecke zu nutzen.
\nEine Frage wird nicht thematisiert, das ist der zu erwartende Macht\u00fcberhang<\/em> einiger weniger Plattformen und Unternehmen – BIG AI<\/strong><\/em> – so wie wir es aus dem Social Web kennen.<\/p>\n

Bei aller ge\u00e4usserten Skepsis und Besorgnis bleibt doch klar, dass generative KI ein Publikumserfolg<\/em> ist. So wie das Internet bei seiner Einf\u00fchrung, wie das SmartPhone – und auch wie Social Media. Die M\u00f6glichkeiten werden auf allen Seiten ausgetestet – in der Bildung, in der\u00a0 Marktforschung, im Journalismus – um nur die zu nennen, in denen ich in den letzten Tagen praktische Beispiele gesehen habe.
\nParallel zur Re: Publica in Berlin Ende Mai gibt es eine offene Vernastltung zur Prompting Culture<\/em>. Ein Hinweis auf die Popularit\u00e4t der Anwendung generativer KI.<\/p>\n

Folgt man dem Konzept der Technogenese<\/a>,<\/em> das die Co- Evolution, eine parallele Entwicklung \u00a0von Technik und Gesellschaft bedeutet, ist die laufende Diskussion ein Teil der Aushandlung \u00fcber die gesellschaftliche Einbettung von KI – und dieses Buch ein lesenswerter Beitrag dazu.<\/p>\n

Praktisch ist das Glossar (>20 S.) mit kompakten Definitionen der verwendeten Begriffe und einiger mehr.<\/span><\/p>\n

Marie- Sophie Adeoso, Eva Berendsen, Loe Fischer, Deborah Schnabel: <\/strong>: Code & Vorurteil \u00a0– \u00dcber k\u00fcnstliche Intelligenz, Rassismus und Antisemitismus. Edition Bildungsst\u00e4tte Anne Frank. Verbrecher Verlag, Berlin 2024.\u00a0 \u00a0Financial Times . <\/span>Amba Kaka, Sarah Myers & Meredith Whittaker: <\/span>Make no mistake\u2014AI is owned by Big Tech<\/a> – MIT Technology Review 5.12.2023 —<\/span>
\nAI NOW<\/strong>. – 2023 Landscape – Confronting tech power<\/a>
\n<\/span><\/p>\n


\n