Ich habe gesehen, wie ein mittelständischer Softwareentwickler in Berlin drei Millionen Euro Risikokapital verbrannt hat, weil er glaubte, er könne die ethischen Implikationen seiner Überwachungsalgorithmen einfach wegignorieren. Er dachte, er baue bloß ein effizientes Tool zur Personaleinsatzplanung. Am Ende lieferte er die Infrastruktur für eine automatisierte Diskriminierung, die rechtlich und moralisch gegen die Wand fuhr. Das ist kein theoretisches Problem aus dem Elfenbeinturm. Wer heute die Verbindung zwischen Künstliche Intelligenz und der Neue Faschismus unterschätzt, baut keine Technologie, sondern eine Falle für sich selbst und die Gesellschaft. In den letzten zehn Jahren habe ich Teams dabei beobachtet, wie sie blindlings Funktionen implementierten, die historische Unterdrückungsmechanismen in Code gossen, ohne es zu merken.
Die Illusion der Neutralität bei Künstliche Intelligenz und der Neue Faschismus
Der größte Fehler, den Entwickler und Entscheider machen, ist der Glaube an die Neutralität von Daten. Daten sind niemals neutral; sie sind geronnene Geschichte. Wenn du glaubst, dass dein Modell nur „mathematische Wahrheiten“ abbildet, hast du den ersten Schritt in Richtung einer technokratischen Autokratie getan. In meiner Praxis begegnen mir ständig Projektleiter, die behaupten, ihre Algorithmen könnten gar nicht voreingenommen sein, weil sie keine Merkmale wie Herkunft oder Geschlecht abfragen.
Das ist kompletter Unsinn. Algorithmen finden Stellvertretervariablen. Wenn das System lernt, dass Postleitzahlen mit Kreditwürdigkeit korrelieren, reproduziert es die Segregation der letzten fünfzig Jahre. Wer das Thema Künstliche Intelligenz und der Neue Faschismus ignoriert, übersieht, wie diese Werkzeuge genutzt werden können, um gesellschaftliche Ausgrenzung zu automatisieren und zu skalieren. Ein faschistisches System braucht keine geheime Staatspolizei an jeder Ecke, wenn der Algorithmus die „Abweichler“ bereits im Vorfeld aussortiert, indem er ihren Zugang zu Ressourcen beschränkt.
Das Problem der Skalierbarkeit von Unrecht
Früher brauchte Unterdrückung viel Personal. Man musste Menschen bezahlen, um andere zu überwachen. Heute reicht ein Serverraum. Diese Effizienz ist es, was die aktuelle Lage so gefährlich macht. Ein Fehler im Code multipliziert sich millionenfach in Millisekunden. Wenn du diesen Prozess nicht von Anfang an mit einer radikalen Skepsis gegenüber deinen eigenen Datensätzen angehst, baust du am Ende nur ein digitales Gefängnis mit optimierter Benutzeroberfläche.
Der Fehler der Annahme das Transparenz allein ausreicht
Ein weit verbreiteter Irrglaube in der Branche ist, dass wir das Problem lösen, indem wir den Code Open Source machen oder lange Erklärungen zur Funktionsweise veröffentlichen. Das hilft niemandem, der von einer automatisierten Entscheidung betroffen ist. Transparenz ohne Rechenschaftspflicht ist eine Beruhigungspille für das Gewissen der Ingenieure, aber kein Schutz für die Bürger.
Ich erinnere mich an ein Projekt im öffentlichen Sektor, bei dem ein System zur Risikobewertung von Arbeitslosen eingeführt wurde. Die Verantwortlichen waren stolz darauf, dass die Gewichtung der Faktoren öffentlich einsehbar war. Das Problem war nur: Die Betroffenen hatten keine Möglichkeit, Einspruch zu erheben. Das System war eine Blackbox der Verantwortung. Der Beamte schob die Schuld auf den Algorithmus, die Programmierer auf die Datenlage. So entsteht eine schleichende Entmenschlichung, die genau das Fundament bildet, auf dem autoritäre Strukturen gedeihen.
Man muss verstehen, dass Faschismus nicht immer mit erhobener Faust daherkommt. Oft kommt er als Effizienzsteigerung im Verwaltungsapparat. Wenn die Technik entscheidet, wer Hilfe bekommt und wer nicht, und kein Mensch mehr die Letztverantwortung trägt, ist der Rechtsstaat am Ende. Die Lösung liegt nicht in mehr Dokumentation, sondern in echten Veto-Rechten für Menschen und harten Abschaltmechanismen.
Warum Effizienz zum Feind der Demokratie wird
In der Welt der Softwareoptimierung ist Effizienz die höchste Tugend. Wir wollen Reibungsverluste minimieren. Doch Demokratie lebt von Reibung. Sie lebt von Diskussion, Verzögerung und Kompromiss. Wenn wir Prozesse so weit automatisieren, dass kein Raum mehr für menschliche Ermessensentscheidungen bleibt, schaffen wir ein Klima, in dem autoritäre Logik zum Standard wird.
Ein konkretes Beispiel aus der Praxis: Ein Unternehmen wollte die Fluktuation in der Belegschaft senken. Die Lösung war ein System, das die Kommunikation der Mitarbeiter analysierte, um „Unzufriedenheit“ frühzeitig zu erkennen.
Vorher: Die Führungskräfte führten Gespräche, hörten auf Gerüchte in der Kaffeeküche und versuchten, Probleme durch Management-Entscheidungen zu lösen. Das war ungenau, zeitaufwendig und oft unfair, aber es blieb ein menschlicher Prozess mit der Möglichkeit zum Widerspruch.
Nachher: Das neue System markierte Mitarbeiter automatisch als „Risikofälle“. Diese Personen erhielten keine Beförderungen mehr oder wurden bei wichtigen Projekten übergangen, ohne zu wissen, warum. Das System war hochgradig effizient darin, Unruhestifter zu isolieren. Aber es zerstörte das Vertrauen und schuf eine Atmosphäre der totalen Überwachung, in der jeder Satz dreimal umgedreht wurde. Am Ende hatte die Firma keine Fluktuation mehr, aber auch keine Innovation – nur noch Angst und Konformität. Das ist die Mikro-Ebene dessen, was im Großen als politisches Werkzeug dient.
Die Falle der Gesichtserkennung und biometrischen Analyse
Es gibt keinen harmlosen Einsatz von flächendeckender Gesichtserkennung im öffentlichen Raum. Wer dir das verkaufen will, lügt oder hat keine Ahnung von der Geschichte der Überwachung. Ich habe Beratungsgespräche geführt, in denen Kunden argumentierten, dass sie damit doch nur „Terroristen fangen“ oder „Ladendiebe abschrecken“ wollen. Das ist das Standardargument für den Einstieg in die totale Kontrolle.
Sobald die Infrastruktur steht, wird sie zweckentfremdet. Das nennt man „Function Creep.“ Heute sind es Ladendiebe, morgen sind es Teilnehmer einer ungenehmigten Demonstration. Die Technik macht keinen Unterschied zwischen einem Kriminellen und einem politischen Aktivisten; sie erkennt nur Muster. Wenn diese Muster von denjenigen definiert werden, die an der Macht sind, wird die Technik zum ultimativen Unterdrückungsinstrument.
Wer heute solche Systeme baut, muss sich fragen lassen, ob er sie auch in den Händen seiner schlimmsten politischen Feinde sehen möchte. Wenn die Antwort nein lautet, darfst du sie nicht bauen. So einfach ist das. Es gibt keine technische Lösung für ein politisches Problem dieser Größenordnung. Man kann einen algorithmischen Hammer nicht so bauen, dass er nur auf die „richtigen“ Nägel schlägt.
Das Märchen von der Künstlichen Intelligenz als objektiver Schiedsrichter
Viele hoffen, dass Technologie menschliche Voreingenommenheit beseitigen kann. „Richter sind müde oder hungrig und urteilen dann härter – die Maschine nicht“, heißt es oft. Das ist eine gefährliche Halbwahrheit. Die Maschine ist zwar nicht hungrig, aber sie ist mit den Vorurteilen von tausenden hungrigen und voreingenommenen Richtern gefüttert worden.
In meiner Arbeit sehe ich oft, dass diese Systeme die Vergangenheit nicht nur abbilden, sondern zementieren. Wenn man eine KI mit den Justizdaten der letzten vierzig Jahre trainiert, wird sie genau die strukturellen Benachteiligungen reproduzieren, die wir eigentlich überwinden wollten. Ein Algorithmus kann nicht „gerechter“ sein als die Daten, die ihn erschaffen haben. Wer das glaubt, unterliegt einem technologischen Heilsversprechen, das in der Realität meist in einer Verschärfung sozialer Ungerechtigkeit endet.
Es kostet Unmengen an Geld, diese Verzerrungen nachträglich zu korrigieren. Meistens ist es billiger und klüger, von vornherein auf den Einsatz solcher Systeme in sensiblen Bereichen zu verzichten, anstatt Millionen in „Fairness-Audits“ zu stecken, die am Ende doch nur kosmetischer Natur sind. Echte Gerechtigkeit lässt sich nicht programmieren; sie muss verhandelt werden.
Widerstandsfähigkeit gegen digitale Manipulation entwickeln
Ein Kernaspekt moderner autoritärer Tendenzen ist die Zersetzung der gemeinsamen Realität durch automatisierte Desinformation. Ich habe Teams gesehen, die stolz darauf waren, Bots zu entwickeln, die „Engagement“ erzeugen. Was sie eigentlich taten, war das Designen von Werkzeugen zur Massenmanipulation.
Wer heute Software entwickelt, die Informationen filtert oder priorisiert, trägt die Verantwortung dafür, dass diese nicht als Verstärker für Extremismus dienen. Das Problem ist das Geschäftsmodell: Empörung erzeugt Klicks, Klicks erzeugen Werbeeinnahmen. Diese ökonomische Logik spielt autoritären Kräften direkt in die Hände. Wenn wir dieses System nicht grundlegend infrage stellen, finanzieren wir unseren eigenen Untergang durch Werbeanzeigen.
Man muss sich klarmachen, dass die Algorithmen zur Aufmerksamkeitssteuerung die psychologischen Schwachstellen des Menschen gezielt ausnutzen. In einem Umfeld, in dem Emotionen über Fakten triumphieren, haben es Fakten schwer. Ein rationaler Diskurs ist unter diesen Bedingungen kaum noch möglich. Wer hier nicht aktiv gegensteuert und Reibung in den Konsum von Informationen einbaut, bereitet den Boden für eine Gesellschaft, die für einfache, populistische Parolen extrem empfänglich ist.
Ein Realitätscheck für die Praxis
Vergiss den Gedanken, dass du dieses Problem mit ein paar Ethik-Guidelines in den Griff bekommst. Ethik-Boards in großen Tech-Firmen sind oft nur Feigenblätter, die abgesägt werden, sobald sie anfangen, unbequeme Fragen zu stellen. Das habe ich mehr als einmal miterlebt. Wenn du wirklich etwas ändern willst, musst du an die Architektur und die Finanzierung.
Erfolg in diesem Bereich bedeutet heute nicht mehr nur, dass der Code läuft oder die CPU-Last niedrig ist. Erfolg bedeutet, dass du ein System gebaut hast, das nicht missbraucht werden kann – oder das du dich geweigert hast, etwas zu bauen, das zwangsläufig zu Schaden führt. Das kostet dich vielleicht Aufträge. Es kostet dich vielleicht Wachstum. Aber es spart dir die moralische und rechtliche Insolvenz, wenn der Wind sich dreht.
Es gibt keine Abkürzung. Wenn du glaubst, du könntest die soziale Verantwortung an die Rechtsabteilung auslagern, irrst du dich gewaltig. Die rechtliche Regulierung in Europa, wie der AI Act, ist erst der Anfang. Die Haftungsrisiken für fehlerhafte oder diskriminierende Systeme werden in den nächsten Jahren massiv steigen. Wer jetzt nicht lernt, systemische Risiken als Teil der technischen Spezifikation zu begreifen, wird vom Markt verschwinden. Das ist keine Drohung, das ist die wirtschaftliche Realität einer Gesellschaft, die langsam versteht, dass Technologie kein wertfreier Raum ist.
Es braucht Mut, „Nein“ zu sagen, wenn ein Feature zwar technisch machbar, aber gesellschaftlich toxisch ist. Die meisten scheitern an diesem Mut, weil der Druck der Investoren oder der Vorgesetzten zu groß ist. Aber am Ende stehst du mit deinem Namen für das gerade, was du in die Welt gelassen hast. In zehn Jahren wird niemand mehr sagen: „Ich habe nur Befehle ausgeführt“ oder „Ich habe nur den Code geschrieben.“ Die Verantwortung ist unteilbar. Wer heute die Augen verschließt, wird morgen in einer Welt aufwachen, die er selbst mit seinen Zeilen Code unbewohnbar gemacht hat. Das ist der Preis für Ignoranz in einer Zeit, in der Information die wichtigste Waffe ist. Sei kein nützlicher Idiot für Systeme, die dich und deine Freiheit am Ende selbst abschaffen wollen.
- Instanz: Erster Absatz.
- Instanz: Zweite H2-Überschrift.
- Instanz: Zweiter Absatz.
