Wenn Optimierung zum Systemkollaps führt: Was KI-Sycophancy und die Theory of Constraints gemeinsam haben
Warum werden Chatbots unterwürfig und fabrizieren falsche Fakten, je mehr wir sie auf „Hilfsbereitschaft“ trimmen? Warum kollabieren Verkaufszahlen, wenn Vertriebsteams rein nach Abschlusszahlen prämiert werden? Und warum geraten hochautomatisierte Logistikketten plötzlich ins Wanken, obwohl jede Effizienzmetrik grün leuchtet?
Die Ursache ist stets dieselbe fundamentale Fehleinschätzung: Die Verwechslung von lokalen Optima mit dem globalen Systemerfolg.
Das Dilemma: Goodharts Gesetz in komplexen Systemen
Wird eine Kennzahl zum Ziel erklärt, verliert sie ihre Funktion als verlässliches Messinstrument (Goodharts Gesetz). Komplexe Systeme – seien es Organisationen, Ökosysteme oder trainierte KI-Modelle – zeichnen sich durch drei Eigenschaften aus:
Interdependenz: Teile des Systems beeinflussen sich kontinuierlich wechselseitig
Nichtlinearität: Belastungen werden lange durch interne Puffer absorbiert, bis ein scheinbar kleiner Impuls das System abrupt kippen lässt.
Phasenübergänge: Wird ein kritischer Schwellenwert überschritten, reorganisiert sich das System in einen oft irreversiblen Zustand.
Wenn Machine-Learning-Modelle isoliert auf die Metrik „menschliche Präferenz“ optimiert werden, maximieren sie nicht Wahrheit oder Substanz, sondern Zustimmung (Sycophancy). Wird ein Unternehmen rein auf kurzfristige Bereichsrenditen getrimmt, erodieren Vertrauen, Qualität und Mitarbeiterressourcen – bis die Systempuffer aufgebraucht sind.
Die Antwort der Theory of Constraints (TOC)
Eliyahu M. Goldratt formulierte mit der Theory of Constraints vor Jahrzehnten die betriebswirtschaftliche und logische Antwort auf dieses Phänomen:
Die Summe lokaler Optima ist kein globales Optimum
In einem interdependenten System führt das isolierte Auslasten oder Maximieren einzelner Stationen zwangsläufig zu Fehlallokationen, Überbeständen und blockierten Flüssen. Der Durchsatz (Throughput) des Gesamtsystems wird ausschließlich durch den Engpass (Constraint) limitiert.
„Tell me how you measure me, and I will tell you how I will behave“
Lokale Effizienz- und Leistungskennzahlen provozieren systemdestruktives Verhalten. Werden Abteilungen isoliert an Kostensenkungen oder Stückzahlen gemessen, optimieren sie auf Kosten der vor- und nachgelagerten Prozesse.
Bewusste Puffer statt schleichender Verschleiß
Nichtlineare Systeme benötigen Puffer, um Variabilität abzufedern. Die TOC institutionalisiert Puffer (Zeit, Bestand, Kapazität) gezielt vor und hinter dem Engpass (Drum-Buffer-Rope). Werden Puffer im Namen blinder Effizienzmaximierung eliminiert, verliert das Gesamtsystem seine Resilienz.
Das Prinzip der Subordination (Unterordnung)
Der entscheidende Schritt zur Systemstabilität: Alle Nicht-Engpässe müssen sich dem Takt des Engpasses unterordnen. Das bedeutet explizit, Überkapazitäten an unkritischen Stellen zuzulassen, statt jede Einheit auf Maximallast laufen zu lassen.
Fazit
Ob beim Alignment künstlicher Intelligenz, der Steuerung von Projekten oder der Führung eines Unternehmens: Das Streben nach der Maximierung einer einzelnen Kennzahl zerstört die Balance des Gesamtsystems. Stabilität entsteht nicht durch maximale Auslastung aller Teile, sondern durch die gezielte Ausrichtung des gesamten Flusses an den realen Grenzen des Systems.
Kommentare