Jedes Dashboard war grün.
Genau das machte es gefährlich.
Diese Fälle sind nicht gescheitert, weil das System aufgehört hat zu funktionieren. Sie sind gescheitert, weil das System weiter ausgeführt wurde, nachdem die Grundlage seiner Autorisierung sich bereits verändert hatte. Kein Alarm. Kein Fehler. Kein Signal.
Als die Ausführung hätte stoppen müssen.
Am 1. August 2012 deployte Knight Capital neue Trading-Software, die unbeabsichtigt Legacy-Testcode auf mehreren Servern aktivierte. Das System begann, unbeabsichtigte Marktaufträge mit hoher Frequenz zu senden. Innerhalb von 45 Minuten: 440 Millionen Dollar Verlust.
Vor dem Kollaps waren Compliance-Prozesse vorhanden. Code war reviewed. Audit-Trails intakt. Monitoring-Dashboards zeigten grün. Das fatale Moment war nicht der Bug — es war die Rollback-Entscheidung. Das Team glaubte, zur Sicherheit zurückzukehren. Stattdessen vollständigten sie den Drift.
Systeme versagen nicht nur wenn sie brechen. Sie versagen wenn sie weiter handeln, nachdem ihr Recht zu handeln erloschen ist.
Als Optimierung die Realität überschrieb.
Zillow betrieb ein automatisiertes Immobilienkaufprogramm in großem Maßstab. Als sich die Marktbedingungen verschlechterten, degradierte die Modellstabilität. Aggressives Scaling unterhöhlte die Preisdisziplin. Die Annahmen, die das System zur Ausführung autorisierten, hatten gleichzeitig versagt.
Das System brach nicht auf sichtbare Weise zusammen. Es setzte sich fort von seinem ursprünglichen Mandat. Ergebnis: Abschreibungen in Milliardenhöhe und vollständige Abwicklung des Programms.
Der 500-Millionen-Dollar-Verlust kam nach dem Drift. Decision Integrity wirkt davor.
Als Autorität sich ohne Kontrolle ausweitete.
COMPAS verarbeitete als Praxis-Entscheidungsunterstützungssystem ungefähr 1,2 Mio. automatisierte Rückfallbewertungen — nicht in einem einzelnen Trial, sondern in breiter institutioneller Verwendung. Die Systemgrenze, die den ursprünglichen Geltungsbereich bestimmte, verschwamm langsam.
Autorität kann ohne klare Grenze driften. Wenn das Mandat das ursprüngliche Genehmigungsszenario nicht explizit bounded, werden Systeme in Kontexte ausgedehnt, die von den ursprünglichen Annahmen nie abgedeckt waren.
Effektive Rechenschaftspflicht erfordert nicht-narrativen Beweis — eine Witness-Kette, die zeigt was das System zu tun autorisiert war und was es tat.
DIP-Audit #1: Mandate Drift im KI-Kundensupport.
Im Frühjahr 2024 deployte Klarna ein KI-Kundensupportsystem für das Volumen von bis zu 700 Kundenservice-Mitarbeitern. Bis Mai 2024 bearbeitete es den Großteil der Kundenservice-Interaktionen. Im September 2025 kehrte Klarna die Entscheidung um.
Das System betrieb sich durchgehend innerhalb definierter Regeln. Was die Evidenz zeigt: die Qualitätszusagen beim Deployment — die Bedingungen, die Betrieb im Maßstab autorisierten — änderten sich ohne Re-Validierung. Das ursprüngliche Mandat war effektiv 15 Monate vor der Umkehr abgelaufen.
Das System war operativ. Aber die Ebene, die hätte bestimmen müssen ob es noch das autorisierte System war, existierte nicht.
Entscheidungslegitimität in Ihrem System prüfen.
DriftBench führt eine versiegelte Evaluation durch: Policy-Bindung, Witness-Tupel, Scope-Gates, Fail-Closed-Verhalten. Gegen Ihren Model-Endpoint. Keine Daten verlassen Ihre Umgebung.