Haltung
KI muss verständlich bleiben, wenn sie Arbeit übernimmt.
Wenn KI Aufgaben übernimmt, brauchen Menschen verständliche Möglichkeiten, ihre Grenzen zu erkennen, Ergebnisse zu prüfen und bei Bedarf einzugreifen. LatentDrift verankert diese Anforderungen im Systemdesign: Das System zeigt, woher Daten stammen und wo Unsicherheit besteht. Es legt fest, wann eine Freigabe nötig ist, wie weit Agenten handeln dürfen und wie ein anderes Team den Betrieb später übernehmen kann.
Prinzipien
Unsere Haltung zeigt sich in Architekturentscheidungen. Im Systemdesign wird festgelegt, welche Daten genutzt und gespeichert werden dürfen, worauf Ausgaben beruhen und wie weit das System selbst handeln darf. Ebenso klar muss sein, welche Informationen die jeweilige Rolle braucht und wie Nutzer nachfragen, stoppen, freigeben oder selbst übernehmen können.
Die Leistung eines Modells ist nur ein Teil des Systems. Ob eine KI-Anwendung im Alltag funktioniert, hängt ebenso davon ab, welche Daten sie nutzen darf, was sie speichert und wie sie in den bestehenden Prozess eingebunden ist. Auch Qualität und Reaktionszeit müssen sich am konkreten Fall prüfen lassen. Der Systemrahmen klärt deshalb: Welche Zustände sind zulässig? Welche Quellen zählen? Was darf das System tun? Und wann ist eine menschliche Prüfung nötig?
Agentenkanäle und Echtzeit-Schnittstellen brauchen klare Regeln, sichtbare Grenzen und feste Eingriffspunkte. Ein Laufprotokoll macht relevante Schritte nachvollziehbar: Welcher Agent hat aus welchem Grund gehandelt? Welche Funktion oder Datenquelle wurde genutzt? Welche Daten stützen das Ergebnis? Wann greift ein Fallback, und wann übernimmt ein Mensch? Unsichtbare interne Zustände ersetzen diese Spur nicht.
Ein reifes System darf nicht vom Wissen einzelner Personen oder einem bestimmten Anbieter abhängen. Modelle, Datenquellen und Schnittstellen müssen sich bewerten und bei Bedarf austauschen lassen, ohne die fachliche Logik neu zu erfinden. Bewusste Entscheidungen, bekannte Risiken und offene Annahmen bleiben deshalb Teil der Architektur – nicht nur Teil der Projektgeschichte.
Externe Maßstäbe
Für Risikofragen und den regulatorischen Kontext orientieren wir uns an öffentlich zugänglichen Rahmenwerken und Rechtstexten. Sie helfen bei der Einordnung, ersetzen aber weder die Prüfung des konkreten Systems noch Rechtsberatung oder einen Konformitätsnachweis.
Das NIST AI Risk Management Framework ordnet Fragen zu Governance, Messung und dem Umgang mit Risiken. Das zugehörige Playbook ergänzt mögliche Maßnahmen und Prüffragen für den jeweiligen Projektkontext.
Die OECD AI Principles bündeln Grundsätze für robuste, verantwortliche und menschenzentrierte KI-Systeme. Sie ergänzen die technische Sicht um die Handlungsmöglichkeiten der betroffenen Menschen.
Der offizielle EU-Rechtstext enthält Begriffe, Risikoklassen und Pflichten der KI-Verordnung. Welche Vorgaben für ein konkretes System gelten, muss unabhängig von der technischen Umsetzung geprüft werden.
Im System sichtbar
Generative Systeme wirken an der Oberfläche oft eindeutiger, als sie tatsächlich sind. LatentDrift behandelt Unsicherheit, Abhängigkeiten und Systemgrenzen deshalb als Teil des Produktverhaltens. Die Oberfläche zeigt den aktuellen Zustand, weist auf Unsicherheit hin und fordert bei Bedarf eine Freigabe an. Relevante Schritte werden protokolliert; bei Fehlern oder unklaren Ergebnissen gibt es einen festgelegten Weg zurück oder zu einer menschlichen Entscheidung.
Wenn Quellen schwach, Signale widersprüchlich oder Modellantworten unsicher sind, darf die Oberfläche keine Scheinsicherheit erzeugen. Unsicherheit wird in der Sprache, im Dialogzustand, in der Quellenansicht und in der Freigabelogik sichtbar. Interne Qualitätsmetriken können diese Einschätzung ergänzen, ersetzen aber keine verständliche Rückfrage, Warnung oder Übergabe an eine verantwortliche Person.
Bevor ein Agent mehr Rechte erhält, müssen seine Rolle, die erlaubten Systemzugriffe und sein Verhalten bei Fehlern getestet sein. Jede neue Berechtigung braucht einen nachvollziehbaren Grund, einen Rücksetzpunkt und eine benannte menschliche Zuständigkeit. Mehr Autonomie ist kein Standardziel, sondern eine Entscheidung auf Basis geprüfter Systemläufe.
Entscheidend ist, wie das System in Randfällen reagiert, welche Kosten und Reaktionszeiten tatsächlich auftreten, ob Zugriffsregeln greifen und verantwortliche Personen eingreifen können. Maßstab ist das tatsächliche Produktverhalten. Dokumentierte Tests und Systemläufe machen es überprüfbar. So lässt sich verantwortbar entscheiden, welche Schritte automatisiert werden und wo weiterhin eine Freigabe nötig ist.