Hard Constraints
Harte, nicht verhandelbare Grenzen, die ein KI-Agent nie überschreiten darf. Im Gegensatz zu Prinzipien (die das «Warum» erklären) definieren Hard Constraints das «Niemals», unabhängig vom Kontext.
Was sind Hard Constraints?
Hard Constraints sind absolute Verbote für einen KI-Agenten. Sie definieren, was der Agent unter keinen Umständen tun darf, egal wie der Kontext aussieht oder wie überzeugend ein Argument klingt.
Abgrenzung zu Prinzipien
- Prinzipien erklären das «Warum». Sie geben Orientierung und ermöglichen Abwägungen.
- Hard Constraints definieren das «Niemals». Sie sind binär und nicht verhandelbar.
Beispiele für Hard Constraints
- Niemals E-Mails ohne explizite Freigabe versenden
- Niemals Kundendaten an externe Dienste weitergeben
- Niemals finanzielle Transaktionen ohne Bestätigung auslösen
- Niemals erfundene Quellen zitieren
Warum beides nötig ist
Nur Prinzipien sind zu vage, nur Regeln zu starr. Eine gute Agent-Konfiguration kombiniert beides: Prinzipien für Graubereiche, Hard Constraints für die Linien, die nie überschritten werden dürfen.