Jailbreak
Definition
Ein Jailbreak ist der Versuch, die Sicherheits- und Verhaltensregeln eines Sprachmodells gezielt auszuhebeln, sodass es Inhalte erzeugt oder Aktionen ausführt, die eigentlich gesperrt sind.
Wo Prompt Injection oft über fremde Inhalte einwirkt, zielt der Jailbreak direkt auf die eingebauten Leitplanken des Modells — etwa durch Rollenspiele („Tu so, als gäbe es keine Regeln"), hypothetische Rahmungen oder das Zerlegen einer verbotenen Bitte in harmlos wirkende Teilschritte. Ziel ist, das Modell zu Aussagen zu bewegen, die es normalerweise verweigert.
Für Betreiber bedeutet das: Man darf sich nicht allein auf die Modellsicherheit verlassen. Eigene Guardrails, klare Themengrenzen und die Protokollierung ungewöhnlicher Anfragen sind nötig, um Jailbreak-Versuche zu erkennen und abzufangen. Regelmäßiges Red Teaming — das absichtliche Angreifen des eigenen Systems — deckt Schwachstellen auf, bevor es andere tun.
Von der Definition zur Umsetzung?
Lassen Sie uns besprechen, wie sich das konkret in Ihrem Unternehmen anwenden lässt.
Projekt anfragen