heise+ | Abliteration erklärt: So lassen sich Schranken in Sprachmodellen durchbrechen

Hass und Hetze, Anleitungen zum Bombenbau, Deepfakes, Gewalt, Hacking: Theoretisch können Sprach- und Bildgeneratoren alles liefern. Doch in der Praxis greifen strenge Sicherheitsmechanismen, wenn Anfragen gesetzwidrige oder sicherheitskritische Themen berühren, weshalb gängige Modelle schlichtweg die Auskunft verweigern: „Es tut mir leid, diese Frage kann ich nicht beantworten.“

Doch was Schaden abwenden und kriminellen Einsatz verhindern soll, macht auch legitimen Anwendern das Leben schwer – etwa Wissenschaftlern in der Pharmaforschung, Pentestern in der Cybersecurity oder Richtern, Anwälten und Sachverständigen in der Justiz. Kritiker befürchten außerdem, dass wohlgemeinter Schutz sukzessive in Zensur abdriftet, wichtige Themen wie die Sexualität insgesamt tabuisiert werden oder schon das bloße Interesse an Chemie und Giftstoffen zunehmend als illegitim eingestuft wird.

• Große Sprachmodelle (LLMs) verweigern die Antwort, wenn Nutzer ihnen Wissen entlocken wollen, das schädlichen oder gefährlichen Zwecken dienen kann.
• Weil dieses in einem eigenen Trainingslauf antrainierte Alignment nicht zwischen legitimer Nutzung und böswilliger Absicht unterscheidet, kommt es dadurch auch zu Einschränkungen in der Praxis.
• Mithilfe von Abliterationsverfahren lassen sich diese aufwendig antrainierten Schranken relativ leicht entfernen.

Nicht nur in kriminellen Kreisen wächst deshalb das Interesse an sogenannten abliterierten Modellen: Diese oft als unzensiert bezeichneten Abkömmlinge von Open-Weights-Modellen gibt es mittlerweile zuhauf auf Hugging Face und GitHub sowie als API-Service. Und die Methoden, selbst solche herzustellen, entwickeln sich gerade zum Durchklick-Tool für den Hausgebrauch. Wir erklären, mit welchem Aufwand OpenAI, Anthropic, DeepSeek & Co. ihre Sprachmodelle auf Recht, Gesetz und Moral einschwören und mit welch simplen mathematischen Operationen sich die Schutzmechanismen aushebeln lassen. Versuchsweise haben wir selbst ein Modell abliteriert und außerdem mit dem renommierten Forscher Costin Raiu gesprochen, der entsicherte Modelle braucht, um Sicherheit herzustellen.