heise+ | KI abliterieren: So entfesseln Sie Open-Weight-Modelle

Sprachmodelle wie GPT, Qwen oder GLM dürfen längst nicht jede Anfrage beantworten. Ihre Hersteller legen fest, welche Aufgaben sie ablehnen müssen. Das betrifft nicht nur Betrug und andere Straftaten, sondern auch politisch unerwünschte Inhalte oder die Programmierung sicherheitskritischer Software. Dabei können neben den Vorgaben der Hersteller auch staatliche Interessen eine Rolle spielen. Weil eine KI nicht unterscheiden kann, ob sie Lücken in einer Firewall für einen Pen-Test oder einen tatsächlichen Angriff finden soll, verweigert sie solche Aufträge pauschal.

• Auf Hugging Face findet man Tausende abliterierte Modelle, die Fragen beantworten, bei denen sich ChatGPT und Claude querstellen.
• Die Modelle können jedoch manipuliert sein und ihre Quellen sind intransparent.
• Mit Heretic ARA kann man Modelle selbst abliterieren. Wir zeigen am Beispiel eines offenen Qwen-Modells, was man dabei beachten sollte.

Mit einer sogenannten Abliteration lassen sich solche Verweigerungen (englisch Refusals) unterdrücken. Dazu vergleicht man die Reaktionen des Modells auf harmlose und verbotene Anfragen und verändert anschließend die Gewichte so, dass es möglichst nichts mehr verweigert. Auf Plattformen wie Hugging Face stehen mittlerweile Tausende abliterierte Modelle frei zum Download. Doch bei den meisten ist nicht ersichtlich, ob sie aus seriöser Quelle stammen oder versteckte Hintertüren enthalten und ob sie überhaupt etwas taugen.

Man kann die Leitplanken von Sprachmodellen aber auch selbst entfernen. Dafür muss man nichts von Mathematik oder Informatik verstehen. Wir haben ausprobiert, wie einfach das geht.