heise+ | Abliterierte KI: Security-Werkzeug oder Weltuntergangswaffe?

Herkömmliche LLMs besitzen Sicherungen, um den Missbrauch etwa für Angriffe zu verhindern. Doch das hindert auch Sicherheitsforscher daran, mit diesen KI-Modellen ihre eigenen Server auf Lücken hin abzuklopfen: Die KI kann schwer zwischen dem legitimen Einsatz als Pentesting-Tool und dem Missbrauch als Angriffswerkzeug auf einen fremden Server unterscheiden. Bei kommerziellen KI-Systemen läuft man sogar Gefahr, dass das Benutzerkonto gesperrt wird, weil die Absicherung als Angriff missverstanden wird. Wir haben mit dem Sicherheitsexperten Costin Raiu über das Benutzen abliterierter Modelle in der Forschung gesprochen. Ein abliteriertes Modell ist ein Open-Weight-Sprachmodell (LLM), bei dem die antrainierten Sicherheitsfilter und Verweigerungsmechanismen direkt aus den Modellgewichten entfernt oder unterdrückt wurden.

Costin Raiu ist ein Urgestein unter den Forschern mit über 30 Jahren Erfahrung im Bereich IT-Sicherheit. Sein Spezialgebiet ist die Analyse von Advanced Persistent Threats (APTs) und hochentwickelten Malwareangriffen. Sein erstes Antivirenprogramm schrieb er mit 16, später war er langjähriger Leiter des globalen Forschungs- und Analyseteams (GReAT) bei Kaspersky Labs, das unter anderem erforschte, wie Stuxnet, Flame, Duqu, Turla, Lazarus und Moonlight Maze funktionieren. Er hat außerdem die Aktivitäten staatlicher Elite-Hacker erforscht und diese an die Öffentlichkeit gebracht. Darüber hinaus ist er Gründer von „Art of Noth“, ein Think Tank für die Weiterentwicklung von Cyber Security, und der Firma „TLPBLACK“, die Sicherheitsberatung und Threat Intelligence anbietet. Bei Virus Bulletin ist er Mitglied des Technical Advisory Boards und zudem Mitglied der Computer AntiVirus Researchers’ Organization (CARO). Auch im echten Leben weiß er durchaus mit Angriffen umzugehen: Er hat den schwarzen Gürtel in Taekwondo.

Wir haben mit Costin Raiu darüber gesprochen, welchen Mehrwert abliterierte Modelle Sicherheitsforschern bieten und welche Hardware man benötigt, um die eigene Infrastruktur oder Code sinnvoll auf Sicherheitslücken abklopfen zu können. Außerdem sprechen wir über verschiedene Quellen abliterierter Modelle und die Gefahr, sich darüber Backdoors einzufangen. Schließlich gibt uns Raiu noch eine Einschätzung, wie gefährlich abliterierte Modelle in den Händen von Angreifern sind und ob uns deshalb der Weltuntergang bevorsteht.