heise+ | KI-Harness erklärt: Das unsichtbare Gerüst von LLMs

Wer sich auch nur ein wenig mit aktuellen KI-Systemen auf Basis großer Sprachmodelle (Large Language Models, LLM) beschäftigt, hat den Begriff „Harness“ wahrscheinlich bereits gehört. Was genau damit gemeint ist, unterscheidet sich aber von Fall zu Fall: Der Begriff wird extrem breit verwendet und eine allgemein etablierte Definition gibt es nicht – zumindest keine, die explizit macht, woraus ein Harness besteht. Im Gegenteil, wenn „Harness“ überhaupt definiert wird, dann oft darüber, was es nicht ist: Es ist nicht das LLM selbst.

Denn auch wenn große Sprachmodelle die Grundlage des aktuellen KI-Booms darstellen, werden sie praktisch nie direkt eingesetzt. LLMs sind zunächst einmal nur Textvervollständigungsmaschinen. Und nur sehr wenige Aufgaben lassen sich sinnvoll von einem System bearbeiten, das ungesteuert einen Text plausibel fortschreibt.

Um aus einem LLM einen Chatbot, einen Coding-Agenten, einen Security-Scanner oder einen persönlichen Assistenten zu machen, benötigt man noch ein Sammelsurium von Anweisungen, Konfigurationen und Hilfsprogrammen. Die müssen Kontext bereitstellen, sollen nötige Sicherheitsgarantien erzwingen, bewerten, ob eine Aufgabe erfolgreich bearbeitet wurde, und dem LLM erlauben, mit anderen Programmen zu interagieren. All dies zusammen ist das Harness – zumindest wenn man den Begriff breit auffasst.