Google DeepMind: Wie KI-Modelle ihre eigene Unsicherheit einschätzen

Sprachmodelle präsentieren ihre Antworten oft mit großer Selbstsicherheit, auch wenn diese nicht der Wahrheit entsprechen. Das erschwert es Nutzerinnen und Nutzern, deren Verlässlichkeit einzuschätzen. Gerade mit Blick auf autonome KI-Agenten ist es wichtig, dass Modelle ihre Schwächen erkennen. Sie sollten eine Antwort lieber verweigern, statt eine falsche zu geben. Forschende von Google DeepMind haben deshalb die Modelle GPT-4o, Gemma 3 27B, Deepseek-V3 und Qwen3-Next-80B-A3B-Instruct untersucht, um herauszufinden, nach welchen Kriterien diese entscheiden, ob sie eine Antwort liefern.

Wie entscheidet ein Modell, ob es antwortet?

Früher googelten Menschen bei Fragen, heute nutzen sie Tools wie ChatGPT. Laut einer OpenAI-Studie suchen Nutzerinnen und Nutzer am häufigsten praktische Tipps, beispielsweise zu Hausaufgaben oder Alltagsfragen. Das Problem: Chatbots verfügen nicht über echtes Wissen, sondern sagen nur das wahrscheinlichste nächste Wort voraus. Dabei kommt es immer wieder zu Halluzinationen, bei denen Tools wie ChatGPT, Claude oder Gemini Antworten überzeugt präsentieren, obwohl sie falsch sind. Vorteilhaft wäre es deshalb, wenn Sprachmodelle einschätzen könnten, wie sicher sie sich bei ihren Antworten sind – und bei zu hoher Unsicherheit keine Antwort geben würden.

Forschende von DeepMind entwickelten ein experimentelles Paradigma, um zu testen, wie Sprachmodelle entscheiden, ob sie eine Anfrage beantworten. Das in Nature Machine Intelligence veröffentlichte Verfahren beurteilte, wann und wie die Modelle auf die Beantwortung verzichteten. „Metakognition – die Bewertung der Qualität der eigenen kognitiven Leistung – steuert adaptives Verhalten bei allen Arten“, so die Autorinnen und Autoren in ihrer Studie. „Vertrauenssignale lassen sich aus den Ausgaben von Sprachmodellen extrahieren, aber eine grundlegende Frage bleibt offen: Nutzen Modelle diese Signale tatsächlich, um zu entscheiden, ob sie antworten oder sich der Antwort enthalten?“

Niedriges Vertrauen führt eher zur Enthaltung

Das Testverfahren hat vier Phasen. In der ersten beantworteten die Modelle Multiple-Choice-Fragen mit vier Antwortmöglichkeiten ohne Enthaltungsoption, um ihr Ausgangsniveau an Selbstvertrauen zu ermitteln. In Phase zwei erhielten sie zusätzlich die Möglichkeit, sich zu enthalten. In der dritten Phase setzten die Forschenden die Technik „Activation Steering“ ein, um die vertrauensbezogene Aktivität zu verstärken oder zu unterdrücken. Dabei werden numerische Aktivitätsmuster im neuronalen Netzwerk gezielt verändert. So testeten sie, ob das die Häufigkeit der Enthaltungen veränderte. In Phase vier wurden die Modelle angewiesen, sich zu enthalten, sobald ihr Vertrauen unter einen bestimmten Schwellenwert fiel.

Phase zwei zeigte laut den Forschenden, dass Sprachmodelle bei einer Enthaltung einen impliziten Schwellenwert für ihr internes Konfidenzniveau anwenden. Phase drei lieferte den Forschenden kausale Belege: Das Verstärken oder Unterdrücken des Vertrauens führte zu einer entsprechenden Ab- oder Zunahme der Enthaltungen. In Phase vier passten die Modelle ihr Verhalten an unterschiedliche Vertrauensniveaus an, was darauf hindeutet, dass sie ihr Konfidenzniveau auswerten, um Enthaltungsrichtlinien festzulegen. Insgesamt verzichteten die Modelle eher auf eine Antwort, wenn ihr Vertrauen niedrig war.

KI-Modelle müssen ihre Unsicherheit erkennen

Laut den Forschenden unterstreichen die Studienergebnisse den potenziellen Wert von Mechanismen zur Antwortverweigerung, die Sprachmodelle daran hindern, Fragen zu beantworten, wenn ihr Konfidenzgrad unter einen bestimmten Wert fällt. Solche Ansätze könnten das Risiko verringern, dass Modelle unzuverlässige Informationen liefern. „Insgesamt deuten diese Ergebnisse darauf hin, dass die Enthaltung durch das Zusammenwirken einer mehrdimensionalen internen Konfidenzrepräsentation und schwellenwertbasierter Richtlinien erfasst wird“, so die Studienautorinnen und -autoren. Mit Blick auf KI-Agenten sei diese Fähigkeit entscheidend, da autonome Systeme ihre eigene Unsicherheit erkennen müssten.