– Was ein kluges Pferd über die Dummheit von KI verrät

Vor einem Jahrhundert sorgte ein Pferd für Aufsehen, weil es angeblich rechnen konnte. Doch das Ganze entpuppte sich als Schwindel. Auch bei KI verwechseln wir oft verblüffende Ergebnisse mit echter Intelligenz. In seinem Buch «Das Pferd, das zu viel wusste» zeigt Reto U. Schneider, was der «Kluge Hans» über unsere Faszination für KI verrät – und warum es gefährlich werden kann, Maschinen menschliche Fähigkeiten zuzuschreiben.

Reto U. Schneider

Journalist und stv. Chefredaktor «NZZ-Folio»

Reto U. Schneider ist 1963 in Solothurn geboren. Er fand zunächst über die Technik in die Berufswelt: Nach einem Studium der Elektrotechnik an der ETH Zürich entwickelte er Funkgeräte, bevor er seine Leidenschaft für das Schreiben entdeckte.

Seit Ende der 1990er Jahre arbeitet er als Wissenschaftsredaktor beim «NZZ Folio», wo er heute als stellvertretender Chefredaktor tätig ist. Er hat mehrere Sachbücher veröffentlicht.

SRF: Viele Menschen haben ein ungutes Gefühl, wenn sie der KI eine Frage stellen. Kennen Sie das?

Reto U. Schneider: Diese Unsicherheit, ob man die Antwort glauben kann oder nicht, ist mir sehr vertraut. Wir alle sind hin- und hergerissen, wie man mit den KI-Tools umgehen soll. Ich staune manchmal über mich selbst, wenn ich bei einem Prompt noch «bitte» hinschreibe. Diese Vermenschlichung einer Maschine ist seltsam.

Wie arbeitet eine KI?

Grob gesagt gibt die KI das wieder, was sie aus ihren Übungsbeispielen gelernt hat. Möchte man einer KI beibringen, was eine Katze ist, gibt man ihr tausend Katzenbilder.

Die KI kann richtige Antworten geben, weil sie über eine Abkürzung zu Antworten kommt, die richtig sein können.

Die KI arbeitet also mit Wahrscheinlichkeiten?

Genau, sie sagt sich: Höchstwahrscheinlich ist das eine Katze, weil sie viele Bilder kennt, die ähnlich aussehen. Dies ist aber nicht dasselbe, wie das menschliche Denken. Weil das Resultat jedoch so ist, wie das eines Menschen, unterstellen wir der Maschine KI menschliche Eigenschaften.

Was hat dieses Missverständnis mit einem Pferd namens «Kluger Hans» zu tun, das zu Beginn des 20. Jahrhunderts in Berlin lebte?

Hans lebte im Hinterhof eines pensionierten Lehrers. Dieser brachte dem Hengst über Jahre Tag für Tag das Rechnen bei. Und tatsächlich konnte das Pferd eines Tages rechnen. Man sagte ihm: Wie viel gibt vier und vier? Und Hans klopfte achtmal mit dem Huf. Eine Sensation!

Der «Kluge Hans» war ein Pferd, das um 1900 in Deutschland Berühmtheit erlangte. Sein Besitzer Wilhelm von Osten behauptete, Hans könne rechnen, die Uhr lesen und sogar Fragen beantworten. Wissenschaftler fanden jedoch heraus, dass Hans nicht rechnen konnte. Stattdessen reagierte er äusserst sensibel auf unbewusste Körpersignale der fragenden Menschen.

Der Fall gilt bis heute als klassisches Beispiel dafür, wie Erwartungen von Beobachtern Versuchsergebnisse beeinflussen können. Der «Kluge Hans» galt lange als wissenschaftliche Sensation. Heute steht er als Beispiel dafür, dass sich die Wissenschaft auch gründlich irren kann.

Und ein Schwindel?

Wie spätere Untersuchungen zeigten, konnte Hans nicht rechnen. Er hatte einen unerwarteten Weg für richtige Antworten gefunden. Mit Rechnen hatte dieser nichts zu tun.

Was erzählt uns Hengst Hans über die KI?

Er illustriert den Irrtum, der in der Überhöhung der KI als menschliche Intelligenz steckt. KI kann, wie Hans, zwar richtige Antworten geben, aber nicht, weil sie wie ein Mensch denken kann, sondern weil sie über eine Abkürzung zu Antworten kommt, die richtig sein können.

Zum Beispiel?

Man trainierte eine KI mit Zehntausenden von Porträtfotos darauf, das Geschlecht von Menschen zu bestimmen. Tatsächlich konnte die KI dann Männer und Frauen gut unterscheiden.

Problematisch wird es, wenn wir die KI vermenschlichen.

Später merkte man, dass die KI gar nicht auf die Gesichtszüge schaute, sondern darauf, ob diese Person ein Kleidungsstück mit einem Kragen trug oder nicht.

Die KI nahm, wie Hans, eine Abkürzung?

Genau. KI-Maschinen simulieren das Denken. Das ist wertvoll, spannend, interessant. Problematisch wird es jedoch, wenn wir die KI vermenschlichen, so wie man Hans vermenschlicht hat.

Es besteht die Gefahr, dass die KI unethische Ratschläge gibt.

Inwiefern?

Die Maschine hat keine ethischen Werte. In ihren Antworten folgt die KI Wahrscheinlichkeiten. Wenn wir glauben, die KI könne denken wie ein Mensch, unterstellen wir ihr fälschlicherweise auch ein menschliches Wertesystem.

Und sie gibt uns möglicherweise unethische Ratschläge?

Das ist die Gefahr. Bekannt sind etwa Fälle, in denen die KI Menschen zum Suizid riet.

Was ist aus Hans geworden nach seiner Entlarvung?

Hans lebte lange allein. Um 1915 erblickte er zum ersten Mal in seinem Leben eine Stute. Dies brachte ihn dermassen durcheinander, dass er durchbrannte und sich an einem Zaun tödlich verletzte.

Aus Liebe verstorben?

So kann man das sehen.

Das Gespräch führte Felix Münger.

Reto U. Schneider: «Das Pferd, das zu viel wusste. Wie der kluge Hans zu Weltruhm kam und heute die KI entzaubert». Molden, 2026.