KI-Modelle wie Medikamente zulassen: Das steckt hinter Geoffrey Hintons Idee

Informatiker Geoffrey Hinton sowie IT-Forscher Yoshua Bengio gelten aufgrund ihrer Vorarbeit als Väter der KI. Entsprechend viele Schlagzeilen machte ein Ende September 2026 von der Cambridge University veröffentlichtes Paper, in dem Nobelpreisträger Hinton sowie Bengio und 20 weitere KI-Experten vor einer massiven Beschleunigung der KI-Entwicklung warnten.

Experten warnen: KI vor Intelligenzexplosion

Darin zeichnen sie eine möglicherweise bevorstehende „Intelligenzexplosion“, wenn KI die Verbesserung von KI-Systemen selbst übernimmt. „Die Menschheit könnte die Kontrolle über übermenschliche KI-Systeme verlieren“, mahnen die Autoren. Die Politik, so Hinton und seine Mitstreiter, müsste Instrumente entwickeln, um eine mögliche KI‑Explosion steuern zu können, hieß es dazu im Standard.

Im Podcast Smart Girl Dumb Questions erklärte Hinton jetzt, wie eine solche Steuerung aussehen könnte. Demnach sollten KI-Unternehmen eine Regulierungsbehörde vor der Veröffentlichung neuer Produkte davon überzeugen müssen, dass diese sicher seien.

Zulassung wie bei Medikamenten gefordert

Es sei ja auch nicht erlaubt, einfach ein Medikament zu entwickeln und dies auf den Markt zu bringen. Vielmehr müssten Anbieter vorher die zuständige US-Behörde FDA überzeugen. Das sei sehr kostspielig und koste rund eine Milliarde US-Dollar, so Hinton gegenüber Podcast-Host Nayeema Raza. Das allerdings sollte das Mindeste sein, was man in diesem Bereich erwarten sollte, erklärte der Experte.

Dass KI zunehmend dazu beitrage, sich selbst zu verbessern, steigere sowohl ihre Fähigkeiten als auch die damit verbundenen Gefahren. „Exponentielle Prozesse verlaufen sehr schnell“, so Hinton. Seiner Meinung nach bliebe „nur ein Jahr oder zwei“, bevor alles „viel schlimmer“ sei als jetzt, wie es bei Business Insider heißt. In dem oben erwähnten Paper erklärten die Autoren um Hinton, dass sich das Zeitfenster für Maßnahmen schließen könnte, sobald die Intelligenzexplosion beginne.

USA setzen auf Selbstverpflichtung der Branche

Dass Hinton damit zum aktuell wichtigsten Entscheider für die US-Politik, Präsident Donald Trump, durchdringt, ist derweil fraglich. Schon ein im Juli 2026 veröffentlichtes, an die US-Regierung gerichtetes Schreiben, das rund 1400 KI-Forscher unterzeichnet hatten, war weitgehend ungehört verpufft.

Selbst die Bitten der großen Anbieter wie Anthropic oder OpenAI um eine strengere staatliche Regulierung nach den im Sommer 2026 bekannt gewordenen Hacking-Angriffen hatte Trump mit Verweis auf die Konkurrenz aus China abgelehnt. Stattdessen setzen die USA jetzt auf eine Art Selbstverpflichtung der Branche.