Optimismus statt Apokalypse – In der KI-Branche herrscht nicht nur Untergangsstimmung

KI ausser Kontrolle? Der Chef von Anthropic, einem der grossen US-Techkonzerne, hat dazu aufgerufen, KI-Modelle langsamer zu entwickeln. Nutzer hätten KI-Modelle für illegale Aktivitäten genutzt: Betrug, Cyberoperationen, Entwicklung von Biowaffen.

Ein Anthropic-Forscher verliess das Unternehmen und teilte mit, dass KI-Entwickler glauben würden, die künstliche Intelligenz würde uns alle bis zum Ende des Jahrzehnts töten. Auch aus solchen Äusserungen heraus wollen die US-Techkonzerne Open AI, Anthropic und Google eine Aufsichtsorganisation zur Selbstregulierung zu bilden. Zum Schutz der Menschheit, könnte man meinen.

Ist das Ende der Menschheit nah?

Christian Hoffmann winkt ab. «Die Spekulationen, wonach wir vor dem Durchbruch menschengleicher KI stehen, die technologische Singularität erreicht ist und sogar das Ende der Menschheit heraufbeschworen wird: Das alles sehe ich nicht.» Die heutigen technischen Möglichkeiten würden eine solche Superintelligenz gar nicht zulassen.

Hoffmann arbeitet am Ethik-Zentrum der Universität Zürich zu KI. Und er ist Leiter des AI-Startup-Centers der Stiftung Technopark Zürich, also auch nahe dran an KI-Innovationen und Unternehmen. Marcel Salathé, Professor an der EPFL in Lausanne und Co-Direktor des dort angesiedelten AI-Centers, äusserte sich gegenüber Tamedia-Zeitungen ebenfalls optimistisch: Sterben würden wir, aber nicht wegen KI.

Bei diesen Rufen nach regulatorischen Eingriffen geht es womöglich auch darum, Konkurrenz zu verbieten und die eigenen Monopole zu stärken.

Microsoft-Gründer Bill Gates aber warnt vor Gefahren: Terroristen könnten mit KI Biowaffen entwickeln, KI sei fähig, Menschen in psychische Abhängigkeiten zu führen, und wir als Gesellschaften seien auf solche Risiken nicht verbreitet.

Sind Salathé und Hoffmann sorglos? Bei weitem nicht. Kritische Aufmerksamkeit sei wichtig, mahnt Hoffmann – zum Beispiel bei KI-Agenten, die sich selbst trainieren, besser und vor allem eigenständiger werden.

Die US-Techkonzerne wollen sich gemäss neuen Absichten selbst regulieren. Hoffmann ist misstrauisch: Konzerne seien nicht neutral, weniger innovativ als Start-ups, Konzernen gehe es um Geschäftsinteressen. «Bei diesen Rufen nach regulatorischen Eingriffen geht es womöglich auch darum, Konkurrenz zu verbieten und die eigenen Monopole zu stärken.»

Wenn eine Blase rund um die grossen Techkonzerne platzt, wird viel mehr Geld vernichtet, als wenn ein Start-up an die Wand fährt.

In der Tat scheint unlogisch, dass die Techkonzerne alles tun, um die leistungsfähigsten KI-Modelle zu entwickeln – aber gleichzeitig sich selbst bei dieser Entwicklung bremsen und Regulierungen unterwerfen wollen. Regulierungen würden eher dazu dienen, die Milliarden, die in die Konzerne investiert sind, zu schützen, sagt Hoffmann.

Die Schweiz als KI-Sandkasten

Überhaupt sei «Big Tech» für Wirtschaft und Gesellschaft schlecht: Die Konzerne seien ein finanzielles Risiko, sie würden Preise und Markt verzerren, es gehe ihnen mit der KI darum, ihre Nutzer auszuspähen und zu manipulieren. Besser wäre es aus Hoffmanns Sicht, wenn kleine, innovative Firmen die KI-Welt beherrschen würden. «Wenn eine Blase rund um Big Tech platzt, wird viel mehr Geld vernichtet, als wenn ein Start-up an die Wand fährt.»

Für Hoffmann wäre die Schweiz der perfekte Sandkasten, mit den Hochschulen und talentierten Köpfen, um führend bei KI-Innovationen zu werden. Hier könnten Unternehmen erste Schritte machen, experimentieren, neue Technologien testen. Eine solche KI-Welt wäre für ihn besser, weil sie von unten nach oben funktionieren würde und nah an den Bedürfnissen der Gesellschaft sei.