Diskussion um KI-Gefahren – Warum die Welt wegen Künstlicher Intelligenz nicht untergeht

Die Sorgen um eine unkontrolliert fortschreitende Entwicklung der Künstlichen Intelligenz scheinen fast so schnell zu wachsen wie die Technologie selbst. Mehrere führende Köpfe von Technologie-Unternehmen haben öffentlichkeitswirksam düstere Szenarien gezeichnet (vgl. Textbox).

Die Warnungen der KI-Entwickler

Box aufklappen Box zuklappen

Anfang September postete der ehemalige Mitarbeiter der beiden KI-Konzerne OpenAI und Anthropic, Jacob Coxon, in den sozialen Medien folgenden Satz: «Die KI-Entwickler sind fest davon überzeugt, dass die Künstliche Intelligenz uns bis Ende des Jahrzehnts alle auslöschen könnte.»

Kurz darauf publiziert Anthropic-Chef Dario Amodei einen öffentlichen Brief mit der Aufforderung, die KI-Entwicklung zu entschleunigen.

OpenAI-CEO Sam Altman mahnte schon mehrfach. Er sagte an der UNO-Vollversammlung vergangene Woche in New York: «Da KI immer leistungsfähiger und autonomer wird, könnte sie sich schneller entwickeln als unsere Institutionen, Macht auf wenige konzentrieren oder Entscheidungen treffen, die Menschen nicht mehr verstehen oder kontrollieren können.»

Jetzt äussern sich zwei Schweizer Fachpersonen zur Gefahr von KI. «Ich bin überhaupt nicht alarmiert», sagt Marcel Salathé im «Eco Talk». Er leitet das AI-Center an der ETH Lausanne (EPFL) in Co-Direktion. «Ich bin eher alarmiert, wie die Welt auf diese lachhafte Episode reagiert.» Er hält es für unverantwortlich, eine solche Panik zu verbreiten, und er hält die Darstellungen für «völlig unglaubwürdig».

Salathé nennt ein Beispiel: «Der CEO von Anthropic hat ein Dokument verfasst, in dem er fordert, man müsste die Forschung abbremsen. Und zehn Tage später hat er sein neuestes Modell lanciert, das die Grenzen wirklich weiter verschoben hat.» Das passe nicht zusammen.

Das Superintelligenz-Szenario sind die Geister im Wald.

«Wir konzentrieren uns auf völlige Randszenarien», so die Meinung von KI-Investorin Nicole Büttner. «Ich sage immer: Es gibt die Geister im Wald, vor denen man theoretisch Angst hat. Aber viel wichtiger ist der Einbrecher vor der Tür.»

Die tatsächlichen Risiken seien etwa Cyberkriminalität mithilfe von KI oder so genannte «Biases», also die Voreingenommenheit, mit der die Systeme ihre Schlüsse zögen. Problematisch findet Büttner auch die Machtkonzentration, die in diesem Sektor entstanden sei. Über all das müsse man tatsächlich sprechen.

Zu den Personen

Box aufklappen Box zuklappen

Marcel Salathé ist Co-Direktor des AI Centers der EPFL. Er forscht seit rund 10 Jahren zu Künstlicher Intelligenz. Der studierte Biologie und Epidemiologe war zudem während der Covid-Pandemie ein prominentes öffentliches Gesicht.

KI-Kennerin Nicole Büttner ist vor allem in Deutschland bekannt, obwohl sie in der Schweiz wohnt. Als ehemalige Generalsekretärin der FDP und Investorin in der Start-up-Sendung «Die Höhle der Löwen» tritt sie regelmässig in der Öffentlichkeit auf.

Für echte Hacker sei KI sehr hilfreich, sagt Marcel Salathé. «Ein Diktator steht dieser Technologie natürlich auch sehr positiv entgegen. Damit kann er seine Macht noch mehr zementieren.»

Für beide Experten stünden knallharte Businessinteressen hinter den Auftritten der CEOs. Verdächtig sei, dass diese im Umfeld von geplanten Börsengänge stattfänden.

Laut Nicole Büttner versuchten die Unternehmen, ihre Verantwortung abzugeben. Den rechtlichen Aspekt betont auch Marcel Salathé: «Ich finde es einen kleinen Skandal, dass sie eine Audienz bei der UNO bekommen. Die erste Audienz wäre nun das Gericht.»

Denn diese Unternehmen hätten effektiv KI-Agenten losgeschickt und dabei alle Sicherheitsvorkehrungen ausgeschalten, um zu messen, wie gut sie hacken könnten. Dabei habe man in Kauf genommen, dass Dinge passierten, die man nicht erwartet habe.

KI ist eine Riesenchance für die Menschheit.

Einig sind sich beide darin, dass die Technologie mehr Vor- als Nachteile biete. «KI ist primär eine Riesenchance für die Menschheit», sagt Salathé. «Die KI wird uns vieles ermöglichen, was wir heute nicht können.»

Und Büttner sagt: «Es gibt tatsächlich Risiken. Diese muss man durch Forschung adressieren. Aber die Chancen für personalisierte Medizin, für KI in der Bildung und für KI, die uns viele Tätigkeiten abnimmt, ist so viel grösser.»