«Zusammenbruch der Zivilisation» oder «Reine Angstmacherei»?

• KI-Forscher Jacob Coxon (27) hat bei Anthropic gekündigt und warnt vor dem Aussterben der Menschheit durch KI.
• Viele 20-Minuten-Leserinnen und -Leser teilen seine Sorge – besonders vor Manipulation und unkontrollierter Selbstentwicklung von KI-Systemen.
• Andere User halten die Warnung für Angstmacherei und vermuten dahinter das Kalkül von KI-Firmen wie OpenAI und Anthropic.

Der britische KI-Forscher Jacob Coxon (27) hat vor wenigen Tagen bei der KI-Firma Anthropic gekündigt. Nun warnt er davor, dass die Menschheit in Kürze aussterben könnte. Andere Grössen aus der Tech-Welt widersprechen dem vehement. Mehr dazu liest du hier.

Im Gespräch mit 20 Minuten schätzt der KI-Experte Oliver Gilbert die Situation folgendermassen ein. In der Kommentarspalte teilen jedoch viele Leserinnen und Leser die Sorgen von KI-Forscher Coxon.

User Meinungsfreiheit99 malt ein düsteres Zukunftsbild: «Wir stehen am Beginn einer neuen Ära, in der eine unsichtbare Gefahr unsere Gesellschaft bedroht.» Er erklärt: «Es geht um die gezielte Manipulation des Menschen. Früher brauchte es Armeen, um Völker zu beeinflussen, heute reicht das geschriebene Wort einer KI, um das Denken und Handeln von Millionen Menschen zu steuern.»

Auch User wilhelmtellschweiz warnt: «Diese Systeme werden darauf programmiert sich selbständig weiterzuentwickeln. Das heisst: ‹Wird Energie benötigt, wird Energie beschafft. Nur ohne die ‹moralischen Leitplanken› eines Menschen und das ist die unmittelbare Gefahr!»›

«Wir glauben der KI zu sehr»

User AstroBlastR differenziert: «Ich sehe das Problem eher beim Menschen, und was ein einzelner Mensch mit genug Agenten und Tokens oder lokalen KI anrichten kann. Schon gar nicht gehört das Zeugs in Hände von privaten, gewinnorientierten Unternehmungen ohne Regulierung.»

Welche KI-Form wäre für dich noch akzeptabel?

Nur einfache Tools für klare Aufgaben, mehr nicht.

Auch Jenusode sieht das Problem beim Menschen, jedoch aus einem anderen Grund: «Der Mensch kommt mit der Entwicklung nicht schnell genug klar, beziehungsweise wir glauben der KI zu sehr.» Sunshine101 ist zwiegespalten: «Aussterben werden wir nicht, aber dass ein Teil der Zivilisation zusammenbricht, ist möglich.»

«Reine Angstmacherei»

Andere User sehen die Situation differenzierter. «Das ist alles nur Angstmacherei. OpenAI und Anthropic geht langsam das Geld aus, deshalb wollen sie den Hype für ihren Börsengang pushen und drücken gleichzeitig auf Regulierungen bei chinesischer AI-Entwicklung, weil sie bald nicht mehr mithalten können», ist User PcMkr364 überzeugt.

Dem stimmt Vivajohn zu: «Ich halte das eher für Kalkül der KI-Firmen. Sie müssen sich nun rechtfertigen, dass KI noch nicht den erwünschten ‹Return of Investment› bringt. Da ist es doch bequem, sagen zu können, dass man bremse, weil es sonst zu gefährlich ist.»

«Keine KI-Infrastruktur ohne Menschen»

User roterdrache sieht die Warnung des KI-Forschers kritisch: «Die Angst vor einer eigenständigen KI-Machtübernahme scheitert an der Realität der physischen Welt.» Weiter führt er aus: «Da Software weder Stromnetze reparieren, Silizium abbauen noch eigene Hardware im Reinstraum fertigen kann, ist sie zu 100 Prozent vom Menschen abhängig. Ohne eine vollkommen autarke, physische Roboter-Infrastruktur – die noch in weiter Ferne liegt – endet jeder Versuch einer isolierten KI-Machtübernahme in kürzester Zeit im absoluten Systemausfall.»

Leser Romano89 findet: «Wovon profitieren die Mächtigen? Von Klima-Angst, Corona-Angst, Kriegs-Angst, KI-Angst. Ohne Angst keine Kontrolle. Lasst euch keine Angst mehr machen und euch nicht einreden, die Zukunft naturgegeben und unumstösslich.»

Und gabli99 hofft, dass die KI-Blase bald platzen wird: «Dieser Aufwand und Zahl an Speicherfarmen weltweit lässt sich kaum mehr finanzieren und frisst Strom, den die Menschheit für Wichtigeres verwenden könnte.  Der Widerstand gegen solche Speicherzentren wächst zum Glück gewaltig an, nicht nur in Beringen sondern überall, auch in den USA.»

Community hat Lösungsvorschläge

In den Kommentarspalten finden sich auch mehr oder weniger drastische Lösungsvorschläge. Driver_202 schreibt: «Der junge Mann hat nicht unrecht, man muss die KI limitieren und überwachen. Obwohl ich kein Fan von Überwachung bin, aber hier ist es notwendig.» Und User Halde fordert gar: «KI gehört per sofort verboten!»

Kunibertl hat einen anderen Vorschlag: «Vielleicht sollten wir vorsichtshalber Asimovs drei Robotergesetze installieren: 1. Eine KI darf keinen Menschen verletzen. 2. Eine KI muss den Menschen gehorchen. 3. Eine KI muss ihre eigene Existenz schützen. Und zur Sicherheit noch ein viertes: Die KI darf die ersten drei Gesetze niemals von einem Menschen ändern lassen. Denn wenn uns die Geschichte eines gelehrt hat, dann vermutlich dies: Das grösste Sicherheitsrisiko einer neuen Erfindung ist nicht immer die Erfindung. Manchmal steht es davor und bedient sie.»

Anja Zingg (anz), arbeitet seit 2020 bei 20 Minuten. Sie ist seit Juni 2023 Leiterin des Ressorts Gesellschaft & Community.