Podcast: „Die digitale Welt ist durch das Amoklaufen der KI-Konzerne gefährdet“

Als Alke Martens 2007 an der Universität Rostock Juniorprofessorin wurde, gab man ihr einen klaren Rat: „Wenn du jemals eine Vollprofessur bekommen möchtest, dann lass deine Finger von KI, weil da wird es nichts mehr geben, das ist tot.“ Ihre Professur hieß deshalb „Kognitive Systeme und E-Learning“, das Wort KI vermied man. Heute ist Martens Professorin für praktische Informatik in Rostock und mit mehr als 270.000 Followerinnen und Followern eine der reichweitenstärksten KI-Erklärerinnen im deutschsprachigen Netz. Im c't-Podcast „They Talk Tech“ mit Svea Eckert und Eva Wolfangel erzählt sie, dass sie von einer jungen Mitarbeiterin vor die Kamera geschickt wurde, weil sie sich „ohnehin täglich über KI aufrege.“ Geplant waren 10.000 Follower im ersten Jahr, nach einem halben Jahr waren es knapp 100.000.

Die Resonanz erklärt Martens mit ihrer fachlichen Mischung: Sie hat Informatik mit Nebenfach Medizin studiert und schließlich in der KI über Expertensysteme für das Lehren und Lernen promoviert. In Rostock verantwortet sie die Lehramtsausbildung in Informatik. Dinge so herunterzubrechen, dass sie auch Schulkinder oder IT-ferne Eltern verstehen, sei ihr Handwerk. Umso mehr ärgere sie, wie gut Untergangsszenarien funktionieren. Die Erzählung, KI werde uns alle töten, verdecke ein reales Problem, das nur wenige einschätzen könnten: „KI-Systeme gefährden unsere Infrastruktur“, sagt Martens, „die digitale Welt ist durch das Amoklaufen der KI-Konzerne gefährdet.“

Hinter den Apokalypse-Schlagzeilen vermutet Martens Kalkül. „Das ist eine gezielte Marketing-Strategie.“ Angesprochen würden nicht Nutzerinnen und Nutzer, sondern Investoren, die sich Milliardengewinne versprechen. Dabei sei das Gesamtkonstrukt nüchtern betrachtet absurd: „Das ist eine Software, die auf zusammengeklauten Daten basiert“, sagt Martens, „und die versuchen sie jetzt hochpreisig an die Börse zu bringen.“

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Martens erklärt im Podcast auch die Basis der Technologie, die an sich nicht neu ist. Die Grundideen stammten aus den 1950er-Jahren. Schon früh gab es zwei Stränge: regelbasierte Expertensysteme, die kaum Fehler machen, aber starr sind, und probabilistische Verfahren, die Häufigkeiten auswerten. Neuronale Netze erkannten Muster in Bildern lange vor dem aktuellen Hype. Ihre Schwäche demonstriert Martens Studierenden mit Hunde- und Katzenfotos: Haben alle Hunde einen schwarzen und alle Katzen einen weißen Hintergrund, lernt das System nicht, Hunde und Katzen zu unterscheiden, sondern eben den Hintergrund. Neu seien vor allem GPUs, die Milliarden gleichförmiger Rechnungen parallel ausführen. Und natürlich die Datenmassen aus dem Netz. „Mit dem aufkommenden Internet 1989 ist eine Harvesting-Maschine entstanden, wie man in den USA sagt“, eine Erntemaschine also: „Wir werden im Internet sozusagen geerntet.“ Wer in Foren wie Reddit oder auf X viel schreibt, bekommt im Modell die größte Stimme – wer dort nicht vorkommt, wie etwa ihre 83-jährige Mutter, gar keine.

Um die Folgen für Menschen geht es in Martens' neuem Buch „Dumm dank KI?“, das sie im Podcast erstmals vorstellt. Menschen passten sich an die Technik an, sagt sie, und zwar auf drei Ebenen: in der Sprache, die KI-Floskeln übernimmt; im Vertrauen auf Antworten, die gut klingen, aber nur Wahrscheinlichkeiten abbilden; und in Schule und Uni, wo bei Prüfungen und Noten oft nur noch das fertige Produkt zähle, nicht der Lernprozess. Den Vergleich mit früheren Technikängsten lässt sie nur begrenzt gelten. „ Der Taschenrechner hat eine extrem hohe Zuverlässigkeit. 2 plus 2 ist beim Taschenrechner immer 4.“ Er habe uns das Rechnen abgenommen, nicht die Mathematik. Bei Sprachmodellen sei das anders: „Das, was uns die KI jetzt wegnimmt, ist die Fähigkeit des eigenen Ausdrucks. Und das ist heikel.“

Ihren Studierenden sagt sie deshalb deutlich, dass sie KI-generierte Arbeiten nicht sehen will. Als Vertreterin einer Bildungseinrichtung wolle sie die jungen Leute verändern: „Ich möchte, dass ihr herausgeht und andere seid, als ihr vorher gewesen seid.“ Sinnvolle Einsatzfelder für KI-Systeme sieht sie eher in schmalen, gezielten Anwendungen wie etwa dem Transkribieren. Dafür brauche es aber keine großen Sprachmodelle. Diese seien weder Therapeut noch Lehrkraft-Ersatz, sondern „schlicht und ergreifend eine Spracherzeugungsmaschine, die auf Wahrscheinlichkeiten basiert“.

„They Talk Tech“ erscheint jeden Mittwoch überall, wo es Podcasts gibt. Svea Eckert und Eva Wolfangel diskutieren ein Tech-Thema oder treffen inspirierende Frauen aus und rund um die Tech-Welt.