KI-Agent im Selbstversuch – Mein KI-Assistent kauft ein, kündigt Abos – und macht mir Angst

Am Sonntagnachmittag bin ich mit meiner Familie unterwegs. Ich erhalte eine Whatsapp-Nachricht. «Du hast die Kinder-Tennisschuhe für 5 Franken gewonnen», steht da. An der Online-Auktion für diese Schuhe habe ich nicht teilgenommen. Es war mein KI-Assistent.

Instinct ist ein neuer KI‑Agent aus dem Silicon Valley. Man schreibt ihm per Whatsapp oder SMS; er liest Mails und Kalender, surft im eigenen Browser und speichert Passwörter. Auch Meta und OpenAI bieten neu solche KI-Agenten an.

Instinct ist nicht allein. Anfang Monat hat der Facebook-Konzern Meta einen KI-Agenten namens Muse vorgestellt.

Muse schreibt E-Mails, bucht Reisen und füllt Formulare aus – vorerst nur in den USA, gratis oder für 20 bis 100 Dollar im Monat. Diesen Dienstag zieht OpenAI nach: Dots heissen hier die Agenten.

Das Muster ist überall gleich: Der Agent bekommt einen eigenen Computer in der Cloud, einen Browser und Zugang zu Mail, Kalender und eventuell sogar zu Zahlungsmitteln. Und die Firmen bekommen, was sie bisher nicht hatten: den Schlüssel zum Alltag.

Ich habe dem Agenten fünf Tage lang meinen Alltag anvertraut – ihm fast meinen ganzen Schlüsselbund übergeben. Fünf Dinge, die er erledigt hat, und einige, die er bisher nicht kann.

Er feilscht und kauft für mich ein

Nicht nur Schuhe hat der KI-Agent ersteigert. Er kauft auch beim Online-Händler für mich ein: etwa das Regeneriersalz für die Enthärtungsanlage oder das Etui für die Tochter. Weil er Zugriff auf mein Mail-Konto hat, sieht der Assistent, welche Produkte ich früher bestellt habe. Vor dem definitiven Bestellvorgang fragt er nochmals nach, falls ich das will.

Er verhandelt mit dem Kundendienst

«Mir gefällt das Hörbuch nicht, das ich gekauft habe», erzähle ich dem Assistenten. Er versucht, es online zurückzugeben, aber das funktioniert nicht. «Soll ich morgen während der Bürozeiten mit dem Kundendienst einen Online-Chat führen?», fragt mein Assistent. Am nächsten Tag fragt der Online-Shop: «Wie würden Sie unseren Kundendienst bewerten?»

Er kündigt Abos für mich

Ich habe zu viele Abos. Ich bitte meinen Assistenten, eines meiner Cloud-Abos zu überprüfen. Er empfiehlt mir, nicht ganz zu kündigen, da ich viele Daten in der Cloud habe. Aber er schliesst für mich ein günstigeres Abo ab. Zudem räumt er mein E‑Mail-Postfach radikal auf: Ganze 70 Newsletter hat er für mich abbestellt.

Er verwaltet meine Termine

«Vergiss nicht, dass dein Sohn heute früher in den Kindergarten muss», schreibt mir der Assistent auf Whatsapp. Auch die Infos und Termine vom Schwimmclub meiner Tochter hat er im Blick. Einmal in der Woche stellt er meine offenen Rechnungen zusammen – mitsamt QR-Codes.

Er ist mein neues Gedächtnis

Wenn ich etwas nicht vergessen will, sage ich es einfach meinem KI-Assistenten. Er spielt dann den nörgelnden Partner. Natürlich, andere Dienste können das auch. Aber mein KI-Assistent braucht von mir keine Liste und genauen Angaben. Und wenn neue Termine und Infos per Mail hereinkommen, dann weiss mein Assistent, dass er mich auf dem Laufenden halten muss.

Mein KI-Assistent macht mir Angst

Es gibt sehr vieles, das nicht oder noch nicht funktioniert. Mein KI-Assistent kann noch keine Anrufe für mich erledigen. In den USA wird dieser Dienst bereits angeboten. Und mein KI-Assistent weiss nur, was ich ihm sage oder er aus meinen privaten Mails schliessen kann. Er hat keinen Zugriff auf mein Geschäftsmail, mein Smartphone und meine Computer-Files. Auch meine Kreditkartennummer kennt er nicht. Deshalb kann er viele Aufgaben nicht erledigen.

«Im Grundsatz geht es darum, der KI mehr Autonomie zu geben», sagt SRF-Digitalredaktor Guido Berger. Denn KI könne die Produktivität nur erhöhen, wenn man Aufgaben an sie delegieren könne.

SRF-Digitalredaktor Guido Berger erklärt die Technologie. Einen KI-Agenten würde er nicht an sein Postfach lassen.

SRF News: Ist die Angst berechtigt, einem Agenten Mail und Passwörter zu geben?

Guido Berger: Absolut, die E‑Mail-Adresse ist eine Sollbruchstelle. Jeder Account, den ich im Internet erstelle, hängt an dieser Adresse. Wer Zugang dazu hat, kann meine Accounts übernehmen und Passwörter ändern. Das ist ein sehr tiefer Eingriff in die Sicherheit meines digitalen Lebens.

Die Anbieter werden Vorkehrungen getroffen haben.

Ich kenne noch keinen dieser Agenten, der nicht bereits Sicherheitsprobleme hat. Bei Muse von Meta verging keine Woche, da wurde die erste grössere Lücke bekannt. Agenten nehmen jede Art von Input – Texte, Websites, PDFs. Das ist neu. Und darum unendlich viel schwieriger zu entscheiden, welcher Input böswillig ist.

Sie haben dafür ein Bild.

Ich vergleiche das mit einem Hund, den man trainiert, um beim Grossverteiler ein Gipfeli zu holen. Ich gebe dem Hund eine Zehnernote in die Schnauze und er geht selbstständig los. Auf dem Weg werden diverse Grossverteiler versuchen, den Hund zu sich zu locken. Und einige Personen werden versuchen, dem Hund den Geldschein abzunehmen und ihn ohne Gipfeli zurückzuschicken. Genau das wird mit den Agenten passieren.

Werden die Leute den KI-Agenten trotzdem nutzen?

Erfahrungsgemäss gewinnt Bequemlichkeit immer. Ob es wirklich bequem ist, ist für mich aber offen. Einer breiteren Bevölkerung würde ich abraten: Die Chance, dass falsche Dinge auf die Kreditkarte gebucht oder Mails gelöscht werden, ist real. Und ob ein Kauf durch einen Agenten überhaupt ein gültiger Kaufvertrag ist, wissen wir schlicht noch nicht.

Ob ich nach dieser Testwoche meinen KI-Assistenten behalte? Die Verlockung ist gross, denn wer wünscht sich keinen fleissigen Assistenten. Doch der Gedanke, dass ein KI-Assistent weiterhin alle meine Mails durchforsten kann und in meinem Namen einkauft und kommuniziert, macht mir Angst. Vielleicht werde ich meinen Assistenten darum bitten, sich selbst zu löschen.