Nachrichten-Leak: Wachstum scheint bei Proton aktuell wichtiger als Sicherheit

Geleakte Slack-Nachrichten aus der internen Kommunikation bei Proton legen nahe, dass Sicherheit in dem Unternehmen aktuell nicht besonders großgeschrieben wird. Die Nachrichten lesen sich so, als ob dem CEO Andy Yen ein exzessiver KI-Einsatz beim Programmieren, um als Firma möglichst schnell zu wachsen, wichtiger wäre als die Sicherheit der Anwendungen. Mitarbeiter, die Bedenken äußern, werden von ihm angeblich hart persönlich angegangen.

Proton, ein Anbieter für datensichere, private Mailkonten, Cloudspeicher, Kalender, Passwortmanager, Authenticator-App und einiges mehr, galt in der Datenschutz-Community bisher als großer Hoffnungsträger. Durch ein immer umfangreicheres Angebot an Diensten wurde der Anbieter langsam zu einer sehr anwenderfreundlichen Alternative zu Google, Microsoft & Co. In einer Welt, in der man für die Kontrolle über seine eigenen Daten in der Regel eine Extrameile gehen muss, eine hoffnungsvolle Abwechslung. Doch die tollste Verschlüsselung und beste Datenpolitik helfen einem nichts, wenn die Anwendungen von kriminellen (oder interessierten geheimdienstlichen) Dritten geknackt und ausgelesen werden können – ein in Zeiten von zunehmenden KI-Angriffen wachsendes Risiko. Cybersicherheit müsste also auch an oberster Stelle stehen bei Proton – würde man zumindest denken.

Die Ergebnisse einer Recherche von 404 Media, in deren Rahmen das Medium mit acht aktuellen und einem ehemaligen Mitarbeiter bei Proton sprach und interne Slacknachrichten und Meeting-Mitschnitte auswertete, zeichnen ein anderes Bild. Ein Mitarbeiter warb zum Beispiel wohl im Security-Slack-Kanal des Unternehmens dafür, dass man den Code wenigstens ein paar Tage auf Sicherheit testen solle, bevor man ihn live schalte. Andy Yen antwortet wohl: „Das ist Quatsch und die Denkweise von Versagern. Natürlich kann man schnell und sicher sein.“

Ein anderer Mitarbeiter drängte wohl daraufhin Yen dazu, konkret zu sagen, wie sichergestellt werden könne, dass KI-generierter Code frei von Sicherheitsproblemen sei. „KI wird unsere Probleme nicht auf magische Weise lösen, denn Sicherheit hat bei uns derzeit eine niedrige Priorität“, so der Mitarbeiter. Yen habe darauf nicht direkt geantwortet, sondern einen anderen Mitarbeiter beleidigt. Er „erzählt wieder seinen üblichen Quatsch, dass wir es zwar schaffen können, aber noch langsamer sein werden als heute, und ich sage, nur Verlierer denken so“, schrieb Yen. Die Mitarbeiter sollten einfach besser prompten. „Ihr habt die Modelle und die Zeit – jeder Entwickler sollte das tun und seinen Code überprüfen, was sie früher manuell gemacht haben, aber jetzt können sie es mit KI schneller erledigen“, fügte Yen hinzu.

Mehr KI, KI, KI für mehr Wachstum, Wachstum, Wachstum

Auch das findet man immer wieder in den geleakten Nachrichten. Proton solle wachsen – damit das klappt, soll es effizienter werden – und damit das klappt, sollen die Mitarbeiter intensiv KI nutzen. Neunzig Prozent des Codes bei Proton wurden im Oktober wohl von KI geschrieben, so ist es auf einer Audioaufnahme einer Besprechung zu hören, die 404 Media vorliegen hat. Eine offizielle Äußerung im KI-Manifest, das ebenfalls von CTO Butler stammt und kurz nach dem Bericht von 404 Media erschien, bestätigt die Richtung. „Hier geht es nicht darum, [KI-]Trends hinterherzulaufen – wir bleiben hier zurück, und das stellt eine existenzielle Bedrohung für den Erfolg der Mission selbst dar.“ Das Thema Sicherheit wird übrigens in dem Manifest nur einmal erwähnt – und zwar, dass man in dieses Thema im Memo nicht tiefer einsteigen wolle.

Auch interne Nachrichten lesen sich sehr fatalistisch. „Der Zug kommt, steig ein oder du wirst überrollt. Seid keine professionellen Faxgeräte-Bediener im Internetzeitalter“, schrieb Andy Yen im Slack-Kanal für Sicherheit. „Ich glaube, bis Ende dieses Jahres werden die meisten Entwickler aufhören zu programmieren und stattdessen Spezifikationen für Tests schreiben, die von der KI programmiert und ausgeführt werden, um von der KI geschriebenen Code zu validieren, den Menschen nicht mehr überprüfen können. Dies wird das letzte Jahr sein, in dem wir Ingenieure einstellen, und ab nächstem Jahr stellen wir das ein, was wir früher Produktmanager nannten, um Dinge mit KI zu entwickeln“, so der CEO.

Erst letzte Woche machte eine Meldung die Runde, dass einige Proton-Mitarbeiter Anfang November erneut in ein Bewerbungsgespräch sollten. Darin soll es wohl darum gehen, ob der oder die Mitarbeiterin fit und willens genug sei, um bei der neuen KI-Linie des Unternehmens mitzumachen.

Bei Proton, wo der Einsatz von KI anfangs gänzlich verboten war, ist er mittlerweile für eine ganze Reihe von Anwendungen erlaubt. Darunter sind wohl auch die Verarbeitung von Finanzdaten oder das Verfassen von Antworten für Kunden auf Reddit und LinkedIn. Zusätzlich sei eine interne Mailadresse speziell dafür eingerichtet worden, zu melden, wo eine Struktur der Nutzung von KI im Wege stehe.

Rauer Tonfall innerhalb der Firma

Auch allgemein scheint der Tonfall von Andy Yen innerhalb von Proton rau zu sein. Als Proton vor einem halben Jahr zum Beispiel ankündigte, dass es nun auch eine quantensichere Verschlüsselung gebe, gab das Presseteam den Nutzern mit auf den Weg: Ältere Nachrichten wurden noch nicht neu verschlüsselt, werden aber im Rahmen einer späteren Migration verschlüsselt.

Daraufhin habe Yen in einem firmenweiten Slack-Kanal geschrieben: „Bringt das in Ordnung.“ Als die Mitarbeiter Yen die Feinheiten der Verschlüsselung erklärten und warum dies nicht sofort möglich sei, schrieb Yen: „[.] Jetzt haben wir zwei beschissene Optionen. Entweder wir stellen wichtigere Aufgaben für das Unternehmen zurück, um alte E-Mails neu zu verschlüsseln, oder wir werden online ständig angegriffen, weil wir es nicht tun. Vielleicht könnt ihr mir ja erklären, für welche der beiden beschissenen Optionen wir uns entscheiden werden.“ Und weiter: „Für die Zukunft gibt es zwei Möglichkeiten. Entweder seid ihr euch sicher genug, das nicht zu vermasseln, oder ihr befolgt meinen Rat, um sicherzustellen, dass es nicht vermasselt wird“, fügte er hinzu. „[.] Die Wahrnehmung ist wichtiger als die Wahrheit; die Wahrheit spielt keine Rolle, wenn man bei der Wahrnehmung nicht gewinnt.“

Ein Mitarbeiter kommentierte das Ganze gegenüber 404 Media: „Egal, welche Fassade Andy [Yen] außerhalb von Proton aufrechterhält – im Inneren ist er ein regelrechter Tyrann. In Slack lässt er regelmäßig seine kleine Fassade fallen und bezeichnet Leute als Versager und Dummköpfe, oft wegen Dingen, für die er sie bezahlt.“

Für einen Fokus auf Sicherheit, so lesen sich die Chatnachrichten, scheint Yen sie aktuell nicht zu bezahlen. Ob den Kunden von Proton das gefallen wird?