heise-Angebot: iX-Workshop: Schutz vor Prompt Injection – KI-Software sicher entwickeln

Generative KI macht Software interaktiver und vielseitiger, bringt aber auch neue Sicherheitsrisiken mit sich. Prompt Injection, manipulierte Dokumente, RAG-Angriffe oder unerlaubte Toolaufrufe können KI-Anwendungen dazu bringen, Sicherheitsregeln zu umgehen oder vertrauliche Informationen preiszugeben. Deshalb sollte Sicherheit bereits bei der Entwicklung mitgedacht werden.

Im iX-Workshop KI-Anwendungen sicher entwickeln: Hands-on gegen Prompt Injection, RAG-Angriffe und Agentenrisiken gehen Sie den typischen Angriffen selbst auf den Grund. In einer browserbasierten Übungsumgebung nehmen Sie zunächst einen verwundbaren Chatbot unter die Lupe: Sie umgehen Sicherheitsregeln per Prompt Injection, entlocken ihm vertrauliche Informationen, schleusen manipulierte Dokumente ein und lösen unerlaubte Toolaufrufe aus.

Angriffe verstehen, Schutzmaßnahmen entwickeln

Aus den praktischen Angriffen leiten Sie ab, wo die Risiken Ihrer eigenen KI-Anwendungen liegen. Sie bewerten und priorisieren Bedrohungen, überprüfen Sicherheitsannahmen und erstellen ein kompaktes Threat Model.

Anschließend härten Sie den Chatbot gegen die zuvor durchgespielten Angriffe und entwickeln Schutzmaßnahmen, die sich auch auf eigene Projekte übertragen lassen. Zum Abschluss prüfen Sie, ob die Maßnahmen tatsächlich greifen, und erarbeiten daraus eine praxisnahe Checkliste für die Sicherheitsbewertung eigener KI-Anwendungen.

Anmeldung und Termine
Oktober 26.10. – 28.10.2026	Online-Workshop, 09:00 – 17:00 Uhr 10 % Frühbucher-Rabatt bis zum 25. Sep. 2026

Lernen von den Erfahrungen des Experten

Durch die Inhalte des Workshops führt Ihr Trainer Gregor Biswanger. Als freiberuflicher Berater für generative KI unterstützt der Experte für Softwareentwicklung und -architektur Unternehmen bei der Konzeption und Entwicklung von KI-Anwendungen.

Im Workshop gibt er seine Praxiserfahrungen weiter und zeigt mit Live-Angriffen auf einen Chatbot, welche Schutzmaßnahmen produktive KI-Software wirklich braucht. Die kleine Gruppe von maximal 16 Personen bietet Raum für individuelle Fragen, fachlichen Austausch und die Diskussion eigener Anwendungsfälle, sodass Sie konkrete Impulse für Ihre tägliche Arbeit mitnehmen.

Für wen ist dieser Workshop geeignet?

Der Workshop richtet sich an erfahrene Softwareentwickler und -architekten, AI- und DecSecOps-Engineers sowie technische Führungskräfte, die Sprachmodelle, RAG-Systeme oder KI-Agenten entwickeln, integrieren oder produktiv betreiben.