heise-Angebot: iX-Workshop: KI-Anwendungen angreifen, Schwachstellen finden und gezielt härten

Generative KI eröffnet neue Angriffsflächen: Prompt Injection, manipulierte RAG-Inhalte und zu weitreichende Berechtigungen von KI-Agenten können sensible Daten gefährden oder unerwünschte Aktionen auslösen. Wer KI-Anwendungen entwickelt, sollte diese Risiken bereits beim Design berücksichtigen.

Im Workshop KI-Anwendungen sicher entwickeln: Hands-on gegen Prompt Injection, RAG-Angriffe und Agentenrisiken lernen Sie anhand eines bewusst verwundbaren Bank-Chatbots, wie solche Angriffe funktionieren und wie Sie die Schwachstellen anschließend gezielt schließen. Sie erstellen ein Threat Model, testen Prompt Injection und manipulierte RAG-Inhalte, untersuchen die Berechtigungen von KI-Agenten und setzen passende Schutzmaßnahmen um.

Angreifen, analysieren, härten

Der Workshop ist konsequent praxisorientiert: Sie greifen den Bank-Chatbot an, analysieren die Auswirkungen und härten ihn Schritt für Schritt. Dabei lernen Sie, wie Sie Least Privilege, kontrollierte Tool-Aufrufe, Input- und Output-Validierung, Guardrails und Human-in-the-Loop sinnvoll kombinieren.

Rund 70 Prozent der Zeit entfallen auf Übungen, Live-Angriffe und Härtungsaufgaben in einer vorbereiteten Browserumgebung. In einer abschließenden Red-Team-/Blue-Team-Challenge prüfen Sie, ob Ihre Schutzmaßnahmen auch einem erneuten Angriff standhalten.

So nehmen Sie nicht nur eine gehärtete Referenzlösung mit, sondern auch ein eigenes Threat Model, wiederverwendbare Security-Testfälle und eine Checkliste für die Absicherung Ihrer eigenen LLM-, RAG- und Agentenanwendungen.

Anmeldung und Termine
Oktober 26.10. – 28.10.2026	Online-Workshop, 09:00 – 17:00 Uhr 10 % Frühbucher-Rabatt bis zum 28. Sept. 2026

Von Erfahrungen aus der Praxis lernen

Sie profitieren von der direkten Anleitung durch Ihren Trainer Gregor Biswanger, führender Experte für generative KI, Microsoft MVP für Azure AI und Web-App-Development. Er arbeitet eng mit dem Microsoft-Produktteam rund um GitHub Copilot zusammen und begleitet Unternehmen bei der Entwicklung und Einführung moderner KI-Lösungen. Im Workshop teilt er seine Erfahrungen aus realen Projekten und zeigt, wie sich RAG-Architekturen effizient und produktionsreif umsetzen lassen.

In einer kleinen Gruppe tauschen Sie sich mit anderen Teilnehmenden aus der Praxis aus. Bringen Sie Ihre eigenen Fragen und Erfahrungen mit und profitieren Sie davon, gemeinsam konkrete Herausforderungen und Lösungswege zu diskutieren. So bleibt das Gelernte nicht abstrakt, sondern lässt sich direkt auf Ihre Arbeit übertragen.

Für wen ist dieser Workshop geeignet?

Der Workshop richtet sich an Softwareentwickler, Softwarearchitekten, AI Engineers, DevSecOps- und Security-Engineers sowie technische Leads, die LLMs, RAG-Systeme, Copilots oder KI-Agenten entwickeln, integrieren oder produktiv betreiben.