AI Security: Sichere KI-Systeme im Unternehmen

Der Kurs vermittelt praxisnahes Handwerkszeug für den sicheren Einsatz generativer KI im Unternehmensumfeld mit konkreten Beispielszenarien aus realen KI-Architekturen.

Nach dem Seminar können Sie:

• typische Sicherheitsrisiken generativer KI-Anwendungen realistisch einordnen
• Angriffsvektoren wie Prompt Injection, Datenabfluss, Jailbreaks und unsichere Tool-Nutzung erkennen und bewerten
• Schutzmaßnahmen für LLM-, Copilot-, RAG- und Agent-Systeme technisch und organisatorisch planen
• Guardrails, Berechtigungskonzepte und Schutzmaßnahmen für produktive AI-Anwendungen umsetzen
• Risiken durch Halluzinationen, Bias und fehlende Nachvollziehbarkeit minimieren
• Security- und Governance-Anforderungen für AI-Projekte dokumentieren
• produktive KI-Systeme hinsichtlich Sicherheit, Betrieb und Governance fundiert bewerten

Grundlagen & Bedrohungslage

• Sicherheitsrisiken generativer KI-Systeme im Unternehmenseinsatz
• Typische Schwachstellen moderner AI-Architekturen
• Bedrohungsmodell für produktive KI-Anwendungen

Angriffe auf KI-Systeme

• Prompt Injection und Jailbreak-Techniken
• Datenabfluss über Prompts, Kontextfenster und Retrieval
• Unsichere Tool- und Plugin-Nutzung

Sichere AI-Architekturen

• Schutz sensibler Daten und Zugriffskonzepte
• Mandantentrennung und Berechtigungsmodelle
• Sichere Nutzung von RAG-Systemen
• Retrieval-Filter und Quellenkontrolle
• Guardrails für Eingaben, Ausgaben und Systemprompts

Betrieb & organisatorische Sicherheit

• Rollen, Verantwortlichkeiten und Freigabeprozesse
• Monitoring, Logging und Nachvollziehbarkeit
• Umgang mit Halluzinationen und fehlerhaften Ergebnissen
• Sicherheitsbewertung produktiver KI-Anwendungen
• AI Governance in Unternehmensumgebungen

Praxisübungen

• Analyse typischer Angriffsszenarien
• Sicherheitsreview einer AI-Anwendung
• Entwicklung eines Schutz- und Guardrail-Konzepts
• Bewertung von Risiken in produktiven AI-Systemen