V&V, Usability & Transparenz von KI-Systemen
Künstliche Intelligenz (KI) findet zunehmend Anwendung in Medizinprodukten, In-vitro-Diagnostika und digitalen Gesundheitslösungen. Damit steigen die regulatorischen Anforderungen an Nachweisführung, Transparenz, Gebrauchstauglichkeit sowie an eine systematische Verifizierung und Validierung (V&V). Insbesondere nicht-deterministische KI-Systeme stellen Hersteller vor neue methodische und organisatorische Herausforderungen. Das Seminar vermittelt praxisnah, wie KI-Systeme regulatorisch konform verifiziert und validiert, nachvollziehbar dokumentiert und nutzerzentriert gestaltet werden können. Die Teilnehmenden lernen bewährte Ansätze für V&V, Dokumentation, Usability Engineering und Explainable AI kennen und erfahren, wie diese Anforderungen konsistent in Design Control, Qualitätsmanagementsystemen und technische Dokumentationen integriert werden.
Verifizierung & Validierung von KI:
- Unterscheidung zwischen Verifizierung und Validierung gilt auch für KI
- Herausforderungen bei V&V von nicht-deterministischen Systemen
- Ansätze: Simulation, Real-World Data, Benchmarks, Explorative Tests
- Integration in Design Control & Software Lifecycle Processes
Dokumentation & Nachweispflichten:
- AI-Act & MDR: Was muss dokumentiert werden – und wie?
- Anforderungen an die Technische Dokumentation, Aufzeichnungspflichten und Transparenz
- AI Model Cards – Was ist das und wozu dient es?
Usability & Human Factors Engineering:
- Zusätzliche Herausforderungen an das Usability Engineering in der Interaktion mit KI
- IEC 62366-1, MDR- und FDA-Anforderungen zur Usability von KI-Systemen
- Variabilität, Over-/Undertrust, Intransparenz und kognitive Belastung
- Designprinzipien für vertrauenswürdige KI-Interfaces
Transparenz & Explainable AI (XAI):
- Anforderungen aus Art. 13 AI-Act: Angaben für angemessene Interpretation und Verwendung
- Techniken für Explainability: Feature-Importance-Methoden, Saliency Maps, Counterfactuals
- Kommunikation in der Anwendungspraxis: „Wie erkläre ich eine KI-Entscheidung und wie erzeuge ich Vertrauen in die KI-Entscheidungen?“
Hersteller von Medizinprodukten und IVD mit KI-Bezug, Fach- und Führungskräfte aus Entwicklung, Regulatory & Clinical Affairs, Qualitätsmanagement, Software-, System- und KI-Entwickler in regulierten Umgebungen, Product Owner, UX-/Usability-Experten und Innovationsmanager.
Grundkenntnisse zu Medizinprodukteregulierung (z.B. MDR, IVDR), Qualitätsmanagementsystemen (EN ISO 13485, FDA 21 CFR 820), zu Software-Lebenszyklusprozessen (EN 82304-1, EN 62304) sowie zu KI-basierten Systemen sind von Vorteil.
Eine ESF-Förderung ist möglich. Nähere Informationen können hier eingesehen werden.
Bei einer Anmeldung bis zu 3 Wochen vor Seminarbeginn erhalten Sie einen Frühbucherrabatt von 10 Prozent.
V&V, Usability & Transparenz von KI-Systemen
10.12.2026
Online
09:00 – 17:00