​⚖️ KI-Haftung: Wie Sie die Qualität Ihrer KI-Systeme nachweisen

​Bis zum 9. Dezember 2026 muss Deutschland die EU-Produkthaftungsrichtlinie (EU) 2024/2853 umsetzen. Sie zählt Software und KI-Systeme ausdrücklich zu den Produkten. Wer ein KI-System in Verkehr bringt, kann künftig verschuldensunabhängig für Schäden durch Produktfehler haften. Dabei spielen auch Updates, Cybersicherheit und die Frage eine Rolle, wie zuverlässig ein System getestet wurde.

​Was bedeutet das konkret für Unternehmen, die KI-Assistenten und KI-Agenten entwickeln oder einsetzen? Entscheidend wird, ob sich die Qualitätssicherung nachvollziehbar belegen lässt: von den definierten Anforderungen über die Tests vor dem Release bis zur Überwachung im laufenden Betrieb.

​🔎 Der Selbstcheck:

• ​Können Sie nachweisen, wie Ihr KI-Assistent vor dem Release getestet wurde – und mit welchem Ergebnis?

• ​Ist dokumentiert, welches Verhalten von Ihrem System erwartet wird und wer diese Anforderungen festgelegt hat?

• ​Würden Sie erkennen, wenn sich Ihr System nach einem Modell- oder Prompt-Update anders verhält als vorgesehen?

​Die neue Richtlinie sieht zudem Beweiserleichterungen vor. Gerichte können unter bestimmten Voraussetzungen die Offenlegung von Beweismitteln anordnen. Bei technisch komplexen Fällen können zudem Fehler und Ursächlichkeit vermutet werden. Eine nachvollziehbare Test- und Qualitätsdokumentation gewinnt damit zusätzlich an Bedeutung.

​🎙️ Was Sie erwartet

​Dr. Daniel Meßmer von SKW Schwarz erläutert, was die neuen Haftungsregeln für Anbieter und Betreiber von KI-Systemen bedeuten und welche Dokumentation im Haftungsfall relevant werden kann.

​Dr. Nicolai Bohn von Rhesis AI zeigt anschließend anhand eines beispielhaften KI-Agenten, wie sich belastbare Nachweise bereits in der Entwicklung schaffen lassen: Aus einer Anforderung wird ein Testfall, aus dem Testlauf ein nachvollziehbares Protokoll. Im produktiven Einsatz werden reale Nutzerinteraktionen anhand derselben Kriterien überwacht, mit denen es zuvor in simulierten Gesprächen / Interaktionen getestet wurde.

​💬 Im Anschluss nehmen wir uns 15 Minuten Zeit für Ihre Fragen.

​👥 Für wen ist das Event?

​Für Legal- und Compliance-Teams, Produktverantwortliche und KI-Entwickler in Unternehmen, die LLM-basierte Assistenten und KI-Agenten entwickeln oder im Kundenkontakt einsetzen möchten.

​🎤 Speaker

​Dr. Daniel Meßmer
Partner und Head of IT & Digital Business bei SKW Schwarz in München. Als Fachanwalt für IT-Recht berät er Konzerne, mittelständische Unternehmen und Start-ups zu IT-Verträgen, Open-Source-Lizenzen und regulatorischen Anforderungen, unter anderem zum AI Act, Data Act, zu NIS2 und zum Cyber Resilience Act.

​Dr. Nicolai Bohn
Co-Founder und CEO von Rhesis AI. Rhesis entwickelt eine Open-Source-Plattform, mit der Fach-, Legal- und Entwicklungsteams KI-Anwendungen gemeinsam testen und Testergebnisse nachvollziehbar dokumentieren können.