KI-Recht in Deutschland und Europa

Die Regelungen und Anforderungen des KI-Rechts in Europa und Deutschland entwickeln sich rasch weiter. Mit der KI-Verordnung (EU) 2024/1689 hat die EU den weltweit ersten umfassenden Rechtsrahmen geschaffen, um sicherzustellen, dass künstliche Intelligenz (KI) ethisch, sicher und im Einklang mit dem Datenschutz eingesetzt wird.

KI-Regulierung und Rechtsberatung

Die Themenfelder der Rechtsberatung zu KI werden voraussichtlich weiterhin wachsen, insbesondere wenn neben dem EU AI Act weitere spezifische Gesetze in Kraft treten. Unternehmen benötigen deshalb eine umfassende Rechtsberatung, die alle Aspekte der Nutzung und des Einsatzes von KI abdeckt, um rechtssicher, ethisch und zukunftssicher agieren zu können.

1. Wichtige Regelungen des KI-Rechts in Europa

• AI Act der EU: Die KI-Verordnung (EU) 2024/1689 („AI Act“) ist am 1. August 2024 in Kraft getreten und wird schrittweise anwendbar (Verbote seit 2. Februar 2025, Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit 2. August 2025, die meisten übrigen Pflichten ab 2. August 2026). Sie reguliert KI nach einem risikobasierten Ansatz mit vier Risikokategorien:
  • Verbotene KI: Systeme, die gegen grundlegende Rechte verstoßen oder riskante Praktiken nutzen – etwa Social Scoring, unterschwellige Manipulation, Emotionserkennung am Arbeitsplatz oder biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken (mit engen Ausnahmen) –, sind verboten.
  • Hochrisiko-KI: Diese umfasst Bereiche wie kritische Infrastrukturen, Bildung, Strafverfolgung und bestimmte Arbeitsplatzentscheidungen. Hier gelten hohe Anforderungen an die Sicherheit, Transparenz, Verantwortlichkeit und Prüfung.
  • Begrenztes Risiko: Systeme, die gewisse Transparenzanforderungen erfüllen müssen, wie etwa Chatbots, die sich als solche zu erkennen geben müssen.
  • Minimales Risiko: Die meisten KI-Systeme fallen in diese Kategorie und unterliegen keinen spezifischen Anforderungen; alle Anbieter und Betreiber müssen aber für ausreichende KI-Kompetenz ihres Personals sorgen (Art. 4).
• Ethik-Leitlinien der EU für vertrauenswürdige KI: Diese Leitlinien definieren Grundprinzipien für die Entwicklung vertrauenswürdiger KI. Die wesentlichen Prinzipien sind Transparenz, Fairness, Nachvollziehbarkeit und menschliche Aufsicht.
• DSGVO (Datenschutz-Grundverordnung): Die DSGVO reguliert auch den Einsatz von KI-Systemen, die personenbezogene Daten verarbeiten. Wichtige Aspekte sind die Rechenschaftspflicht, Einwilligungserfordernisse und das Recht auf Erklärbarkeit von KI-Entscheidungen.
• Verordnung über digitale Dienste (Digital Services Act, DSA) und Verordnung über digitale Märkte (Digital Markets Act, DMA): Beide Verordnungen ergänzen die Regelungen des KI-Rechts, indem sie unter anderem Transparenzanforderungen und Anti-Tracking-Vorgaben für große Plattformen festlegen.

2. Gesetzliche Regelungen und Entwicklungen in Deutschland

• Bundesdatenschutzgesetz (BDSG): Das BDSG ergänzt die DSGVO in Deutschland. Es spielt eine Rolle beim Einsatz von KI, insbesondere wenn es um automatisierte Entscheidungen und die Verarbeitung personenbezogener Daten geht.
• Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG): Dieses Gesetz stellt besondere Anforderungen an den Schutz der Privatsphäre, die auch bei KI-Systemen für personalisierte Werbung oder automatisierte Benutzererkennung relevant sind.
• Produkthaftungsgesetz (ProdHaftG) und EU-Produkthaftungsrichtlinie: Diese Gesetze regeln die Produkthaftung für KI-Systeme, die als Produkte gelten und bei Fehlfunktionen oder Schäden haftbar gemacht werden können. Die neue Produkthaftungsrichtlinie (EU) 2024/2853 bezieht Software und KI-Systeme ausdrücklich ein und ist bis 9. Dezember 2026 in deutsches Recht umzusetzen.
• Arbeitsrecht und KI: Hier entstehen rechtliche Herausforderungen durch den Einsatz von KI für Personalentscheidungen. So gibt es datenschutzrechtliche Auflagen für die Analyse und Speicherung von Mitarbeiterdaten, wie in der DSGVO und dem Betriebsverfassungsgesetz (BetrVG) vorgesehen.

3. Rechtsberatung und Themen der anwaltlichen Beratung zu KI

Rechtsanwälte bieten eine breite Palette an Beratungsdiensten im Zusammenhang mit KI, wobei die folgenden Themenfelder eine zentrale Rolle spielen:

• Risikomanagement und Compliance-Beratung: Unterstützung bei der Einhaltung der DSGVO, des AI Act und weiterer nationaler sowie EU-Vorgaben.
• Vertragsgestaltung: Erstellung und Prüfung von Entwicklungs-, Nutzungs- und Lizenzverträgen für KI-Systeme unter Berücksichtigung von Haftungsregelungen, Datenschutz und geistigem Eigentum.
• Produkthaftung und Sicherheitsprüfung: Beratung zur Haftung bei Schäden durch KI-Systeme, insbesondere in Bezug auf Hochrisiko-KI und automatisierte Systeme. Hierbei spielen das Produkthaftungsgesetz und die neue EU-Produkthaftungsrichtlinie eine wichtige Rolle.
• Datenschutzberatung: Beratung zur Konformität mit der DSGVO, insbesondere bei personenbezogenen Datenverarbeitungen durch KI und der Erfüllung von Transparenz- und Auskunftspflichten.
• Urheberrecht und geistiges Eigentum: Fragen zur rechtlichen Bewertung von durch KI erzeugten Inhalten, Urheberrechten an KI-generierten Inhalten und Markenrecht.
• Ethische und gesellschaftliche Verantwortung (Corporate Social Responsibility, CSR): Unterstützung bei der Einhaltung ethischer Standards und CSR-Richtlinien, um sicherzustellen, dass der KI-Einsatz mit Unternehmenswerten und den Erwartungen der Stakeholder im Einklang steht.
• Litigation und Haftungsfragen: Vertretung in Fällen, in denen KI-Fehlentscheidungen oder -Fehlfunktionen zu rechtlichen Streitigkeiten führen.

4. Zukünftige Herausforderungen und Entwicklungen

• Einsatz von Hochrisiko-KI: Unternehmen, die Hochrisiko-KI einsetzen, benötigen eine umfassende Beratung, um sich auf Prüfungs- und Berichtspflichten des AI Act vorzubereiten.
• Automatisierte Entscheidungsprozesse: KI-basierte automatisierte Entscheidungen, insbesondere im öffentlichen Bereich und im Arbeitsrecht, werden rechtliche Klarheit erfordern. Die Beratung wird darauf abzielen, faire und transparente Prozesse zu etablieren, die nicht diskriminierend wirken.
• Absicherung gegen Algorithmus-bedingte Diskriminierung: Mit zunehmenden Regularien werden Unternehmen Beratungen zu Maßnahmen brauchen, um potenziell diskriminierende Algorithmen anzupassen und rechtliche Anforderungen zu erfüllen.
• Ethik und gesellschaftliche Akzeptanz: Im Zuge der Digitalisierung bieten Anwälte zunehmend Beratung zur ethischen Implementierung von KI und zur Balance zwischen technologischen Innovationen und gesellschaftlichen Erwartungen an.