KI-Recht in Deutschland und Europa

Die Regelungen und Anforderungen des KI-Rechts in Europa und Deutschland entwickeln sich rasch weiter. Vor allem auf europäischer Ebene sind verschiedene Regulierungsinitiativen in Arbeit, um sicherzustellen, dass künstliche Intelligenz (KI) ethisch, sicher und im Einklang mit dem Datenschutz eingesetzt wird.

KI-Regulierung und Rechtberatung

Die Themenfelder der Rechtsberatung zu KI werden voraussichtlich weiterhin wachsen, insbesondere wenn neben dem EU AI Act  weitere spezifische Gesetze in Kraft treten. Unternehmen benötigen deshalb eine umfassende Rechtsberatung, die alle Aspekte der Nutzung und des Einsatzes von KI abdeckt, um rechtssicher, ethisch und zukunftssicher agieren zu können.

1. Wichtige Regelungen des KI-Rechts in Europa

• AI Act der EU: Der "Artificial Intelligence Act" ist die zentrale geplante EU-Verordnung für KI. Er reguliert die Nutzung von KI nach einem risikobasierten Ansatz Die Klassifizierung erfolgt in vier Risikokategorien:
• Verbotene KI: Systeme, die gegen grundlegende Rechte verstoßen oder riskante Praktiken wie Ãœberwachungsmaßnahmen und subliminale Beeinflussung nutzen, sind verboten.
• Hochrisiko-KI: Diese umfasst Bereiche wie kritische Infrastrukturen, Bildung, Strafverfolgung und bestimmte Arbeitsplatzentscheidungen. Hier gelten hohe Anforderungen an die Sicherheit, Transparenz, Verantwortlichkeit und Prüfung.
• Begrenztes Risiko: Systeme, die gewisse Transparenzanforderungen erfüllen müssen, wie etwa Chatbots, die sich als solche zu erkennen geben müssen.
• Minimales Risiko: Die meisten KI-Systeme fallen in diese Kategorie und unterliegen keiner spezifischen Regulierungsanforderung.
• Ethik-Leitlinien der EU für vertrauenswürdige KI: Diese Leitlinien definieren Grundprinzipien für die Entwicklung vertrauenswürdiger KI. Die wesentlichen Prinzipien sind Transparenz, Fairness, Nachvollziehbarkeit und menschliche Aufsicht.
• DSGVO (Datenschutz-Grundverordnung): Die DSGVO reguliert auch den Einsatz von KI-Systemen, die personenbezogene Daten verarbeiten. Wichtige Aspekte sind die Rechenschaftspflicht, Einwilligungserfordernisse und das Recht auf Erklärbarkeit von KI-Entscheidungen.
• Verordnung über digitale Dienste (Digital Services Act, DSA) und Verordnung über digitale Märkte (Digital Markets Act, DMA): Beide Verordnungen ergänzen die Regelungen des KI-Rechts, indem sie unter anderem Transparenzanforderungen und Anti-Tracking-Vorgaben für große Plattformen festlegen.

2. Gesetzliche Regelungen und Entwicklungen in Deutschland

• Bundesdatenschutzgesetz (BDSG): Das BDSG ergänzt die DSGVO in Deutschland. Es spielt eine Rolle beim Einsatz von KI, insbesondere wenn es um automatisierte Entscheidungen und die Verarbeitung personenbezogener Daten geht.
• Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG): Dieses Gesetz stellt besondere Anforderungen an den Schutz der Privatsphäre, die auch bei KI-Systemen für personalisierte Werbung oder automatisierte Benutzererkennung relevant sind.
• Produkthaftungsgesetz (ProdHaftG) und EU-Produkthaftungsrichtlinie**: Diese Gesetze regeln die Produkthaftung für KI-Systeme, die als Produkte gelten und bei Fehlfunktionen oder Schäden haftbar gemacht werden können. Die EU plant eine Reform, um auch Software und KI in die Produkthaftung explizit einzubeziehen.
• Arbeitsrecht und KI: Hier entstehen rechtliche Herausforderungen durch den Einsatz von KI für Personalentscheidungen. So gibt es datenschutzrechtliche Auflagen für die Analyse und Speicherung von Mitarbeiterdaten, wie in der DSGVO und dem Betriebsverfassungsgesetz (BetrVG) vorgesehen.

4. Rechtsberatung und Themen der anwaltlichen Beratung zu KI

Rechtsanwälte bieten eine breite Palette an Beratungsdiensten im Zusammenhang mit KI, wobei die folgenden Themenfelder eine zentrale Rolle spielen:

• Risikomanagement und Compliance-Beratung: Unterstützung bei der Einhaltung der DSGVO, des AI Act und weiterer nationaler sowie EU-Vorgaben.
• Vertragsgestaltung: Erstellung und Prüfung von Entwicklungs-, Nutzungs- und Lizenzverträgen für KI-Systeme unter Berücksichtigung von Haftungsregelungen, Datenschutz und geistigem Eigentum.
• Produkthaftung und Sicherheitsprüfung: Beratung zur Haftung bei Schäden durch KI-Systeme, insbesondere in Bezug auf Hochrisiko-KI und automatisierte Systeme. Hierbei spielen das Produkthaftungsgesetz und die geplante Produkthaftungsreform auf EU-Ebene eine wichtige Rolle.
• Datenschutzberatung: Beratung zur Konformität mit der DSGVO, insbesondere bei personenbezogenen Datenverarbeitungen durch KI und der Erfüllung von Transparenz- und Auskunftspflichten.
• Urheberrecht und geistiges Eigentum: Fragen zur rechtlichen Bewertung von durch KI erzeugten Inhalten, Urheberrechten an KI-generierten Inhalten und Markenrecht.
• Ethische und gesellschaftliche Verantwortung (Corporate Social Responsibility, CSR): Unterstützung bei der Einhaltung ethischer Standards und CSR-Richtlinien, um sicherzustellen, dass der KI-Einsatz mit Unternehmenswerten und den Erwartungen der Stakeholder im Einklang steht.
• Litigation und Haftungsfragen: Vertretung in Fällen, in denen KI-Fehlentscheidungen oder -Fehlfunktionen zu rechtlichen Streitigkeiten führen.

5. Zukünftige Herausforderungen und Entwicklungen

• Einsatz von Hochrisiko-KI: Unternehmen, die Hochrisiko-KI einsetzen, benötigen eine umfassende Beratung, um sich auf Prüfungs- und Berichtspflichten des AI Act vorzubereiten.
• Automatisierte Entscheidungsprozesse: KI-basierte automatisierte Entscheidungen, insbesondere im öffentlichen Bereich und im Arbeitsrecht, werden rechtliche Klarheit erfordern. Die Beratung wird darauf abzielen, faire und transparente Prozesse zu etablieren, die nicht diskriminierend wirken.
• Absicherung gegen Algorithmus-bedingte Diskriminierung: Mit zunehmenden Regularien werden Unternehmen Beratungen zu Maßnahmen brauchen, um potenziell diskriminierende Algorithmen anzupassen und rechtliche Anforderungen zu erfüllen.
• Ethik und gesellschaftliche Akzeptanz: Im Zuge der Digitalisierung bieten Anwälte zunehmend Beratung zur ethischen Implementierung von KI und zur Balance zwischen technologischen Innovationen und gesellschaftlichen Erwartungen an.