KI-Grundlagenschulung nach Art. 4 der KI-Verordnung

Qualifikation des Referenten

• Rechtsanwalt in Berlin
• Partner in KMU-fokussierter Kanzlei
• TÜV-zertifizierter Compliance Officer
• Zertifizierte Fachkraft für Datenschutz
• Datenschutzbeauftragter in verschiedenen Unternehmen

Detaillierte Inhaltsübersicht

1. Einführung und Grundlagen 

• Begrüßung und Vorstellung des Referenten
• Anlass: Neue EU-Verordnung mit Schulungspflicht für Mitarbeiter
• Hintergrund: Weitere EU-Verordnung nach DSGVO-Muster

2. Herkunft und Rechtliche Grundlagen der KI-Verordnung 

• Inkrafttreten: 1. August 2024 in Deutschland
• Übergangsfristen: Einige Regeln erst nach zwei Jahren
• Risikobasierter Ansatz: Höheres Risiko = höhere Anforderungen
• Anwendungsbereiche: Medizinische Diagnostik, Bewerbungsmanagement, ChatGPT

3. Ziele und Gefahren der KI-Verordnung 

• Ziele: Sicherheit und Vertrauen stärken, Innovationen fördern
• Gefahren: Diskriminierung, Datenschutzverletzungen, Missbrauch
• Kontrolle: Sicherstellen, dass KI nicht "aus dem Ruder läuft"

4. Definition von KI nach der Verordnung 

• Gesetzliche Definition: Komplexer Schachtelsatz des Gesetzgebers
• Praktische Auslegung: Alles über einfache Google-Suche hinaus
• Beispiele: Analysen, Lernprozesse, Entwicklung neuer Prozesse

5. Unterscheidung KI-Technologie vs. KI-Systeme 

• KI-Technologie: Einzelbaustein wie ChatGPT
• KI-System: Vollständige Lösung mit eigener Benutzeroberfläche
• Anforderungen: Systeme haben deutlich höhere Anforderungen

6. Technische Grundlagen

• Lernprozess: KI lernt durch Training und Muster
• Datenqualität: Fehlerhafte Eingaben = fehlerhafte Ergebnisse
• Rechtliche Konsequenzen: Fehler können sich fortpflanzen

7. Rechtliche Schnittstellen

• Haftungsrecht: BGB, EU-Produkthaftung
• Urheberrecht: Schutz von Texten und Bildern
• Datenschutz: DSGVO bei personenbezogenen Daten
• Geschäftsgeheimnisse: Vertraulichkeitsvereinbarungen

8. Risikoklassifikation 

• Unzulässige KI-Systeme: Social Scoring, Überwachung (komplett verboten)
• Hochrisiko-KI: Medizin, Kreditvergabe, Bewerbungsauswahl
• Geringes Risiko: Chatbots, Empfehlungssysteme, ChatGPT
• Pyramiden-Modell: Von unannehmbarem Risiko bis freiwillige Selbstverpflichtung

9. Konkrete Verpflichtungen nach Risikoklassen 

Hochrisiko-KI:

• Konformitätsbewertung und Zertifizierung
• Umfassende technische Dokumentation
• Kontinuierliche Überwachung
• Risikomanagement
• Transparenz der Entscheidungslogik

Geringes Risiko:

• Transparenzanforderungen
• Grundlegende Dokumentation
• Erklärung der Funktionsweise

10. Konkrete Maßnahmen und Vorgaben 

• Datenqualität: Fehlerfreie, valide Daten
• Datenanonymisierung: Einwilligung bei Daten Dritter
• Dokumentationspflichten: Je nach Risikoklasse
• Meldepflichten: Bei Sicherheitsvorfällen
• Kontinuierliche Überwachung: Monitoring und Stichproben

11. Haftung und Sanktionen 

• Haftungsfälle: Beispiel Arzt-Diagnose-Fehler
• Bußgelder: Mehrere Millionen Euro möglich
• Prozentsatz: Weltweiter Jahresumsatz als Basis
• Weitere Sanktionen: Verkaufsverbote, Geschäftseinstellung

12. Handlungsempfehlungen

• Umfassende Analyse: Ziele, Vorteile, Risiken definieren
• EU AI Act Compliance Checker: Online-Tool zur Bewertung
• KI-Beauftragter: Bei höherem Risiko empfohlen
• Aufgaben des KI-Beauftragten: Entwicklung, Kontrolle, Dokumentation

13. Mitarbeiterschulung

• Schulungsinhalte: Umgang, Dateneingabe, Ergebnisüberprüfung
• Stichprobenkontrollen: Regelmäßige Überprüfung
• Risikomanagement: Risiken identifizieren und minimieren
• Transparenz: Verständliche Kommunikation schafft Vertrauen

14. Praktische Checkliste

• KI-Strategie definieren: Zweck, Mehrwert, Sinn
• Anforderungen klären: Technisch, kommerziell, rechtlich
• Beschaffung: SaaS vs. eigene Lösung
• Rechtliche Prüfung: Zulässigkeit, Ethik, Grundrechte
• Vertragsgestaltung: Lizenzierung, Nutzungsrechte, AGB-Anpassung

15. Praxisbeispiele und Problemfelder 

Text- und Bilderstellung (Marketing):

• Urheberrechtsprobleme bei KI-generierten Inhalten
• Keine Schutzfähigkeit von KI-Ergebnissen
• Notwendigkeit eigener geistiger Schöpfung

Softwareentwicklung:

• Schutz nur bei erheblichem menschlichen Beitrag
• Problem der KI-"Halluzinationen"
• Obligatorische Ergebniskontrolle

Content-Erstellung/Crawler:

• Zusammenfassung von Internet-Inhalten
• Risiko falscher Quellenangaben
• Beispiel: US-Anwalt mit erfundenen Urteilen

IT-Sicherheit:

• Spam-Filter, Phishing-Schutz
• Datenschutz bei E-Mail-Scanning
• Konzepterstellung erforderlich

Bewerbermanagement:

• Vorselektion von Bewerbungen
• Diskriminierungsrisiken
• DSGVO-Compliance erforderlich

Eigenentwicklung für Dritte:

• Höhere Anforderungen bei Service-Angeboten
• Versicherungsschutz erwägen
• Umfassende Dokumentation

16. Fazit und Ausblick 

• Sensibilisierung: Bewusstsein für Auswirkungen schaffen
• Transparenz: Angst bei Mitarbeitern/Kunden nehmen
• Chancen nutzen: KI als Unterstützung, nicht Ersatz
• Vorbereitung: Durchdachter Einsatz bringt Mehrwert

Fazit: Die KI-Pflichtschulung bietet eine umfassende, praxisorientierte Einführung in die KI-Verordnung und eignet sich gut als Grundlagenschulung für Mitarbeiter, die KI-Systeme als Anwender nutzen.

Es erfüllt die Anforderungen einer standardisierten Schulung nach Artikel 4 der KI-Verordnung für niedrigriskante KI-Anwendungen.

HINWEIS FÜR BESTELLUNGEN FÜR MEHRERE TEILNEHMER

Sie können hier für bis zu 5 Teilnehmern bestellen (rechts oben im Bestellformular die Menge auswählen), ab 6 Teilnehmern übernehmen wir für Sie die Registrierung Ihrer Teilnehmer, schicken Sie uns dazu einfach eine E-Mail an buchhaltung@uhdigital.net mit der Nennung des Rabatt-Codes.