--- name: ki-vo-hochrisiko-konformitaetsbewertung description: "KI-VO-Konformitätsbewertung für Hochrisiko-KI-Systeme nach Art: 16-29 KI-VO 2024/1689. Anwendungsfall Unternehmen entwickelt oder setzt Hochrisiko-KI ein und benoetigt CE-Kennzeichnung und Konf..." --- # KI-VO-Konformitätsbewertung für Hochrisiko-KI-Systeme nach Art ## Arbeitsweg - Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht? - Fristen und Eilrisiken zuerst markieren: nur die Fristen des konkreten Rechtsgebiets und der Akte verwenden; Widerspruch, Klage, Einspruch, Rechtsmittel, Verjährung, Verwirkung, Rüge-, Anzeige-, Anmelde- und Ausschlussfristen strikt trennen und nie aus einem anderen Fachgebiet übernehmen. - Tragende Normen verifizieren: DSGVO Art. 5, 6, 7, 9, 12-22, 25, 28, 30, 32, 33-34, 35, 51-58, 77-83, BDSG §§ 22-25, 26, 30; DSGVO; BDSG; TTDSG — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate. - Zuständige Stelle bestimmen und Adressaten richtig wählen: Mandant, Gegner, zuständige Behörde oder Gericht, Sachverständige, ggf. EU-/internationale Stelle (siehe Skill-Detail). - Dokumente und Beweismittel sammeln und auf Lücken prüfen: Verwaltungsakte, Vertragsurkunden, Schriftsätze, Bescheide, Protokolle, Sachverständigengutachten und externe Beweismittel des Fachgebiets — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis. **Fokus:** KI-VO-Konformitätsbewertung für Hochrisiko-KI-Systeme nach Art. 16-29 KI-VO 2024/1689. Anwendungsfall Unternehmen entwickelt oder setzt Hochrisiko-KI ein und benoetigt CE-Kennzeichnung und Konformitätserklarung. Normen KI-VO 2024/1689 Anhang III Hochrisiko-Liste Art. 48 CE-Kennzeichnung Art. 99 Bußgelder bis 35 Mio EUR Anwendbarkeit ab 2.8.2026. Prüfraster Risiko-Klassifikation Anhang-III-Prüfung Risikomanagement Daten-Governance Dokumentation Transparenz Cybersicherheit menschliche Aufsicht. Output Konformitätsbewertungsdossier mit Prüfergebnis Maßnahmenplan und CE-Kennzeichnungsunterlage. Abgrenzung zu ki-governance-Plugin und fachanwalt-it-recht-datenschutz-folgenabschaetzung. ### KI-VO High-Risk-System Konformitätsbewertung Art. 16–29 ## Kaltstart-Rückfragen 1. Welche Funktion hat das KI-System — was tut es, in welchem Kontext wird es eingesetzt (Einstellungsentscheidungen, Kreditbewertung, biometrische Erkennung, medizinische Diagnose)? 2. Ist der Mandant Anbieter (Inverkehrbringer, Art. 3 Nr. 3 KI-VO) oder Betreiber (Deployer, Art. 3 Nr. 4 KI-VO)? Begründung: Pflichtenkatalog unterscheidet sich erheblich. 3. In welchem Mitgliedstaat wird das System erstmalig in Verkehr gebracht oder in Betrieb genommen? 4. Handelt es sich um ein Altsystem (vor 2.8.2026) oder eine Neuentwicklung? 5. Liegt bereits ein ISO-13485- oder ISO-9001-zertifiziertes Qualitätsmanagementsystem vor (erleichtert Konformitätsbewertung)? 6. Soll eine Benannte Stelle (Notified Body) eingeschaltet werden (Pflicht bei Biometrik und Systemen für kritische Infrastruktur)? 7. Wie ist der Zeitplan bis Markteinführung — wann muss CE-Kennzeichnung vorliegen? 8. Gibt es bereits eine KI-Folgenabschätzung oder eine Datenschutz-Folgenabschätzung (Art. 35 DSGVO) im Zusammenhang mit dem System? - **Was will der Mandant wirklich erreichen?** (Nicht: was steht im Standardweg, sondern: welches Ergebnis ist für den Mandanten persoenlich/wirtschaftlich das beste? Manchmal ist der schnellere Vergleich besser als der formal "richtige" Weg.) ## Rechtsgrundlagen ### KI-VO (EU) 2024/1689 - **Art. 3** — Begriffsbestimmungen: KI-System, Hochrisiko-KI-System, Anbieter, Betreiber, Inverkehrbringen. - **Art. 5** — Verbotene KI-Praktiken (Manipulation, Social Scoring, Real-Time-Biometrie im öffentlichen Raum); Verstöße: Bußgeld bis 35 Mio. EUR oder 7 % Umsatz (Art. 99 Abs. 3). - **Art. 6 i. V. m. Anhang III** — Hochrisiko-Definition. - **Art. 9** — Risikomanagementsystem: kontinuierlich, dokumentiert, über gesamten Lebenszyklus. - **Art. 10** — Datensätze und Daten-Governance: Training-, Validierungs-, Testdatensätze; Relevanz, Vollständigkeit, Freiheit von Fehlern. - **Art. 11 i. V. m. Anhang IV** — Technische Dokumentation. - **Art. 12** — Aufzeichnungspflichten (Logging, automatisch und unveränderbar). - **Art. 13** — Transparenz und Bereitstellung von Informationen an Betreiber; Benutzerhandbuch. - **Art. 14** — Menschliche Aufsicht: wirksame Eingriffs- und Überwachungsmöglichkeit. - **Art. 15** — Genauigkeit, Robustheit, Cybersicherheit: Stresstest, Fehlererkennung. - **Art. 16–22** — Anbieter-Pflichten: Konformitätsbewertung, EU-Konformitätserklärung, CE-Kennzeichnung, Registrierung, Ergreifung von Korrekturmaßnahmen. - **Art. 26–29** — Betreiber-Pflichten: technische und organisatorische Maßnahmen, Informationspflichten, Vorabfolgenabschätzung bei öffentlichen Stellen. - **Art. 43** — Konformitätsbewertungsverfahren: interne Kontrolle (Anhang VI) oder Bewertung durch Benannte Stelle (Anhang VII). - **Art. 47** — EU-Konformitätserklärung; Inhalt nach Anhang V. - **Art. 48** — CE-Kennzeichnung; Art. 49 — Registrierung EU-Datenbank. - **Art. 72–73** — Nachmarktüberwachung; Meldepflicht schwere Vorfälle binnen 15 Tagen. - **Art. 99** — Bußgelder. - **Art. 113** — Anwendungszeitpunkte. ### Anwendungszeitpunkte (Art. 113 KI-VO) | Kategorie | Anwendbar ab | |---|---| | Verbotene Praktiken Art. 5 | 2.2.2025 | | GPAI-Modelle (Anhang XII) | 2.8.2025 | | Hochrisiko-Systeme Anhang III | 2.8.2026 | | Hochrisiko-Systeme Anhang I (Sicherheitskomponenten) | 2.8.2027 | | Altsysteme (bereits in Betrieb vor 2.8.2026) | 2.8.2027 Übergangsfrist | ### Ergänzende Rechtsquellen - **DSGVO Art. 35** — Datenschutz-Folgenabschätzung; häufig bei Hochrisiko-KI parallel Pflicht. - **NIS2UmsuCG** — bei KI in kritischer Infrastruktur Meldepflichten. - **Produktsicherheitsverordnung (EU) 2023/988** — für KI in Produkten. - **MDR (EU) 2017/745** — bei KI in Medizinprodukten (eigenständiges Regime + KI-VO-Overlay). ## Anhang III — Hochrisiko-Klassifikation | Nr. | Bereich | Beispiele | |---|---|---| | 1 | Biometrische Identifikation und Kategorisierung | Gesichtserkennung, Emotionserkennung | | 2 | Kritische Infrastruktur | Steuerung Verkehr, Wasser, Energie, Gas | | 3 | Bildung / Berufsbildung | Zulassungssoftware, Prüfungsbewertung | | 4 | Beschäftigung / Personalauswahl | Recruiting-Algorithmen, Leistungsbewertung | | 5 | Wesentliche private und öffentliche Dienste | Kredit-Scoring, Lebensversicherung-Prüfung | | 6 | Strafverfolgung | Polygraph, Profiling, Risikobewertung | | 7 | Migration / Asyl / Grenzkontrolle | Dokumentenprüfung, Risikoklassifikation | | 8 | Justizverwaltung | Urteilsfindungs-Assistenz, Gefängnismanagement | ## Prüfschema | Nr. | Prüfschritt | Norm | Kernfrage | |---|---|---|---| | 1 | Verbotene Praxis (Art. 5) | Art. 5 KI-VO | Manipulation, Social Scoring, Real-Time-Biometrie? | | 2 | Hochrisiko-Klassifikation Anhang III | Art. 6 i. V. m. Anhang III | Welcher Tatbestand — Unternummern 1–8? | | 3 | Art. 6 Abs. 3 Ausnahmen | Art. 6 Abs. 3 KI-VO | Nebenleistung ohne eigenständige Risikowirkung? | | 4 | Anbieter vs. Betreiber | Art. 3 Nr. 3/4 KI-VO | Pflichtenzuordnung | | 5 | Risikomanagementsystem | Art. 9 KI-VO | Dokumentiert, kontinuierlich, Lebenszyklusansatz? | | 6 | Datensatz-Governance | Art. 10 KI-VO | Training/Validierung/Test — Qualitätskriterien? | | 7 | Technische Dokumentation | Art. 11 + Anhang IV KI-VO | Anhang IV vollständig? | | 8 | Logging-Anforderungen | Art. 12 KI-VO | Automatische Aufzeichnung tätigkeitsspezifisch? | | 9 | Transparenz | Art. 13 KI-VO | Benutzerhandbuch vorhanden? | | 10 | Menschliche Aufsicht | Art. 14 KI-VO | Eingriffsmöglichkeit technisch implementiert? | | 11 | Robustheit / Cybersicherheit | Art. 15 KI-VO | Stresstest, Fehlerresilienz, CVSS-Bewertung? | | 12 | Konformitätsbewertungsverfahren | Art. 43 KI-VO | Interne Kontrolle (Anhang VI) oder Benannte Stelle (Anhang VII)? | | 13 | EU-Konformitätserklärung | Art. 47 + Anhang V KI-VO | Inhalt vollständig? | | 14 | CE-Kennzeichnung | Art. 48 KI-VO | Korrekte Anbringung? | | 15 | Registrierung EU-Datenbank | Art. 49 KI-VO | Eintragung erfolgt? | ## Strategische Optionen (vor dem Template entscheiden) Bevor das Template eins-zu-eins gefuellt wird, ist zu prüfen welche Variante zur Mandantenkonstellation passt. Das Template ist **eine** moegliche Form — nicht die einzige. | Konstellation | Empfohlener Weg | |---|---| | Standard — KI-VO Hochrisiko-Konformitaetsbewertung | Konformitaetsbewertungs-Protokoll; Template unten | | Variante A — Kein Hochrisiko-System | Vereinfachtes Compliance-Register; CE-Kennzeichnung entfaellt | | Variante B — Inverkehrbringen durch Drittanbieter | Importeur/Haendler-Pflichten Art. 23 ff. KI-VO prüfen | | Variante C — Open-Source-KI | Ausnahmen Art. 2 Abs. 10 KI-VO prüfen | Wenn die Mandantenkonstellation **nicht** ins Standardschema passt, ist das Template anzupassen oder durch ein anderes Skill abzuloesen — nicht das Mandat in das Schema zu pressen. ## Schriftsatzbausteine ### EU-Konformitätserklärung (Musterstruktur, Art. 47 KI-VO) ``` EU-KONFORMITAETSERKLAERUNG gemaess Art. 47 der Verordnung (EU) 2024/1689 (KI-Verordnung) Nr.: [Erklaerungsnummer] Datum: [Ausstellungsdatum] 1. Anbieter Name: [Unternehmen] Anschrift: [...] EU-Repraesentant (falls Nicht-EU): [...] 2. Beschreibung des KI-Systems Bezeichnung: [Systemname] Modell-Nummer / Version: [...] Beabsichtigter Zweck: [Funktion, Sektor] Hochrisiko-Tatbestand Anhang III Nr. [X]: [Beschreibung] 3. Erklaerung der Konformitaet Das oben beschriebene KI-System erfullt die Anforderungen der Verordnung (EU) 2024/1689, insbesondere: - Risikomanagementsystem Art. 9 - Daten-Governance Art. 10 - Technische Dokumentation Art. 11 (Anhang IV) - Logging Art. 12 - Transparenz Art. 13 - Menschliche Aufsicht Art. 14 - Genauigkeit und Robustheit Art. 15 4. Konformitaetsbewertungsverfahren [X] Interne Kontrolle gemaess Anhang VI [ ] Benannte Stelle: [Name, Nummer] gemaess Anhang VII Zertifikatsnummer (falls Benannte Stelle): [...] 5. Harmonisierte Normen und technische Spezifikationen [ISO 42001, ISO 27001, ...] 6. Unterzeichnung Ort, Datum: [...] Handlungsbevollmaechtigter: [Name, Funktion, Unterschrift] ``` ### Anschreiben bei NCA-Anfrage (Marktüberwachung) ``` An: [Nationale Kompetenzbehoerde / Marktaufsichtsbehoerde] Betreff: KI-VO Hochrisiko-System [Systemname] — Antwort auf Auskunftsverlangen vom [Datum] I. Systemidentifikation [Name, Version, Anhang-III-Tatbestand] II. Konformitaetsstatus CE-Kennzeichnung erteilt am [Datum]. EU-Konformitaets- erklaerung liegt als Anlage bei. Technische Dokumentation (Anhang IV) auf Anforderung bereit. III. Risikomanagementsystem Art. 9 [Beschreibung des Lebenszyklus-Risikomanagements; letzte Aktualisierung; verwendete Normen] IV. Nachmarkt-Monitoring Art. 72 [Monitoring-Konzept; bisher aufgetretene Vorfaelle: keine / meldepflichtige Vorfaelle Art. 73: gemeldet am Datum] V. Kooperation Wir stehen für weitere Auskuenfte zur Verfuegung und benennen als Kontaktperson: [Name, E-Mail, Tel]. Anlagen: - EU-Konformitaetserklaerung - Technische Dokumentation Zusammenfassung - Logging-Protokoll Auszug Mit freundlichen Gruessen ``` --- vor Versand klären --- 1. Welches Verhandlungsziel hat der Mandant? [Bestand / Abfindung / Reputation / Schnelle Loesung] 2. Welche Kompromisslinien sind absolut? [Mindestabfindung / Freistellung / Zeugnisformulierung] 3. Sind Anschlusswege erwuenscht? [Mediation / Direktgespraech / Settlement vor Klageerhebung] ## Beweislast und Darlegungslast | Frage | Last | Norm | |---|---|---| | Konformität mit KI-VO | Anbieter (Rechenschaftspflicht; Dokumentation) | Art. 16 lit. a KI-VO | | Fehlendes Qualitätsmanagementsystem | Aufsichtsbehörde (Bußgeldtatbestand) | Art. 99 KI-VO | | Hochrisiko-Klassifikation | Behörde — aber Anbieter muss Selbsteinstufung dokumentieren | Art. 6 KI-VO | | Robustheit / Sicherheitstest | Anbieter — Stresstest-Dokumentation erforderlich | Art. 15 KI-VO | | Schwerwiegender Vorfall Art. 73 | Anbieter — 15-Tage-Meldepflicht | Art. 73 KI-VO | ## Fristen und Verjährung | Pflicht | Frist | Norm | |---|---|---| | Meldung schwere Vorfälle | 15 Tage nach Bekanntwerden | Art. 73 KI-VO | | Korrekturmaßnahmen bei Gefahr | Unverzüglich; Behörde unterrichten | Art. 20 KI-VO | | Registrierung EU-Datenbank | Vor Inverkehrbringen | Art. 49 KI-VO | | Aufbewahrung technische Dokumentation | 10 Jahre nach letztem Inverkehrbringen | Art. 18 KI-VO | | Aufbewahrung Logs | Mindestens 6 Monate (erweiterbar) | Art. 12 KI-VO | | Übergangsfrist Altsysteme | 2.8.2027 | Art. 113 Abs. 3 KI-VO | ## Typische Gegenargumente und Reaktion | Einwand | Reaktion | |---|---| | System ist nur Hilfssystem — kein eigenständiger Entscheidungsprozess | Art. 6 Abs. 3 KI-VO: Ausnahme nur wenn tatsächlich keine eigenständige Risikowirkung; Beweislast beim Anbieter | | DSGVO-Folgenabschätzung reicht aus | Art. 35 DSGVO und Art. 9 KI-VO sind kumulativ; verschiedene Schutzgüter | | System noch in Entwicklung — KI-VO gilt nicht | Ab Inverkehrbringen oder Inbetriebnahme (Art. 3 Nr. 11); bei internem Einsatz Betreiberpflichten | | Benannte Stelle zu teuer | Pflicht nur bei Biometrie (Anhang III Nr. 1) und KRITIS (Anhang III Nr. 2); für die meisten Fälle interne Kontrolle Anhang VI ausreichend | | Kein Vorsatz — nur Fahrlässigkeit | Bußgelder Art. 99 KI-VO gelten auch fahrlässig; Bußgeld bis 15 Mio. EUR oder 3 % | ## Bußgeldrahmen Art. 99 KI-VO | Verstoß | Bußgeld | |---|---| | Verbotene Praktiken Art. 5 | bis 35 Mio. EUR oder 7 % Weltjahresumsatz | | Hochrisiko-Pflichten Art. 9–15 | bis 15 Mio. EUR oder 3 % Weltjahresumsatz | | Falsche Auskünfte / Irreführung | bis 7,5 Mio. EUR oder 1,5 % Weltjahresumsatz | ## Streitwert und Kosten - Konformitätsbewertung intern: Projektkosten 50.000–300.000 EUR (je Komplexität). - Benannte Stelle (Anhang VII): 20.000–100.000 EUR für Audit und Zertifizierung. - ISO-42001-Zertifizierung: 15.000–50.000 EUR. - Anwaltshonorar bei KI-VO-Compliance-Projekt: Zeithonorar 200–450 EUR/h. - RVG-Streitwert bei behördlichem Verfahren: analog Verwaltungsrecht GKG, 5.000–100.000 EUR. ## Strategische Empfehlung | Situation | Empfehlung | |---|---| | Neuentwicklung Hochrisiko-System | Compliance ab Beginn einbauen (Privacy by Design, AI by Design); Technische Dokumentation parallel führen | | Altsystem — Übergangsfrist bis 2.8.2027 | Gap-Analyse sofort; Roadmap bis 07/2027 | | System nicht sicher Hochrisiko | Klassifikations-Analyse dokumentieren; bei Unsicherheit konservativ Hochrisiko annehmen | | GPAI-Modell (z. B. LLM-basiert) | Gesondertes Regime Art. 51 ff. KI-VO; Systemkarten-Anforderungen beachten | ## Anschluss-Skills - `fachanwalt-it-recht-saas-vertrag-verhandlung` — KI-SaaS-Vertrag - `cyber-incident-response-72h` — bei KI-Sicherheitsvorfall - `fachanwalt-it-recht-cyber-vorfall-sofortmassnahmen` — IT-Sicherheitsvorfälle ## Quellen und Updates - KI-VO (EU) 2024/1689, in Kraft 01.08.2024; Hochrisiko-Pflichten Anhang III ab 02.08.2026. - DSGVO Art. 35 (Datenschutz-Folgenabschätzung) - NIS2-Richtlinie (EU) 2022/2555 - EU-KI-Office: ai-office.ec.europa.eu - ISO/IEC 42001 (KI-Managementsystem) - BSI KI-Leitfaden ## Faktische Updates (Stand 05/2026) - **02.08.2026 — Hochrisiko Anhang III in Kraft:** Anbieter und Betreiber von Hochrisiko-KI-Systemen nach Anhang III müssen alle Pflichten des Kapitels III KI-VO erfuellen (Art. 113 lit. c KI-VO). Konformitaetsbewertung (Art. 43), CE-Kennzeichnung (Art. 48), EU-Datenbank-Registrierung (Art. 71) sind ab diesem Stichtag Voraussetzung für das Inverkehrbringen / die Inbetriebnahme. - **02.08.2027 — Hochrisiko Anhang I:** Verlaengerte Frist für KI als Sicherheitskomponente in Produkten der Anhang-I-Liste (Maschinen-VO, MDR, Spielzeug-RL etc.). - **Harmonisierte Normen:** CEN/CENELEC arbeitet an harmonisierten Normen (insb. ISO/IEC 42001 — KI-Managementsystem, ISO/IEC 23894 — Risikomanagement, ISO/IEC 24029 — Robustheit). Bei freiwilliger Anwendung Vermutung der Pflichtenkonformitaet (Art. 40 KI-VO). Live-Status der Veroeffentlichung prüfen. - **EU-AI-Office:** seit Beginn 2025 voll operativ; zuständig für GPAI-Modelle, Koordinierung mit nationalen Marktueberwachungsbehoerden, Best Practices. - **EU-Datenbank Art. 71:** Hochrisiko-KI-Datenbank (commercial, in beta) live prüfen über digital-strategy.ec.europa.eu. - Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über curia.europa.eu (EuGH) oder offizielle nationale Quellen verifizieren. ## Aktuelle Rechtsprechung (v14.2) - Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren. ## Zentrale Normen (Paragrafenkette) - Art. 3 Nr. 1, Art. 6 Abs. 2 iVm Anhang III KI-VO — Hochrisiko-KI-System - Art. 9–15, 17–20 KI-VO — Pflichten des Anbieters (Hochrisiko) - Art. 26 KI-VO — Pflichten des Betreibers - Art. 43–49 KI-VO — Konformitätsbewertung; Konformitätserklärung; EU-Datenbankregistrierung - Art. 99 KI-VO — Sanktionen bis 35 Mio. EUR oder 7 % Konzernumsatz ## Triage zu Beginn 1. Liegt ein KI-System nach Art. 3 Nr. 1 KI-VO vor? 2. Ist es in Anhang III (Hochrisiko) gelistet? (Biometrik, Infrastruktur, Bildung, Beschäftigung, Kreditbewilligung, Justiz) 3. Mandanten-Rolle: Anbieter (Art. 16 ff.) oder Betreiber (Art. 26)? 4. Zeitplan: Anwendbarkeit für diesen Hochrisiko-Bereich? (02.08.2026 oder 02.08.2027 Anhang I) ## Output-Template — KI-VO-Hochrisiko-Konformitätsbewertung **Adressat:** Rechtsabteilung / Produktverantwortliche — Tonfall: sachlich-juristisch ``` KI-VO Hochrisiko-Konformitätsbewertung [DATUM] System: [SYSTEMNAME] Anbieter: [NAME] | Betreiber: [NAME] Anhang-III-Eintrag: Nr. [X] lit. [Y] — [BEZEICHNUNG] Anbieter-Pflichten-Status (Art. 16–20 KI-VO): | Pflicht | Norm | Status | |--------------------------------------|----------|------------| | Risikomanagement Art. 9 | | | | Daten-Governance Art. 10 | | | | Technische Dokumentation Art. 11 | | | | Aufzeichnungspflichten Art. 12 | | | | Transparenz/Betreiber-Info Art. 13 | | | | Menschliche Aufsicht Art. 14 | | | | Genauigkeit/Robustheit Art. 15 | | | Konformitätsbewertung (Art. 43): interne Bewertung / Drittpartei-Notifizierte Stelle CE-Kennzeichnung (Art. 48): abgeschlossen / ausstehend EU-Datenbankregistrierung (Art. 71): abgeschlossen / ausstehend Anwendbarkeitsdatum: [02.08.2026 / 02.08.2027] Sanktionsrisiko: Art. 99 KI-VO — bis 35 Mio. EUR / 7 % ```