Hochrisiko-KI-System

Ein Hochrisiko-KI-System ist eine im EU AI Act definierte Risikokategorie für KI-Anwendungen, die erheblichen Einfluss auf Gesundheit, Sicherheit oder Grundrechte haben können, etwa in der Bewerberauswahl, Kreditvergabe oder Medizin. Für diese Systeme gelten besonders strenge Pflichten, die deutlich über die einfache Transparenzpflicht hinausgehen.

Was ist ein Hochrisiko-KI-System?

Der EU AI Act teilt KI nach Risiko ein. Die zweithöchste Stufe, „hohes Risiko“, umfasst KI-Systeme, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder die Grundrechte von Menschen haben können. Solche Systeme sind nicht verboten, unterliegen aber besonders strengen Auflagen.

Hinweis zur Einordnung: Dieser Beitrag dient der Orientierung, nicht der Rechtsberatung. Ob ein konkretes System als Hochrisiko gilt, klären Sie mit einem Anwalt.

Typische Beispiele

Zu den Bereichen, in denen KI als hochriskant eingestuft sein kann, zählen unter anderem:

• KI in der Personalauswahl, etwa automatisches Vorsortieren von Bewerbungen.
• KI in der Kreditwürdigkeitsprüfung von Privatpersonen.
• KI in kritischer Infrastruktur, Medizinprodukten oder der Strafverfolgung.

Ein gewöhnlicher KI-Chatbot für den Kundenservice fällt in der Regel nicht in diese Kategorie, sondern in die Stufe „begrenztes Risiko“ mit der Transparenzpflicht.

Welche Pflichten gelten?

Hochrisiko-Systeme tragen weiter reichende Anforderungen als nur eine Offenlegung. Dazu gehören etwa ein Risikomanagement, Anforderungen an Datenqualität, technische Dokumentation, menschliche Aufsicht und Protokollierung. Der genaue Pflichtenkatalog und die Übergangsfristen sind im AI Act geregelt und teils später wirksam als die Transparenzpflichten nach Artikel 50 (die ab dem 2. August 2026 gelten).

Was das für KMU bedeutet

Für die meisten kleinen und mittleren Unternehmen ist die Hochrisiko-Stufe nicht der Alltag. Wichtig ist die saubere Einordnung: Ein Service-Bot, der Fragen beantwortet und Termine bucht, ist meist „begrenztes Risiko“. Setzen Sie KI dagegen in sensiblen Entscheidungen wie der Bewerberauswahl ein, sollten Sie früh prüfen lassen, ob die Hochrisiko-Pflichten greifen.

SendSeven im Kundenservice

SendSeven ist eine Unified-Messaging-Plattform für WhatsApp, Telegram, SMS, Instagram, Messenger, E-Mail, Live Chat und Browser Push. Der Einsatzbereich ist die Kundenkommunikation, die typischerweise unter „begrenztes Risiko“ fällt. Der KI-Assistent unterstützt Sie bei der passenden Pflicht: eine konfigurierbare KI-Offenlegung macht den Bot erkennbar, mit jederzeitiger Übergabe an einen Mitarbeiter. Eingerichtet über die KI-Bots. DSGVO-konform, Made in Germany, Meta Business Partner. 14 Tage kostenlos testen, ohne Kreditkarte.